Ein Gespräch darüber, was passiert, wenn neuronale Netze und KI-Sprachmodelle die Regeln der Tourenplanung selbst schreiben, und was das für die Erklärbarkeit bedeutet.

Kevin Tierney ist Professor für Produktion und Logistik an der Universität Wien. Zuvor forschte er in Bielefeld und Paderborn. Er promovierte an der IT University of Copenhagen mit einer Arbeit über die Repositionierung von Flotten in der Linienschifffahrt. Er erforscht, wie Algorithmen Tourenpläne optimieren und wie KI-Sprachmodelle den Code erstellen können, der diese Planung übernimmt. Seit 2026 koordiniert er das mit 4,6 Millionen Euro geförderte europäische Doktorandennetzwerk CoRDS zu vertrauenswürdiger, datengetriebener Optimierung.

Herr Professor Tierney, wenn heute ein mittelständisches Unternehmen seine Touren plant, wie macht es das, und warum braucht es dafür überhaupt Algorithmen?

Viele Unternehmen nutzen Software auf dem Markt, die im Hintergrund sehr unterschiedliche Algorithmen benutzt, von einfachen Heuristiken bis hin zu sehr modernen, komplizierten Methoden. […] Diese Fragestellungen, wir nennen sie Optimierungsprobleme, sind mathematisch extrem schwer. Das merkt man eigentlich schon daran, wenn man versucht, ein Sudoku-Rätsel zu lösen. Diese Optimierungsprobleme haben mathematisch eigentlich den gleichen Schwierigkeitsgrad, aber sie sind viel größer und noch schwieriger. […] Wenn wir Algorithmen benutzen, können wir diese Lösungen schneller finden und meistens auch besser, als die Menschen das tun.

Viele Programme nutzen einfache Heuristiken, etwa das Nearest-Neighbor-Verfahren. Wo stoßen die an ihre Grenzen?

Die einfachen Heuristiken sind schön, weil man sie sehr gut verstehen kann. Aber das erste Problem ist, dass sie schwierige Restriktionen und die echte Welt nicht richtig berücksichtigen. Es fängt eigentlich schon damit an, dass die Fahrzeit zwischen Kunden bei einer Tourenplanung ungewiss ist. […] Dabei geht es aber nicht nur um Kosten oder Profit. Wir haben Verfahren, die Mitarbeiterbelange berücksichtigen, also zum Beispiel Fairness-Kriterien. Dass nicht ein Mitarbeiter neun Stunden arbeitet und der andere drei Stunden. Das ist auch eine wichtige Komponente meiner Forschung.

Ein verbreiteter Trick ist, aus einem fertigen Tourenplan Kunden zu entfernen und neu einzufügen. Warum hilft das?

Wenn wir genau die richtigen Kunden wüssten, könnten wir die optimale Lösung eigentlich in einer Iteration finden. Wir würden einfach die schlechten Kunden, also die, die quasi falsch eingeordnet sind, herausnehmen und in der optimalen Reihenfolge wieder hinzufügen. Aber […] wir müssen viele verschiedene Kombinationen ausprobieren. Deswegen ist dieses iterative „Zerstörung und Reparatur“ (Destroy and Repair), wie wir das nennen, eine sehr effektive Möglichkeit.

In Ihrem Paper „Neural Deconstruction Search“ übernimmt ein neuronales Netz genau diese Auswahl. Wie funktioniert das?

Das Grundprinzip ist, dass wir eine KI, also ein neuronales Netzwerk, für diese Zerstörung der Lösung benutzen. Diese KI lernt mittels Reinforcement Learning, welche Kunden am besten zu entfernen sind. Das können wir quasi 100.000 oder Millionen Mal ausprobieren, und unser Netzwerk lernt soungefähr, wie man das macht. Das funktioniert erstaunlich gut! Die neuronalen Netzwerke in diesem Paradigma sind auf Gleichstand mit den besten Algorithmen, die von Menschen gemacht wurden.

Was kann die KI besser als menschlich gebaute Regeln?

Der große Vorteil dieser KI ist, dass es ein sehr flexibles Modell ist. Menschen müssen sich Regeln überlegen, die einigermaßen starr sind. Im Gegensatz dazu kann die KI direkt an die Daten gehen und Regeln erstellen, die genau für diese Daten gut sind. Das heißt natürlich wiederum, dass unser Verfahren nur auf dem Datensatz funktioniert, auf dem wir es trainiert haben. […] Für Firmen ist unser Ansatz trotzdem von großem Interesse, weil Firmen bestimmte eigene Daten haben, für die sie immer wieder Lösungen finden müssen. Firma A interessiert sich nicht für einen Algorithmus, der auch gut für Firma B und C funktioniert.

In einem weiteren Paper lassen Sie ein Large Language Model diese Regeln schreiben. Was ändert das?

Das wirklich Spannende an diesen Methoden ist, dass wir die eigenen neuronalen Netzwerke nicht mehr brauchen. Einer der Nachteile dieser neuronalen Netzwerke war, dass sie eine Blackbox sind. […] Large Language Models hingegen schreiben einen Algorithmus und generieren normalen Quellcode, den jeder lesen und verstehen kann. Das ist ein wirklich großer Unterschied. Was wir gezeigt haben, ist, dass wir unser neuronales Netzwerk für Tourenplanungsprobleme komplett durch diesen Code ersetzen können. […] Unser Prozess dauert meist nur über Nacht. Für einen Menschen würde es mindestens ein paar Wochen, wenn nicht einen ganzen Monat dauern, denselben Code zu schreiben.

Sie bestrafen das Modell dafür, wenn es langen Code schreibt. Geht es dabei um bessere Ergebnisse oder um die Menschen?

Es geht nur um den Menschen. Tatsächlich führt diese Bestrafung zu einer minimal schlechteren Leistung, aber fast ohne statistische Signifikanz. Durch diese Bestrafung erhalten wir Quellcode, der nur halb so lang ist wie sonst. […] Dieses Modell schreibt gerne langen Quellcode, der teilweise wirklich komisch aussah. Da habe ich einmal zu den anderen Leuten im Team gesagt: „Ich habe das Gefühl, dass dieser Code von einem Außerirdischen geschrieben wurde.“

Muss man erklären können, wie die KI auf ihr Ergebnis kommt?

Wir wissen eigentlich gar nicht sicher, ob die Leute ihren Quellcode überhaupt verstehen wollen. In Gesprächen mit Firmen merken wir aber, dass es ihnen ziemlich wichtig ist zu wissen, was ungefähr passiert und wie sie eingreifen können. Es gibt interessanterweise Ergebnisse aus der Wirtschaftsinformatik, die zeigen, dass Menschen dem Code manchmal weniger vertrauen, wenn sie ihn sehr gut verstehen. […] Aber ich finde es cool, dass das LLM etwas liefert, das man selbst ändern kann. Bei neuronalen Netzwerken können wir nichts machen: Ich kann sie nicht ändern, nicht verstehen und nicht erklären.

Der EU AI Act gibt Menschen das Recht, eine algorithmische Entscheidung nachvollziehen zu können. Ist das technisch überhaupt möglich und sinnvoll?

Sinnvoll ist es auf jeden Fall, und technisch ist es oft möglich. Interessant ist aber, und das ist ein Forschungsfeld, an dem ich mit Kollegen in Dänemark und Deutschland arbeite, dass es Fälle gibt, wo Erklärungen mathematisch extrem schwierig zu erstellen sind. Das ist höchst problematisch, wenn ein Gesetz so etwas pauschal verlangt.

Setzt Ihr EU-Projekt genau dort an?

Insgesamt finde ich Erklärbarkeit sehr wichtig. Das ist auch ein Schwerpunkt meines EU-Projekts CoRDS, was für „Confident Data-Driven Decision Support" steht. Das ist ein 4,6 Millionen Euro Projekt mit fast 20 Partnern in Europa, das hier in Wien koordiniert wird. Wir versuchen, Optimierungsalgorithmen Erklärbarkeit, Robustheit, Interpretierbarkeit und Fairness zu verleihen. Das Projekt läuft bis Ende 2029.

Was müsste am Ende feststehen, damit Sie sagen, es war ein Erfolg?

Für uns ist es wichtig, dass wir methodisch, also algorithmisch und mathematisch, etwas für die Forschungscommunity anbieten können. Außerdem wollen wir konkrete Werkzeuge für Firmen und Organisationen bereitstellen, zumindest auf Prototyp-Basis, damit sie testen können, ob sie ihre Optimierungsalgorithmen für ihre Entscheidungen besser einsetzen können.

Vielen Dank für das Gespräch und viel Erfolg mit dem Projekt.

Die Fragen stellte Leon Hansmann, Student an der Fakultät für Wirtschaftswissenschaften. Das Gespräch wurde für die schriftliche Fassung gekürzt.

Auslassungen innerhalb der Antworten sind mit […] gekennzeichnet.