Die neue Kollegin KI

Im Gespräch erläutern Martina Hofmann, Geschäftsbereichsleiterin „Business Intelligence / Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit, Prof. Dr. Dr. Thomas Fuchs, Philosoph, Psychiater und Karl-Jaspers-Professor für philosophische Grundlagen der Psychiatrie und Psychotherapie sowie Josef Menter, Data Scientist bei der Bundesdruckerei GmbH, die Potentialen und Grenzen der Künstlichen Intelligenz. Gemeinsam geben sie einen Ausblick, worin künftig die Chancen der KI liegen.

Frau Hofmann, Sie beschäftigen sich als Geschäftsbereichsleiterin im IT-Systemhaus der Bundesagentur für Arbeit schon eine ganze Weile mit den Einsatzmöglichkeiten von Künstlicher Intelligenz in der Verwaltung. Wann hat das begonnen? 

Martina Hofmann: Wir haben 2018 damit begonnen, das Thema Künstliche Intelligenz aufzugreifen. Damals haben wir in der IT ein Kompetenzzentrum für KI und Machine-Learning aufgebaut. Wir sind dabei sehr iterativ vor gegangen. Das heißt, dass wir unser Vorgehen von Anwendungsfall zu Anwendungsfall immer wieder geprüft und getestet haben. Aus dem Maschinenraum der IT heraus war das damals eine total spannende Sache … und ist es bis heute geblieben.

Wo kann die KI denn schon sehr gut unterstützen? 

Hofmann: Ich sehe hier aktuell zwei große Bereiche. Zum einen kann sie bei der Automatisierung der Verwaltung unterstützen. Dort gibt es unglaublich viele Texte und manuelle Formulare, die an vielen Stellen auch schon digital ausgefüllt werden. Hier kann die KI gut unterstützen. Und zum anderen liegen uns im Data Warehouse natürlich Daten vor, die in der Vergangenheit gesammelt wurden. Wir wollen nun schauen, was wir mithilfe der KI aus diesen Daten herauslesen können in Bezug auf den Arbeits- und Sozialmarkt.

Herr Menter, Sie arbeiten als Data Scientist bei der Bundesdruckerei GmbH. Wie setzen Sie und Ihre Kollegen und Kolleginnen aus der Abteilung „Innovations“ Künstliche Intelligenz ein? 

Josef Menter: Das Hauptaugenmerk liegt in unserem Bereich auf der Erforschung und Implementierung dieser Technologie. Der Fokus ist hier vor allem das Thema Sicherheit. Unser Ziel ist es, bei dem Aufbau einer souveränen und selbstbestimmten digitalen Verwaltung mitzuwirken. Wir sehen uns in der gesellschaftlichen Verantwortung, dieses Thema voranzubringen. Wir wollen die Bundesverwaltung dabei unterstützen, KI-Technologien einzuführen. Das wird die Verwaltung effizienter machen, sowohl für den Bund als auch für die Bürgerinnen und Bürger. Wir wollen die Datenqualität steigern und die Datenverarbeitung verbessern und legen dabei Wert auf die Anonymität und Pseudonymisierung der Daten. Besonders spannend ist es, dass wir nicht nur zum „State of the Art“ und zu konkreten Anwendungen im Bereich der generativen KI forschen …

… sondern auch dazu, was KI morgen kann?

Menter: Genau. Wir planen parallel schon mittel- und langfristige Projekte, bei denen wir auch gesellschaftliche Fragestellungen mit betrachten, zum Beispiel zum Quantum Machine Learning. Diese Technologie könnte noch sehr viel komplexere Probleme lösen als derzeitige Algorithmen.

Herr Fuchs, Sie sind Philosoph und Psychiater. In Ihrer 2020 erschienenen Anthropologie „Verteidigung des Menschen“ schreiben Sie sinngemäß, dass unser Menschsein und unsere Lebendigkeit die Grundlage einer selbstbestimmten Existenz seien. Wir sollten die neuen Technologien nur als Mittel gebrauchen, statt uns ihnen zu unterwerfen. Das klingt erst mal kompliziert, ist es aber wahrscheinlich nicht, oder? 

Thomas Fuchs: (lacht) Wir haben es doch auch mit einer neuen, komplexen Technik zu tun! Also, damit meine ich, dass ich den Eindruck habe, die Fortschritte der Künstlichen Intelligenz, der Digitalisierung und auch der Hirnforschung vermitteln uns immer mehr den Eindruck, der Mensch sei selbst ein Produkt aus Daten und Algorithmen. Das heißt, wir begreifen uns selbst nach dem Bild unserer Maschinen, unser Geist wird als Computermodell wahrgenommen. Und umgekehrt betrachten wir unsere Maschinen immer mehr als eine Art Gegenüber. Und da machen wir natürlich einen fundamentalen Fehler. 

Inwiefern?

Fuchs: Maschinen sind nicht leiblich, sie sind auch nicht lebendig. Auch wenn Maschinen den Eindruck erwecken, verständliche Texte produzieren zu können, oder vorgeben, uns zu verstehen, auch wenn sie Gefühle und Selbsterleben simulieren, dann bleibt es am Ende genau das: eine Simulation. Und die Gefahr besteht nun darin, dass wir den Systemen, weil sie so unerhört klug scheinen, immer mehr Entscheidungen über-lassen, die nur noch für wenige durchschaubar sind und sich damit auch einer demokratischen Kontrolle entziehen. 

Der Mensch wird also schon noch gebraucht, um Entscheidungen zu prüfen, die die KI trifft?

Fuchs: So ist es. Wir Menschen sind eben nicht Algorithmen. Wir sind leibliche, lebendige und fühlende Wesen, die sich fundamental von Maschinen unterscheiden und auch nur aus diesem Grund Verantwortung übernehmen können. Und es ist entscheidend für unsere Zukunft in der digitalen Welt, zu der natürlich auch der Einsatz von Künstlicher Intelligenz gehört, dass wir diesen Unterschied nicht preisgeben, sondern an ihm festhalten.

Frau Hofmann, in Ihrem Team haben Sie unter anderem ein KI-Verfahren entwickelt, das auf die Auswertung von Studienbescheinigungen spezialisiert ist. Können Sie erklären, wie Sie dabei vorgegangen sind? 

Hofmann: Das war unser erstes KI-Projekt. Wir haben in der Familienkasse für die Kindergeldbeantragung eine Prozessautomatisierung geprüft. Das bot sich an, weil hinter dieser speziellen Aufgabe ein relativ überschaubarer Prozess steckte. Sobald ein Schüler oder eine Schülerin die Schule abgeschlossen hat und an die Uni wechselt, muss zweimal im Jahr eine Studienbescheinigung eingereicht werden, damit weiterhin Kindergeld bezogen werden kann. Das ist ein sogenanntes Massengeschäft. Es treffen also zweimal im Jahr mehrere Hunderttausend Studienbescheinigungen bei uns ein, jeweils im Frühjahr und im Herbst. Die Mitarbeiter und Mitarbeiterinnen haben diese Bescheinigungen früher alle einzeln durchgesehen und auf ihre Gültigkeit geprüft. Diese Tätigkeit wollten wir nun von einem KI-Programm übernehmen lassen.

Die neue „Kollegin KI“ übernimmt hier also einen echten Abarbeitungsjob?

Hofmann: Richtig. Die Antragsteller und -stellerinnen können inzwischen eine digitale Studienbescheinigung hochladen und ein KI-gestütztes Programm erkennt dann, ob es sich bei dem hochgeladenen Dokument auch wirklich um eine gültige Studienbescheinigung einer staatlich anerkannten Universität handelt oder nur um ein Katzenfoto. Die KI prüft alle weiteren Eckdaten und macht dann einen Vorschlag, sie meldet dem Menschen: „Als KI bin ich zu dem Ergebnis gekommen, dass dieser Antrag vollständig ist und bewilligt werden könnte.“ Die Sachbearbeiter und Sachbearbeiterinnen prüfen dies abschließend selbst und dann steht einer Weiterzahlung des Gelds nichts mehr im Wege.

Durch solche Verfahren gewinnen wir an dieser Stelle unglaublich viel Zeit, finden Sie nicht, Herr Menter?

Menter: So sehe ich es auch. Wenn ein Bürger oder eine Bürgerin einen Antrag stellt, der teilweise automatisiert über eine KI ausgewertet werden kann, hat das zur Folge, dass diese Person auch eine schnellere Rückmeldung erhält. Und genau da setzen wir auch bei uns im Unternehmen an. Eine höhere Effizienz führt zu einer schnelleren Verwaltung, dies kommt natürlich auch den Mitarbeitenden zugute.

Herr Fuchs, wie sehen Sie es? 

Fuchs: Gut finde ich vor allem, dass wir über die Künstliche Intelligenz vorhandenes Wissen tatsächlich auch ganz neu kombinieren können. So werden wir dazu angeregt, Wissensbestände in einer ganz anderen Weise wahrzunehmen. Das ist sehr wertvoll. Trotzdem muss man natürlich immer im Blick behalten, dass der Einsatz der KI auch zu einer Beschleunigung von Prozessen beiträgt, die sonst mehr Zeit gekostet hätten. Und leider ist es in der Vergangenheit nicht immer so gewesen, dass wir dann tatsächlich mehr Zeit für kreative Tätigkeiten hatten. 

Hatten wir nicht?

Fuchs: Wenn ich mir ansehe, wie viel Zeit wir für das Füttern unserer Dokumentationssysteme im Klinikalltag benötigen, in der Psychiatrie etwa oder in der allgemeinen Klinik, und wie diese Systeme dann ständig Daten produzieren, die im Anschluss wieder analysiert werden müssen … Also, durch diese Technologien haben wir in der Klinik leider nicht unbedingt mehr Zeit gewonnen, die den Patientinnen und Patienten zugutekäme.

Sie stehen den KI-gestützten Technologien also in einigen Fällen eher skeptisch gegenüber? Viele sind ja uneingeschränkt begeistert …

Fuchs: Hier würde ich ein wenig Wasser in den Wein gießen. Zunächst sieht das alles nach einer Erleichterung aus, auch nach einer Beschleunigung … Aber diese Beschleunigung könnte am Ende wieder zu einer Arbeitsverdichtung führen, die eben leider nicht unbedingt mehr Raum für Kreativität und zwischenmenschliche Zeit schafft, obwohl gerade das ja wirklich wünschenswert wäre.

Hofmann: Das überbordende Controlling, das Sie erwähnen, Herr Fuchs, das ist doch eigentlich etwas, was Anfang der 2000er aufkam. 

Fuchs: Ja, richtig.

Hofmann: Das könnten wir doch jetzt wunderbar abschaffen, weil wir die Zahlen jetzt eben nicht mehr manuell nebeneinanderstellen müssen, sondern KIs haben, die das vereinfachen. Wir müssen uns nur trauen, alte Prozesse dann auch wegzuwerfen, wenn wir neue einführen.

Menter: Da stimme ich Ihnen zu. Ich denke, dass die KI in Zukunft eine deutliche Steigerung der Arbeitsqualität mit sich bringen könnte. Das heißt, dass wir insbesondere repetitive Aufgaben wirklich schon gut an die KI übergeben können. Dadurch entstünde im besten Fall mehr Zeit für kreative Entfaltung im Job. 

Und gleichzeitig geht es einigen Fachleuten mit den Fortschritten, die über die KI möglich sind, ja teilweise auch schon zu schnell …

Menter: Grundsätzlich finde ich es aber erst mal gut, dass in diesem Bereich derzeit viel geforscht und vorangebracht wird. Aber es stimmt. Es gibt tatsächlich auch Experten und Expertinnen, die kürzlich in einem offenen Brief forderten, dass es erst mal einen Forschungsstopp zur KI geben soll. Ihre Begründung: Die Forschungsgeschwindigkeit würde uns nun wegrennen, weil inzwischen jeder Mensch ohne besonderes Vorwissen schon eigenständig KI-Modelle generieren könne. Und darin sehe ich tatsächlich auch eine Gefahr. Aber ich bin absolut optimistisch, dass die KI-Methoden sich über das Prinzip der Nachfrage schon von selbst regulieren werden.

Herr Fuchs, Sie haben in einem Vortrag über einen Chatbot berichtet, der Patienten und Patientinnen therapiert, die unter anderem an Depressionen erkrankt sind.

Fuchs: Das ist eine Entwicklung, die auf dem Online-Therapiemarkt weithin zu beobachten ist. Hier wird die menschliche Therapie durch ein Chatbot-System ersetzt. Es gibt schon etliche solcher Systeme, die relativ verblüffend auf die Äußerungen der Betroffenen antworten. Sie geben Antworten wie „Das machst du gut, Jessica“ oder „Ich bin wirklich stolz auf dich“ oder auch „Es ist gut, dass du hier über deine Trauer sprechen kannst. Du wirst dich bald wieder besser fühlen“.

Und die Patienten und Patientinnen wussten, dass es sich um ein Computerprogramm handelt, das sie therapierte?

Fuchs: Das wussten sie schon, ja. Als Psychotherapeut sehe ich das natürlich problematisch. Mit einem Chatbot erleben wir den Widerstand nicht mehr, der zu jeder realen Begegnung mit einem anderen Menschen ja doch auch gehört. Widerstand heißt, dass mir etwas in die Quere kommt, dass etwas manchmal nicht genau meinen Erwartungen entspricht. Erst hier zeigen sich die Möglichkeiten, die eine Therapie mit einer menschlichen Therapeutin und einem Therapeuten bietet: Ich kann wirklich etwas Neues über mich erfahren.

Wollen wir einen Ausblick wagen? Worin liegen künftig die Chancen der KI für Sie? 

Das wäre ein wünschenswertes Ziel … Frau Hofmann, Herr Menter, Herr Fuchs, herzlich Dank für das sehr informative Gespräch.