Die anfängliche Euphorie rund um Künstliche Intelligenz (KI) verflacht allmählich. In Deutschland wachsen die Bedenken, ob KI nicht auch unerwünschte Risiken mit sich bringt. Diese Sorgen sind nicht unbegründet, denn jede neue Technologie birgt sowohl Chancen als auch Gefahren. Es ist daher nur folgerichtig, dass der Gesetzgeber frühzeitig überlegt, wie potenziellen Gefahren begegnet werden kann. Wir kennen es aus anderen Bereichen wie Atomkraft und Datenschutz: Der ungezügelte Einsatz von Technologien kann zu erheblichen Problemen führen, die Bürger oft aufgrund mangelnder Information oder Einsicht nicht verstehen.
Die Gesetzgebung in diesem Bereich liegt häufig bei der EU, die weder für ihre Dynamik noch für unbürokratische Lösungen bekannt ist. Das Selbstverständnis der EU-Bürokratie ist dabei ein anderes. Dies zeigt sich schon daran, dass die Pressetexte der EU und der Bundesregierung stolz darauf hinweisen, dass es sich um das erste KI-Gesetz weltweit handelt:
„Today marks a major milestone in Europe’s leadership in trustworthy AI. With the entry into force of the AI Act, European democracy has delivered an effective, proportionate and world-first framework for AI, tackling risks and serving as a launchpad for European AI startups.“
— Thierry Breton, Commissioner for Internal Market
Entsteht hier ein Wettbewerb um die schnellste Regulierung? Ich könnte mir andere Stellen vorstellen, wo Behörden effizienter arbeiten könnten. Es ist zwar lobenswert, wenn Behörden motiviert an die Regulierung herangehen, um die Ersten und Besten zu sein. Gleichzeitig ist zu hinterfragen, ob es sinnvoll ist, wenn unsere Gesetzgeber in einem Wettbewerb stehen. Geht es darum, wer zuerst reguliert hat? Ist der Erste auch derjenige, der die weitere Entwicklung maßgeblich beeinflusst? Anders als im freien Markt, wo Wettbewerb eine regulierende Funktion haben kann, muss man sich bei Gesetzgebungen fragen, wie ein Wettbewerb der Regulierungen sinnvoll gestaltet werden kann. Strenge und vorschnelle Regulierungen könnten nämlich dazu führen, dass sich Märkte nicht wie gewünscht entwickeln.
Herausforderungen und Potenziale
KI ist keine neue Disziplin. Schon während meiner Zeit an der Universität habe ich mich intensiv damit beschäftigt. Der Begriff „künstliche Intelligenz“ ist jedoch problematisch, da auch die Definition menschlicher Intelligenz einem ständigen Wandel unterliegt. In den letzten Jahren haben wir viele neue Begriffe und Systeme unter dem Schirm der KI eingeführt. Früher galten beispielsweise Algorithmen in Computerspielen als Teil der KI.
Ein zentrales Problem besteht darin, dass KI oft auf die Wirkung der Programme reduziert wird. Heute denken wir bei KI meist an Systeme, die menschenähnliche Antworten liefern. Der Dialog mit KI erfolgt oft über Texteingabefelder, die als „Chatbots“ bekannt sind. Doch schnell wird klar, dass die erzeugten Antworten nicht immer den Anforderungen entsprechen, die wir an KI in konkreten Anwendungen, besonders in der öffentlichen Verwaltung, stellen. Hier geht es nicht nur um die Generierung von Text, sondern um die Einbettung in einen größeren Kontext, der zu konkreten Ergebnissen wie Bescheiden, Erlaubnissen oder Genehmigungen führt.
Es ist kaum vorstellbar, dass zukünftige KI-Systeme in der öffentlichen Verwaltung ausschließlich über Texteingabefelder funktionieren. Sollen Bürger ihre Anträge in langen Texten formulieren, woraufhin die KI einige Nachfragen stellt und am Ende eine schriftliche Genehmigung erteilt? Alle bisherigen Erfolge der Digitalisierung haben das grundsätzliche Prinzip nicht verändert: Der Bürger füllt ein Formular aus, gibt eine elektronische Willenserklärung ab und erhält ein offizielles Dokument.
Ich sehe nicht, dass die deutsche Verwaltung von diesem Prinzip abrücken wird und Verwaltungsverfahren künftig durch Chatbots abgewickelt werden.
Neue Benutzeroberflächen für KI-gestützte Systeme
Neue KI-gestützte Systeme müssen daher andere Benutzeroberflächen erhalten als die bisher bekannten. Formulare und strukturierte Abfragen werden weiterhin benötigt. Besonders bei schwer verständlichen oder erklärungsbedürftigen Fragen müssen zusätzliche Informationen bereitgestellt werden. Die Antworten der Bürger und Unternehmen müssen so begleitet werden, dass am Ende die richtigen Informationen vorliegen und korrekt in ein Formular eingefügt werden.
Was bedeutet das für den KI-Einsatz in der öffentlichen Verwaltung?
- Ersatz von Fachverfahren: Die vielen Fachverfahren in der öffentlichen Verwaltung können nicht einfach durch KI-Systeme ersetzt werden, insbesondere nicht durch solche mit Texteingabefeldern.
- Kombination bestehender Systeme: Da die Strukturierung von Verwaltungsvorgängen und die rechtlichen Entscheidungsrahmen in den heutigen Fachverfahren verankert sind, werden kommende Generationen von KI-Systemen eine Kombination aus den bestehenden Fachverfahren und neuen, unterstützenden KI-Systemen sein.
- Datenschutz beachten: Der Einsatz von Chatbots in der Verwaltung muss so gestaltet sein, dass Datenschutzrechte gewahrt bleiben.
Was bedeutet das für die Zukunft?
Die genannten Herausforderungen zeigen, dass nicht alle Probleme der öffentlichen Verwaltung mit den aktuellen Mitteln der KI gelöst werden können. Es bedarf einer genauen Analyse der Prozesse, die für KI geeignet sind. Auch wenn Chatbots und große Sprachmodelle neue Möglichkeiten bieten, zeigen sie eher das Potenzial solcher Systeme auf, als dass sie bereits die endgültigen Lösungen darstellen.
Es ist entscheidend, einen Weg zu finden, KI in die heutige Anwendungs-, Prozess- und Denkwelt zu integrieren. Ich nenne dieses Konzept „eingebettete KI“. Ähnlich wie eingebettete Systeme in der Mikroelektronik, bei denen komplexe Programmierungen unauffällig in größere Systeme integriert sind, sollten KI-Systeme in der Verwaltung agieren: Sie sollen nicht unbedingt als KI erkennbar sein, sondern als nahtlos integrierte Bestandteile der vorhandenen Strukturen fungieren.
Meine Vorstellung vom Einsatz von KI in der öffentlichen Verwaltung ähnelt dem Prinzip eingebetteter Systeme: Es gibt weiterhin traditionelle, programmierte Komponenten und solche, die mit KI realisiert sind, analog zu den elektronischen und mechanischen Teilen moderner Geräte.