Dr. Michael Neubauer
Eine ausführliche Version dieses Beitrages findet sich in einem Whitepaper von Michael Neubauer
Die meisten Gesprächspartner, denen ich in den letzten Monaten von meiner Geschäftsidee erzählt habe, stellen diese Frage nachdem „Warum“ gar nicht. Sie finden es logisch, dass jemand wie ich jetzt eine Firma mit dem Thema KI und Government gründet. Sie sagen: du hast den Marktzugang, du kennst unsere Sorgen, hast den Zugang zu den Verbänden und kennst die privaten und öffentlichen IT-Unternehmen. Dieses Zutrauen freut mich. Aber es ist nur die eine Hälfte meiner Geschäftsidee. Die andere Hälfte will ich in diesem Blockbeitrag vorstellen.
Künstliche Intelligenz ist zurzeit ein Hype-Thema. Es fehlt nicht an neuen Anwendungen und jeder ist begeistert, wenn er einen Chatbot mit OpenAI verbunden hat oder wenn man den ersten Text mit ChatGPT erstellt hat. Warum ist das so begeisternd? Weil die Chatbots der Vergangenheit schlecht waren, weil man für Texterzeugung bestenfalls einen persönlichen Assistenten oder eine Assistentin brauchte.
Wir bei der Gov-KI wollen aber etwas anderes und wir wollen mehr, viel mehr. Wir wollen KI-Anwendungen und Lösungen erstellen, die in die öffentlichen Prozesse eingebunden sind und die den Gedanken der digitalen Souveränität, des Datenschutzes und des langfristigen Investitionsschutzes berücksichtigen. Warum das ganz andere, nachhaltige Lösungen erfordert, wird in diesem Blogbeitrag erläutert.
Inhalt
- Schnelle Lösungen sind selten nachhaltig
- Integration bringt Produktivität
- Compliance, DSGVO, KI-Act & Co
- Investitionsschutz durch OpenSource
Schnelle Lösungen sind selten nachhaltig
Es gibt derzeit viele öffentliche Einrichtungen, die mit KI experimentieren: Ausfüllen von Formularen, Erzeugen von Texten oder bessere Strukturierung von Webseiten. Geschickt verwendet lassen sich so in wenigen Wochen Lösungen erstellen, die vor einigen Jahren noch Monate oder Jahre erforderten.
Als mehr oder weniger „kostenlose“ Beigabe gibt es die Möglichkeit, die Systeme über natürliche Sprache zu steuern. Wenn das ohne große Anpassungen oder „Tricks“ beim Prompt-Engineering möglich ist, sind das auch vermutlich Lösungen, die man lange Zeit nutzen kann. Vorausgesetzt man bleibt bei den „Schlüsselkompetenzen“ der KI:
- Beantworten von Fragen, deren Antwort in das Sprachmodell eintrainiert wurde.
- Zusammenfassen und gliedern von Texten.
- Erzeugen von Texten nach Vorgaben eines Benutzers
Geht man darüber hinaus, gibt es viele Risiken, die heute selbst von Experten nur schwer oder gar nicht beurteilt werden können.
Das sind zur Zeit im wesentlichen finanzielle Risiken, weil die Nutzung der großen KI-Plattformen das Problem hat, dass diese Hersteller jederzeit die Nutzungsgebühren, die bereitgestellten Versionen und die Schnittstellen anpassen können.
Mit anderen Worten: eine Lösung von heute kann morgen schon nicht mehr funktionieren oder sehr teuer werden.
Die rechtlichen Probleme, die entstehen, wenn persönliche Daten verarbeitet werden oder wenn gar Entscheidungen von KI getroffen werden, sind ein Thema für sich auf das ich später eingehe.
Integration bringt Produktivität
Wie läuft heute die Anwendung von KI ab? In den meisten Fällen greift der Anwender direkt auf das Sprachmodell zu, stellt ihm eine Frage oder gibt ihm einen Auftrag. Das erfordert meist mehr als ein Grundverständnis von der Funktionsweise der KI. Man muss sich mit dem sogenannten Prompt Engineering auseinandersetzen. Damit man der KI Daten bereitstellen kann, müssen sie mit Cut & Paste in den Anfrageschlitz kopiert werden. Dann versucht man ein gutes Ergebnis zu finden, das anschließend wieder wo anders hin kopiert werden muss – zeitaufwendig, fehleranfällig, nicht nachvollziehbar …. Ganz kritisch wird es dann, wenn in diesem Prozess geheime oder datenschutzrelevante Daten an das KI-System gegeben werden.
Mit anderen Worten: man begibt sich in die Hand des einzelnen Anwenders und hat praktische keinen Kontrolle mehr über die eigenen Daten.
Das haben die großen Marktteilnehmer längst erkannt und bieten daher unmittelbare Integrationen in ihre Anwendungen und Lösungen. Das ist ein großer Fortschritt. Aber es bleiben Datenschutzprobleme und die mangelnde Nachvollziehbarkeit der Antworten.
Gov-KI setzt hier an, indem wir auf Open-Source-Modelle setzen und diese so integrieren, dass sie weitgehend deterministisch sind und in ihrer Funktion permanent überwacht und geloggt werden. Das schafft nicht nur Produktivität, sondern auch Nachvollziehbarkeit und – vor allen Dingen – langfristigen Investitionsschutz. Denn Open-Source-Modelle lassen sich über Jahre neu trainieren, betreiben und in ihrer Funktion konstant halten.
Compliance, DSGVO, KI-Act & Co
Die heute zum Einsatz kommenden KI-Systeme benötigen, solange sie keine kritischen Daten verarbeiten und keine automatisierten Entscheidungen treffen, nach dem KI-Act keine weiteren Vorsichtsmaßnahmen und werden auch nicht reguliert.
Erst bei sog. hochkritischen Anwendungen sind umfangreiche Sicherheitsmaßnahmen notwendig. (Die Definition ist kompliziert – darauf gehe ich später einmal in einem anderen Blogeintrag ein). Die wichtigsten Schlagwörter sind:
- Lebenslanges Logging
- Risikomanagementsystem
- Permanente Überwachung
- Prüfung von Entscheidungen durch einen Menschen
Welche Auswirkungen der KI-Act haben wird, ist heute noch nicht klar. Aber ich bin mir sicher, dass die meisten Anwendungen in der öffentlichen Verwaltung mehr oder weniger zu den Hochrisiko-Anwendungen zählen.
Investitionsschutz durch Open-Source
Gov-KI setzt hier an, indem wir auf Open-Source-Modelle setzen und diese so integrieren, dass sie weitgehend deterministisch sind und in ihrer Funktion permanent überwacht und geloggt werden. Das schafft nicht nur Produktivität, sondern auch Nachvollziehbarkeit und – vor allen Dingen – langfristigen Investitionsschutz. Darüber hinaus erlauben Open-Source-Modelle auch einen On-Premise-Betrieb. Hierdurch lassen sich viele Rahmenbedingungen der KI-Anwendung sehr frei gestalten. Mit anderen Worten: sie ermöglichen auch bei der Nutzung von KI eine weitreichende digitale Souveränität,denn Open-Source-Modelle lassen sich über Jahre neu trainieren, betreiben und in ihrer Funktion konstant halten.