Gleichheitsprinzip
Die Einhaltung des Gleichheitsprinzips ist eine der grundlegenden Anforderungen an den Einsatz von KI in der Verwaltung. Eine wesentliche Herausforderung besteht darin, dass KI-Modelle durch Biases in den Trainingsdaten oder durch systematische Ungleichheiten diskriminierende Entscheidungen treffen können. Um dies zu verhindern, empfiehlt sich gezieltes Fine-Tuning der KI-Systeme sowie der Einsatz von fachbezogenen Large Language Models (LLMs), um eine möglichst faire und ausgewogene Entscheidungsfindung sicherzustellen.
Qualität & Überprüfbarkeit
KI-basierte Entscheidungen müssen qualitativ hochwertig und nachvollziehbar sein. Dabei ist die Herausforderung, dass LLMs mitunter fehlerhafte Informationen generieren (Halluzinationen) oder inkonsistente Ausgaben liefern können. Durch die Einführung organisatorischer und technischer Korrektur- sowie Prüfungsprozesse kann die Qualität der Ergebnisse sichergestellt und dauerhaft überprüft werden.
Transparenz und Rechtssicherheit
Transparenz und Rechtssicherheit sind für das Verwaltungshandeln von zentraler Bedeutung, insbesondere bei Entscheidungen, die auf KI basieren. Eine zentrale Problematik besteht darin, dass LLMs häufig nicht über das erforderliche Fachwissen in juristischen oder verwaltungsspezifischen Themen verfügen. Zudem ist die oftmals kreative Ausdrucksweise von KI-Modellen in der juristischen Sprache problematisch. Abhilfe schaffen Strategien zur Nachvollziehbarkeit der Ergebnisse, der Einsatz von Explainable AI und eine stärker deterministische Gestaltung der Ergebnisse mit reduzierter Kreativität.
Datenschutz und Datensouveränität
Im Zusammenhang mit dem Einsatz von externen KI-Diensten steht der Schutz personenbezogener Daten und die Sicherung der Datensouveränität im Mittelpunkt. Herausforderungen ergeben sich unter anderem durch die Nutzung externer Anbieter und eine mögliche Unkenntnis der Mitarbeitenden in Bezug auf Datenschutzrecht und DSGVO. Durch die Umsetzung allgemeiner Datenschutzmaßnahmen, die Entwicklung einer umfassenden Datenstrategie und die gezielte Schulung sowie Qualifizierung der Mitarbeitenden im Bereich Datenkompetenz kann diesen Risiken effektiv begegnet werden.
Verlässlichkeit
Ein weiteres zentrales Anliegen ist die Verlässlichkeit der genutzten KI-Systeme. Insbesondere bei externen KI-Diensten können sich durch Updates oder Weiterentwicklungen der LLMs Funktionalitäten und Verhaltensweisen verändern. Um die Verlässlichkeit langfristig zu gewährleisten, sind eine sorgfältige Versionierung der eingesetzten KI-Komponenten und regelmäßige Kompatibilitätstests bei Updates essenziell. Damit wird eine stabile und vorhersehbare Systemlandschaft sichergestellt.
