Es ist zum Teil irreführend, allgemein von KI zu sprechen. Denn unter diesem Begriff sammeln sich inzwischen viele Technologien, Anwendungsmöglichkeiten und Ideen, so dass wir es für notwendig erachten, an dieser Stelle Aufklärungsarbeit zu leisten.
Im Allgemeinen fasst man unter dem Begriff KI alle (Computer-)Systeme zusammen, die fähig sind, Aufgaben auszuführen, die normalerweise durch einen Menschen bzw. mit menschlicher Intelligenz erledigt werden müssen.
Das beinhaltet zum einen die Generative KI mit dem „Verstehen“ von Sprache und dem „Erschaffen“ von Inhalten, sei es Text, Bild, Präsentation oder Code. Zum anderen umfasst die Generative KI auch den großen Bereich des Machine Learning (ML), bei dem große Datenmengen auf Muster untersucht werden.
Diese für Data Scientists und KI-Spezialisten immer noch viel zu schwammig formulierte Definition zeigt, dass bereits in dieser mehr als groben Unterteilung schon zwei grundlegende Technologien verortet sind. Betrachtet man zusätzlich die Abkürzungen und Begriffe, mit denen wir nahezu täglich konfrontiert sind: LLM, NLU, NLP, Deep Fake, Neuronale Netzwerke usw. sowie die Negativ-Beispiele, in denen die neuen Technologien für ethisch, sozial oder sogar rechtlich fragwürdige Zwecke missbraucht werden, wächst vielerorts die Unsicherheit.
Hinzu kommt, dass die rechtliche Situation in Hinblick auf KI-Anwendungen an vielen Stellen noch ungeklärt ist (z. B. im Urheberrecht). Der AI-Act bzw. die KI-Verordnung der Europäischen Kommission zwingt zwar zu einer Risikobewertung und Klassifizierung, die dort vorgegebenen Regulierungen sind aber, da die technische Entwicklung rasant voranschreitet, eher allgemein gefasst.
Welche Risiken sind bekannt?
Die technischen Risiken bei der Anwendung von KI-Technologien sind vielfältig, teilweise komplex und kaum abschließend in einem kurzen Artikel zu listen.
Einige wesentliche, für das behördliche Umfeld besonders zu beachtende, Risiken sind:
- Black Boxing ist die mangelnde Transparenz bei der Bewertung von Daten, insbesondere, wenn KI-Anwendungen Entscheidungen treffen oder Entscheidungsvorschläge machen.
- Deep Fakes ist die Erstellung täuschend echter Medieninhalte, beispielsweise Fotos oder Videos.
- Social Scoring / BIAS ist die gewollte oder ungewollte Diskriminierung und/oder Bewertung von Personen, die durch eine KI aufgrund der untersuchten Aktivitäten und Verhaltensweisen vorgenommen wird.
- Prompt Injection ist die bewusste Manipulation von Generativer KI durch entsprechende Eingaben (Prompts), um die Einschränkungen hinsichtlich ethischer, moralischer oder rechtlicher Vorgaben zu umgehen.
Welchen emotionalen Einfluss hat KI auf uns?
Nicht zu unterschätzen ist der Einfluss, den KI bereits heute auf unser Leben hat. Die Algorithmen, die uns Vorschläge machen, welche Medieninhalte, Einkäufe oder Aktivitäten gut zu uns passen, halten uns heute schon in Blasen gefangen, aus denen wir uns nur mühsam wieder befreien können.
Auch die Angst vor dem Verlust von Kontrolle, dem eigenen Arbeitsplatz, der ethischen und moralischen Integrität sowie mangelnde Empathie bei rein regelbasiert getroffenen Entscheidungen sind Faktoren, die die Unsicherheit vor KI schüren.
Wie können wir mit diesen Risiken umgehen?
Insbesondere die öffentliche Verwaltung ist darauf angewiesen, das Vertrauen der Bürgerinnen und Bürger bei allen Entscheidungsprozessen, Verwaltungsakten und behördlichem Handeln nicht zu enttäuschen.
Auf der einen Seite dürfen die eigenen Mitarbeiterinnen und Mitarbeiter nicht außer Acht gelassen werden. Denn sie haben auf Grund von Fachkräftemangel, in die Jahre gekommenen Prozesse und Werkzeugen sowie den ständig wachsenden digitalen Herausforderungen, die sie bis an die Grenze des Machbaren belasten, Ängste und Bedenken.
Andererseits wird aus genau diesen Gründen der maximalen Belastung bzw. teilweisen Überlastung immer öfter gefordert, dass Automatisierung und KI im behördlichen Umfeld eingesetzt werden.
Die gesetzlichen Vorgaben sind hier, wie oben bereits angedeutet, auslegungsfähig. KI und Automatisierung können an vielen Stellen hilfreich sein. Es gilt jedoch genau hinzusehen, wo diese Technologien tatsächlich einen Mehrwert bieten. Nur um sich mit dem Prädikat ‚KI‘ zu schmücken, sollte nicht eine intransparente Lösung zum Einsatz gebracht werden.
Es gilt, wie auch schon in der Gesamtheit der Digitalisierung, zielgerichtet und wirtschaftlich diejenigen Möglichkeiten auszusuchen, bei denen sich der größte Nutzen sowohl für das Verwaltungshandeln als auch für die Bürgerinnen und Bürger ergibt.
Die hinter einer Lösung liegenden (Entscheidungs-)Prozesse, an die die Technologie sich hält, müssen jederzeit überprüfbar, veränderbar und transparent sein.
Die Technologie muss aber vor allem verstanden werden. Nur, wenn die Mitarbeiterinnen und Mitarbeiter tatsächlich wissen, was wann und wie geschieht, kann das Vertrauen in die Lösungen entstehen.
Die gegebenen Risiken und der professionelle Umgang mit KI müssen geschult werden, die Menschen müssen für die Gefahren sensibilisiert werden. Dann ist der verantwortungsvolle Umgang mit KI möglich.
Fazit
Transparenz hinsichtlich der umgesetzten Lösungen, ein enges Miteinander zwischen EntwicklerInnen und NutzerInnen, um das größtmögliche Verständnis zu fördern sowie die Möglichkeit, Ergebnisse zu prüfen, sind die Grundvoraussetzungen für den erfolgreichen Einsatz von KI im behördlichen Umfeld.
Die Schulung und Sensibilisierung der Mitarbeitenden in Bezug auf neue Technologien ermöglichen den verantwortungsvollen Umgang mit vorhandenen und zu schaffenden Lösungen.
Sinnstiftende Entscheidungen hinsichtlich der Einsatzmöglichkeiten von KI, am besten gemeinsam mit den von den daraus resultierenden Veränderungen Betroffenen, führen schlussendlich zu einer Akzeptanz der Lösung.