Vor einem knappen halben Jahr wurde mit „ChatGPT“ die wohl größte technologische Revolution unserer Zeit für jedermann frei zugänglich. Die anfangs ungebremste Ekstase unter Studenten, Forschern, Unternehmern, Investoren sowie auch Privatleuten hat durch die rasche Entwicklung und immer stärker werdenden Bedenken zu diesen Technologien einen Dämpfer bekommen und kritische Stimmen finden immer mehr Gehör. Nicht zuletzt haben knapp 2.000 prominente Unternehmer und Forscher den Aufruf zu einem Halt der Entwicklung von KI-Softwares gestartet, um die bislang inexistenten Gesetzgebungen anpassen zu können.
Auch Luxemburg hat die Entwicklung einer strategischen Vision für KI zu einer nationalen Priorität erklärt1) und peilt dabei drei Ziele an: Luxemburg zu einer der fortschrittlichsten digitalen Gesellschaften in Europa und der Welt zu machen, eine nachhaltige, datenangetriebene Wirtschaft zu schaffen und eine „human centric“-KI aufzubauen, die sich um den Bürger dreht. Die Entstehung von Datenmärkten ist ein wichtiger Trend, und laut der luxemburgischen Regierung ist das Land dank einer speziellen Strategie umfassend vorbereitet.2) Minister dieses Ressorts ist aktuell Staatsminister Xavier Bettel, doch angesichts dessen vielfältiger anderer Aufgaben, kann man sich fragen, ob Luxemburg wirklich gut für die kommenden Herausforderungen aufgestellt ist.
Ein zentrales Element der luxemburgischen KI-Strategie soll der 2019 gegründete AI4GOV-Ausschuss sein, der sich aus Vertretern des Ministeriums für Digitalisierung, der Abteilung für Medien und Kommunikation sowie dem Informations- und Presseamt zusammensetzt. Dieser Ausschuss hat als Ziel, die Digitalisierung durch KI-Projekte voranzutreiben, indem er die Nutzung von KI und Data Science in Verwaltungen und Ministerien fördert. Daneben stellt dieser Ausschuss auch den „AI Legal & Ethics Working Group“, dessen Aufgabe wiederum darin besteht, die juristischen und ethischen Risiken der AI4GOV-Projekte einzuschätzen, um potenziellen Risiken zuvorzukommen, bevor diese Projekte im öffentlichen Sektor eingesetzt werden.
Entgegen der landläufigen Meinung bedeutet die künstliche Natur der KI nicht, dass sie objektiv oder unparteiisch ist
Es wird immer deutlicher, dass KI die Verbindung zwischen Daten und den wertvollsten Produkten und Dienstleistungen der Gesellschaft darstellt. Oftmals sind wir uns nicht bewusst, wie omnipräsent die KI in unserem Leben ist, da sie in vielen Bereichen unbemerkt agiert. Wir alle unterliegen fast tagtäglich in irgendeiner Form Entscheidungen, die durch KI getroffen werden.
Sie ist zwar keine radikal neue Technologie, aber sie hat das Potenzial, in kurzer Zeit in allen Branchen und Bereichen der Gesellschaft zugänglich und anwendbar zu werden. Die Einsatzmöglichkeiten der KI sind vielfältig: in der digitalen Gesundheit, den Finanzen, der Mobilität, der Logistik, den sauberen Technologien, der Raumfahrt und darüber hinaus – inklusive Bildung, Umwelt und Kunst. Sie hat ein enormes Potenzial, wenn es um Effizienz, Kosteneinsparungen und einen verbesserten Informationszugang geht.
Bislang wurde KI hauptsächlich hinter den Kulissen eingesetzt; für den Normalverbraucher ist sie kaum bemerkbar. So haben sich KI-Programme seit der Jahrtausendwende z.B. zu einem unentbehrlichen Instrument der Finanzindustrie entwickelt, sei es für Risikoberechnungen in der Justiz, Kreditentscheidungen oder Vorhersagen von Finanzmärkten. Auch im öffentlichen Sektor hat sich die KI nach anfänglichem Zögern zu einem immer beliebteren Tool entwickelt. Städteentwickler beschäftigen sich zunehmend mit spezialisierten Technologien, um Probleme in Bezug auf die Bevölkerungsentwicklung, Urbanismus, Ökologie, Transport und vieles andere mehr zu lösen.
KI – das Schwert mit zwei Klingen
Mit der zunehmenden Verbreitung von automatisierten Prozessen und KI werden bestimmte Arbeitsplätze schrittweise durch Maschinen ersetzt. Dadurch wächst die Sorge um mögliche Massenarbeitslosigkeit und damit eine empfindliche Störung der Wirtschaftskreisläufe. Manche Experten geben allerdings zu beachten, dass die große Herausforderung weniger darin besteht, die dadurch entstehende Arbeitslosigkeit zu bekämpfen, denn wie schon bei anderen revolutionären Technologien werden auch neue Arbeitsplätze geschaffen.3) Vielmehr verweisen sie darauf, dass der Einsatz dieser Technologien die ohnehin schon große Einkommens- und Vermögensungleichheit noch vergrößern wird.
Außerdem gibt es aufgrund ihrer Komplexität und der Natur der verwendeten Daten, Bedenken hinsichtlich des Potenzials für Cyberangriffe und die Verletzung des Datenschutzes. Diese Daten können sensible persönliche Informationen enthalten, deshalb muss sich vergewissert werden, dass ausreichende Maßnahmen ergriffen werden, um ihre Sicherheit und den Schutz dieser Daten zu gewährleisten.
Genauso müssen die ethischen Implikationen dieser Technologien berücksichtigt werden, da sie zunehmend für Entscheidungen eingesetzt werden, die unser Leben erheblich beeinflussen können, sei es in der Arbeitswelt, für Kreditbewertungen oder in der Justiz, was natürlich Fragen nach der Unvoreingenommenheit und Transparenz in diesen Prozessen aufwirft.
Die fortschreitende Entwicklung von KI stellt uns vor neue Herausforderungen in Bezug auf Ethik und Recht. Insbesondere, weil strukturelle Diskriminierung und Machtgefälle sich verschärfen und Verletzungen von Grundrechten und individuellen Freiheiten immer häufiger auftreten können. KI-Systeme, die auf verzerrten oder unvollständigen Daten trainiert werden, können bestimmte Bevölkerungsgruppen benachteiligen, insbesondere solche, die in den Trainingsdaten unterrepräsentiert sind.4) Entgegen der landläufigen Meinung bedeutet die künstliche Natur der KI nicht, dass sie objektiv oder unparteiisch ist, und es lohnt sich zu hinterfragen, ob diese statistischen Methoden wirklich für die Beurteilung komplexer, schwer zu quantifizierender rechtlicher Fragen geeignet sind. Dies kann zu einer Verletzung der in den Menschenrechtskonventionen festgelegten Standards und einer Verstärkung bestehender sozialer Ungerechtigkeiten führen.
Der „Independant High-Level Expert Group on AI“ (AI HLEG) hat in einer Publikation5) sieben Schlüsselanforderungen aufgeführt, die ein KI-Projekt erfüllen sollte – diese Prinzipien werden auch in Luxemburg „promoted“6); auch wenn deren praktische Umsetzung bisher völlig unklar ist:
– KI-Systeme sollen Menschen bei fundierten Entscheidungen unterstützen und deren Grundrechte schützen, aber gleichzeitig auch kontrollierbar sein;
– KI-Systeme müssen sicher, zuverlässig und reproduzierbar sein, und stets mit einem Notfallplan ausgestattet sein, um unbeabsichtigte Schäden zu minimieren;
– der Schutz der Privatsphäre und angemessene Data-Governance-Mechanismen sind ebenso wichtig wie ein legitimierter Zugang zu den Daten und die Sicherstellung von Qualität und Integrität;
– Transparenz ist erforderlich, um den Menschen bewusst zu machen, dass sie mit einem KI-System interagieren, und um KI-Systeme und deren Entscheidungen gerecht zu erläutern;
– Vermeidung von unfairer Voreingenommenheit und Einbeziehung aller Interessengruppen, um Vielfalt zu fördern;
– KI-Systeme müssen nachhaltig und umweltfreundlich sein, um die Umwelt und andere Lebewesen berücksichtigen und soziale und gesellschaftliche Auswirkungen sorgfältig abwägen;
– Mechanismen zur Verantwortung und Rechenschaftspflicht für KI-Systeme und ihre Ergebnisse sind notwendig, ebenso wie Überprüfbarkeit und zugänglicher Rechtsschutz.
Ein neues Zeitalter auch für die Gesetzgebung
Die Debatte geht weit über den Einsatz in den bereits genannten Bereichen hinaus, doch die Anliegen bleiben die gleichen: Eine tiefergehende Analyse der Risiken und Herausforderungen, die mit der Verbreitung von KI einhergehen, ist dabei ausschlaggebend, um sicherzustellen, dass die Technologie verantwortungsvoll und ethisch eingesetzt wird, ohne Grundrechte zu verletzen und ohne Diskriminierungen zu verschärfen.
Die Gesetzgebung ist also aufgefordert, in vier Punkten besonders schnell und effizient zu reagieren: 1) Die Frage der Rechenschaftspflicht muss geklärt werden. 2) Unsere Grundrechte müssen geschützt werden. 3) Die Sicherheitsrisiken müssen antizipiert werden. 4) Die Programme müssen grundsätzliche Transparenzvorgaben beachten.
Zurzeit hinkt die Gesetzgebung dem Fortschritt stets hinterher. Die rasante Fortentwicklung der KI-Technologien macht es besonders auf juristischer Ebene schwierig, den damit drohenden Gefahren und Ungleichheiten entgegenzuwirken. Es verschärft sich die Sorge, dass KI-Systeme strukturelle, in der Gesellschaft verankerte Vorurteile aufrechterhalten und verstärken könnten. Indem KI-Systeme wie ein Spiegel die Verhaltensmuster und Denkweisen reflektieren, verstärken sie leider auch alle Fehler und Ungerechtigkeiten, die in bestehenden Datensätzen bereits vorhanden sind. Statt also ein objektives Bild zu zeichnen, werden in der Gesellschaft bereits verankerte Vorurteile verstärkt.
Eins ist klar: Dem schon jetzt chronisch überlasteten Justizapparat in Luxemburg7) würden jegliche Mittel fehlen, um sämtliche durch KI generierte Ungerechtigkeiten in Verwaltungsentscheidungen a posteriori zu revidieren. Hinzu kommt, dass Fragen nach der Rechenschaftspflicht bislang in den meisten Gesetzgebungen auf eine Grauzone stoßen: Kann die Software selbst Verantwortung tragen? Muss der Entwickler haften, die Verwaltung, die sie verwendet oder die Person, die sie bedient? In all diesen Fragen ist Luxemburg gefordert, schnell, effizient und vorausschauend zu reagieren.
Damit das Land den Herausforderungen und Bedrohungen entgegenwirken und bestenfalls sogar vorbeugen kann, müssen sich Experten und Juristen vorab bewusst sein, wie sich diese Systeme auf Fragen der Privatsphäre, der Gleichberechtigung und der Nichtdiskriminierung auswirken können und wie sie Vorurteile aufrechterhalten und verstärken können, um sicherzustellen, dass KI zukünftig auf möglichst verantwortungsvolle und ethische Weise eingesetzt wird.
Der luxemburgische AI Legal & Ethics Working Group soll dazu beitragen, frühzeitig mögliche Risiken zu erkennen in KI-Programme, die in öffentlichen Verwaltungen angewendet werden. In den Jahren 2020 und 2021 hat man so zum Beispiel im Information- und Presseamt ein Programm zur Indexierung von Regierungsfotos eingeleitet, die Nationalbibliothek benutzt ein Programm zur optischen Zeichenerkennung zur Vereinfachung der Transkription von Texten und auch die CGPO wird beim Einstellungsverfahren von einem KI-Programm unterstützt.
Die Leitgedanken der Analysen und der Aufgaben dieses Ausschusses sind dabei nicht klar, da bislang nirgends verdeutlicht wurde, welche ethischen Maßstäbe man sich hierfür setzt und in welchem Handlungsspielraum man sich befindet, sodass es dem Bürger vorenthalten wird, worauf sich diese ethischen Risikoanalysen basieren, obwohl doch gerade die Transparenz einen zentralen Stand in der Diskussion um den Umgang mit KI hat. Auch auf Nachfrage beim Ministère de la Digitalisation hin, wurde darauf verwiesen, dass die Aufgabe der AI Legal & Ethics Working Group darin besteht, „eine rechtmäßig unverbindliche Vorbewertung der juristischen und ethischen Risiken durchzuführen“, doch dieser Ausschuss ist laut Ministerium nicht gleichzustellen mit einem „AI Ethics Committee“, da sich die AI Legal & Ethics Working Group exklusiv auf AI4GOV-Projekte beschränkt, sprich KI-Projekte, die bei einer jährlichen Ausschreibung ausgewählt werden, um exklusiv in staatlichen Administrationen benutzt zu werden.
Doch die Aufgaben eines KI-Ethikrats könnten und sollten darüber hinaus gehen. Ein solcher Ausschuss ist ein beratendes und unabhängiges Gremium, das systematisch und umfassend die ethischen Risiken von KI-Programmen identifiziert und eine Umsetzung ethischer, verantwortungsvoller und transparenter Grundsätze unterstützt. Ähnlich wie die Datenethikkommission in Deutschland sollte ein neu gegründeter KI-Ethikausschuss aus AI-Experten damit beauftragt werden, ethische Leitlinien auszuarbeiten sowie einen Rahmen für die luxemburgische Datenpolitik, den Umgang mit Algorithmen, KI und anderen digitalen Innovationen vorzuschlagen. Die Expertise der Ausschussmitglieder sollte zusätzlich dazu eingesetzt werden, um regelmäßige Empfehlungen für Maßnahmen und Vorschläge für mögliche Rechtsvorschriften auszuarbeiten.
In der EU gibt es derzeit keine spezifischen gesetzlichen Regulierungen für KI, sondern lediglich allgemeinere Gesetze und Richtlinien
Um die Maßstäbe zu definieren, könnte sich der Gesetzgeber zum Beispiel bei unseren deutschen Nachbarn inspirieren: Es braucht eine menschenzentrierte („human in the loop“) und werteorientierte Gestaltung der Technologie, die die Würde des Menschen und das Recht auf digitale Selbstbestimmung, Privatheit und Sicherheit als Handlungsmaßstäbe setzt.8) Zudem ist es unsere Verpflichtung, die digitale Entwicklung nachhaltig voranzubringen und den sozialen Zusammenhalt zu fördern, indem man möglichen, neuen Diskriminationen und Ausgrenzungen keinen Raum lässt.
Grünes Licht für den „EU AI Act“
In der EU gibt es derzeit keine spezifischen gesetzlichen Regulierungen für KI, sondern lediglich allgemeinere Gesetze und Richtlinien, insbesondere die Datenschutz-Grundverordnung, die EU-Verordnung zur Produktsicherheit sowie die Europäische Charta der Grundrechte, die auf KI angewendet werden können. Sie mögen einen Teil der Lösung bieten für viele der Herausforderungen und Risiken, die mit KI verbunden sind. Diese Gesetze und Richtlinien bilden die Grundlagen für den Schutz der Privatsphäre und die Sicherheit von KI-Systemen, jedoch gibt es noch keine spezifischen Regulierungen für die Entwicklung und Anwendung von KI.
Die Europäische Kommission hat 2019 bereits angekündigt, dass sie in Zukunft spezielle Regulierungen für KI erlassen möchte.9) Am 11. Mai 2023 kam aus Brüssel endlich die Nachricht, dass die führenden parlamentarischen Ausschüsse des Europäischen Parlaments in einer Abstimmung grünes Licht für den „EU AI Act“ gegeben haben und damit den Weg für die Verabschiedung im Plenum Mitte Juni geebnet haben. Der nächste Schritt ist die Verabschiedung im Plenum am 14. Juni. Der Verordnungsentwurf zielt darauf ab, für die Entwickler, Anbieter und Nutzer von KI klare Anforderungen und Verpflichtungen in Bezug auf bestimmte Anwendungen von KI zu formulieren.
Auch wenn der zukünftige europäische Rechtsrahmen interessante Antworten im Einsatz gegen algorithmische Verzerrungen bietet und bemerkenswerte Schutzgarantien für die Verbraucher beinhaltet, gilt es jetzt, diese notwendigen Regulierungen möglichst schnell einsetzbar zu machen. Zeitgleich muss Luxemburg bereits jetzt die Maßstäbe und Aufgaben der AI Legal & Ethics Working Group klarer definieren und die Einrichtung eines spezifischen Ethikrates endlich voranbringen. Es ist nun an uns, uns auf die Zukunft vorzubereiten und sicherzustellen, dass KI zum Wohl der Gesellschaft und der Menschen eingesetzt wird.
1) Communiqué du gouvernement luxembourgeois sur les orientations politiques à l’égard de l’IA et de la digitalisation continue des secteurs économiques prioritaires du 24/05/2019
2) AI: a strategic vision for Luxembourg – the government of the grand duchy of Luxembourg 2019.
3) Steven Greenhouse: US experts warn AI likely to kill off jobs – and widen wealth inequality, the Guardian, 8. Februar 2023
4) Shrestha, Sunny, and Sanchari, Das: „Exploring gender biases in ML and AI academic research through systematic literature review.“ Frontiers in artificial intelligence, 5 (2022).
5) Die AI HLEG ist eine unabhängige Expertengruppe, die von der Europäischen Kommission im Juni 2018 eingerichtet wurde. Der Ethics Guide wurde am 8. April 2019 veröffentlicht.
6) AI: a strategic vision for Luxembourg – the government of the grand duchy of Luxembourg (p. 19)
7) „Wie die Justiz schneller werden soll“, Danielle Schumacher, Luxemburger Wort, September 2021
8) Gutachten der Datenethikkommission, Berlin, Oktober 2019
9) „KI für Europa“ Mitteilung der Kommission, Europäische Kommission, Brüssel 25/4/2018
Next Generation: Nos idées pour les défis de demain!
Der an dieser Stelle publizierte Text ist – in einer längeren, detaillierteren Version – Teil der jüngsten Publikation der Fondation Robert Krieps. In „Next Generation: Nos idées pour les défis de demain!“ hat die Stiftung vor allem jungen Autoren und Autorinnen die Möglichkeit geboten, ihre Gedanken zu einem bestimmten Thema niederzuschreiben.
Sie müssen angemeldet sein um kommentieren zu können