EU AI-ACT – das europäische KI-Gesetz

Das Thema Künstliche Intelligenz (KI) ist in den letzten Jahren immer präsenter geworden. Warum dieser Hype und was ist überhaupt KI? KI ist eine Schlüssel- bzw. Basistechnologie, wie zum Beispiel der Buchdruck oder das Internet, da sie unsere Welt grundlegend verändert. Technologien eines Teilgebietes der KI, sogenannte generative KI sind aufgrund von Entwicklungen unter anderem Open AI zugänglicher gemacht worden. Diese Form der KI kann Inhalte erzeugen. Als ein Beispiel kann die KI-Anwendung ChatGPT benannt werden. Das Besondere ist, dass dieses Tool in natürlicher Sprache bedient werden kann. Diese Schnittstelle gestaltet die Interaktion zwischen Mensch und Maschine intuitiver. Aus einfach formulierten Befehlen (Prompts) können Inhalte erzeugt und darauf reagiert werden. Durch die leichte Zugänglichkeit und Bedienbarkeit der Technologie, existieren keine Einstiegsschwellen. Somit ist sie für jedermann nutzbar. Voraussetzung ist lediglich der Zugang zum Internet. Eine KI ist nicht auf fixe Anweisungen beschränkt. Das unterscheidet sie grundlegend von traditionellen Programmen klassischer Software mit explizit festgelegtem Programmablauf. Die KI wird trainiert Muster und Zusammenhänge zu erkennen um flexibel auf verschiedene Fragestellungen zu reagieren. Diese Flexibilität macht sie vielseitig einsetzbar. Wenn die zugrunde liegenden Trainingsdaten lückenhaft oder verzerrt sind, birgt das allerdings auch Gefahren. Sie kann unvorhersehbare oder falsche Aussagen treffen. Egal ob sie zuverlässige Quellen hat oder nicht, versucht sie Antworten zu geben. Dieser Aspekt erfordert besondere Aufmerksamkeit!

Für eine sichere Anwendung Künstlicher Intelligenz und Akzeptanz der Technologien in der Gesellschaft und dadurch letztlich Innovation und Weiterentwicklung, hat die EU als erste Organisation weltweit, ein umfassendes Gesetz auf den Weg gebracht (Abb. 2). Dieses wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht. Das Ziel des sogenannten EU AI-ACT‘s (EU Artifical Intelligence Act – kurz KI-Gesetz der EU) ist es, einen rechtlichen Rahmen für die Entwicklung und Nutzung von KI-Systemen zu schaffen. Es geht nicht darum, den technologischen Fortschritt zu bremsen oder einzuschränken. Das Gesetz zielt darauf ab, dass möglichst viele Menschen von KI profitieren, ohne dabei die eigenen Rechte oder die eigene Sicherheit zu gefährden.

Um dies umzusetzen sollen KI-Systeme nach vier Risikostufen unterschieden werden:

Inakzeptable Risiken: KI-Systeme dieser Kategorie sind komplett verboten! (z. B. soziale Bewertungssysteme)
Hochrisiko-KI: Sie sind nicht verboten, müssen aber bestimmte Qualitätsanforderungen erfüllen. Nur qualitativ hochwertige Systeme sind zugelassen. (z. B. medizinische Diagnosen und Behandlungsempfehlungen, KI-gestützte Steuerung kritischer Infrastruktur)
Geringe Risiken + spezielle Transparenzpflichten (Transparency Risk): Beinhaltet Systeme, die keine unmittelbare Gefahr für Menschen darstellen, aber potenziell das Verhalten von Nutzern beeinflussen - daher besonderen Transparenzregeln unterliegen. (z. B. in Chatbots ein Hinweis, dass man mit einer KI gerade spricht oder ein Label, wenn ein Inhalt mit Hilfe der KI erzeugt wurde)
minimales oder kein Risiko: Diese Kategorie umfasst KI-Systeme, die kein erkennbares Risiko für Menschen oder deren Rechte darstellen. Hier wird eine freiwillige Produktkennzeichnung der KI-Verwendung nahegelegt, mit dem Ziel für eigene Produkte mehr Vertrauen zu schaffen. Man sollte im Hinblick auf Deepfakes diese Kennzeichnungspflicht begrüßen. (z. B. KI in Spam-Filtern oder in Videospielen)

Eine Schlüsselrolle für die Umsetzung des KI-Gesetzes – insbesondere für KI mit allgemeinem Verwendungszweck – spielt das Europäische Amt für KI (Abb. 1). Ziel ist, dass es als Zentrum für KI-Expertise der EU die Entwicklung und Einführung von KI-Lösungen, die der Gesellschaft und der Wirtschaft zugutekommen, fördert.

Das Amt spielt eine zentrale Rolle bei der Umsetzung der Forschungs- und Innovationspolitik, auch in strategischen Bereichen wie der Gesundheitsversorgung.

Weitere Informationen:

(B. Kohlenbach, Kontaktstelle GDI-LSA, Landesamt für Vermessung und Geoinformation Sachsen-Anhalt, Otto-von-Guericke-Straße 15, 39104 Magdeburg)