EU-AI-Gesetz – Artificial Intelligence Act – Europäisches Amt für künstliche Intelligenz

Das EU-AI-Gesetz (Artificial Intelligence Act) ist ein umfassendes Regelwerk, das die Europäische Union entwickelt, um die Verwendung von künstlicher Intelligenz (KI) in Europa zu regulieren. Es zielt darauf ab, KI-Systeme zu fördern, während gleichzeitig potenzielle Risiken für Bürger, Unternehmen und die Gesellschaft minimiert werden. Das Gesetz ist Teil der Bemühungen der EU, weltweit eine Vorreiterrolle in der Regulierung von KI-Technologien einzunehmen.

 

Die wichtigsten Punkte des EU-AI-Gesetz

1. Risiko-basierter Ansatz:
   • Das Gesetz kategorisiert KI-Systeme basierend auf ihrem Risiko für die Gesellschaft und Einzelpersonen in vier Gruppen:
     • Unakzeptables Risiko: KI-Systeme, die als Bedrohung für die Sicherheit, Grundrechte oder die Freiheit der Menschen gelten, werden verboten (z.B. KI für soziale Bewertungssysteme).
     • Hohes Risiko: KI-Anwendungen, die sensible Bereiche wie Bildung, Justiz oder kritische Infrastrukturen betreffen, werden streng reguliert. Sie unterliegen strengen Auflagen, wie Transparenz, Qualitätsmanagement und menschlicher Aufsicht.
     • Geringes Risiko: Systeme, die beispielsweise für das Bewerbungsverfahren oder die Kreditvergabe genutzt werden, müssen gewissen Transparenzanforderungen genügen, sind jedoch weniger streng reguliert.
     • Minimales Risiko: Die meisten KI-Systeme, wie z.B. KI in Videospielen oder Spam-Filter, fallen in diese Kategorie und unterliegen kaum Regulierungen.
2. Transparenzanforderungen:
   • Anbieter von KI-Systemen müssen sicherstellen, dass Nutzer über die Funktionsweise und die möglichen Auswirkungen der Systeme informiert sind. Beispielsweise muss klar sein, wenn eine KI mit Menschen interagiert.
3. Überwachung und Durchsetzung:
   • Nationale Behörden und EU-Organe werden zuständig sein, die Einhaltung der Vorschriften zu überwachen. Bei Verstößen gegen das Gesetz drohen Unternehmen erhebliche Geldstrafen.
4. Förderung von Innovation:
   • Das Gesetz soll die Entwicklung von KI-Technologien in Europa fördern. Dafür gibt es Ausnahmen und besondere Regelungen für Forschungs- und Testprojekte. „Sandboxes“ sollen es Unternehmen ermöglichen, innovative KI-Anwendungen in einer regulierten, aber flexiblen Umgebung zu entwickeln und zu testen.
5. Datenschutz und Grundrechte:
   • Das Gesetz ist eng mit der Datenschutz-Grundverordnung (DSGVO) verknüpft und legt großen Wert auf den Schutz von Grundrechten wie Privatsphäre und Datenschutz. Unternehmen müssen sicherstellen, dass KI-Systeme diese Rechte nicht verletzen.

Ziel des EU-AI-Gesetz

Das EU-AI-Gesetz zielt darauf ab, eine sichere und ethische Nutzung von KI zu gewährleisten, indem es klare Regeln für den Einsatz von KI-Systemen festlegt. Es soll Vertrauen schaffen, Innovationen fördern und gleichzeitig die potenziellen Risiken dieser Technologien minimieren.

Das Gesetz befindet sich noch im Gesetzgebungsverfahren, wobei Anpassungen und Debatten über spezifische Details weiterhin stattfinden. Die EU möchte sicherstellen, dass Europa sowohl ein Zentrum für KI-Innovation als auch ein globaler Standardsetzer für ethische KI bleibt.

Das Amt für Künstliche Intelligenz: Koordination und Überwachung des EU-AI-Gesetzes

Das neu geschaffene Amt für Künstliche Intelligenz (AI-Büro) spielt eine zentrale Rolle bei der Umsetzung und Überwachung des EU-AI-Gesetzes. Dieses Büro wird eng mit den 27 Mitgliedstaaten zusammenarbeiten, um die Rechtsdurchsetzung zu koordinieren und sicherzustellen, dass KI-Systeme den neuen EU-Vorschriften entsprechen.

1. Unterstützung der Mitgliedstaaten und Zusammenarbeit

Das Amt wird als zentrale Anlaufstelle fungieren und die nationale Zusammenarbeit in der Rechtsdurchsetzung unterstützen. Dabei liegt ein Schwerpunkt auf der Einrichtung von regulatorischen Sandkästen, in denen Unternehmen ihre KI-Systeme in kontrollierten Umgebungen testen können. Dies ist besonders wichtig für die Entwicklung und Prüfung von hochrisikoreichen KI-Anwendungen, die strengen Vorschriften unterliegen.

2. Überwachung von GPAI-Modellen

Das AI-Büro wird die Einhaltung der Regeln durch die Entwickler von GPAI-Modellen (General-Purpose AI) überwachen. Bei Verstößen fordert es die Entwickler zur Korrektur auf und arbeitet eng mit den Marktaufsichtsbehörden zusammen, um sicherzustellen, dass die KI-Systeme keine Risiken für die Gesellschaft darstellen. Dies gilt besonders, wenn KI in einem Hochrisikokontext eingesetzt wird, wie in kritischen Infrastrukturen oder im Gesundheitswesen.

3. Koordination der Regulierungsbehörden

Das Amt wird zudem die einheitliche Anwendung des EU-AI-Gesetzes in allen Mitgliedstaaten sicherstellen. Es erleichtert die Kommunikation zwischen den nationalen Regulierungsbehörden und den sektoralen Stellen, die für bestimmte Branchen zuständig sind. Dies umfasst auch die Integration von KI-Systemen, die unter andere Gesetze wie das Gesetz über digitale Dienste (DSA) oder das Gesetz über digitale Märkte (DMA) fallen.

4. Governance und Verhaltenskodizes

Das AI-Büro wird ein Governance-System aufbauen, um die Zusammenarbeit zwischen den nationalen Behörden zu fördern. Dabei unterstützt es die Entwicklung von Verhaltenskodizes für KI, die den Einsatz von Wasserzeichen-Techniken für die Kennzeichnung künstlich generierter Inhalte regeln. Diese Kodizes sollen bis 2025 entwickelt werden und spezifische, messbare Ziele enthalten, die den unterschiedlichen Kapazitäten der KI-Anbieter gerecht werden.

5. Unterstützung für kleine und mittlere Unternehmen (KMU)

Ein weiteres zentrales Ziel des Büros ist die Unterstützung von kleinen und mittleren Unternehmen (KMU). Das AI-Büro wird ihnen Informationen und Ressourcen zur Verfügung stellen, um ihnen bei der Einhaltung der Vorschriften zu helfen, ohne dass diese durch die regulatorischen Anforderungen überfordert werden.

6. Gemeinsame Ermittlungen und Durchsetzung

Im Falle von Verstößen gegen das AI-Gesetz wird das Amt die gemeinsamen Ermittlungen der Marktüberwachungsbehörden koordinieren. Dies betrifft vor allem KI-Systeme, die in mehreren Mitgliedstaaten als risikoreich eingestuft werden. Dabei unterstützt das AI-Büro auch die Europäische Kommission bei der Durchsetzung des Gesetzes durch die Vorbereitung von Entscheidungen und Leitlinien.

Fazit:

Das AI-Büro wird als zentrale Behörde fungieren, die sicherstellt, dass KI-Systeme in Europa unter den neuen gesetzlichen Rahmenbedingungen sicher, transparent und ethisch eingesetzt werden. Durch die enge Zusammenarbeit mit den Mitgliedstaaten und die Bereitstellung von Ressourcen für Unternehmen, wird es eine wichtige Rolle bei der Überwachung und Weiterentwicklung des EU-AI-Gesetzes spielen.

Michael Keusgen – Ella Media AG: Wir erwarten, dass KI maßgeblich unser Leben bestimmen, einfacher und bequemer machen wird. Wir sollten uns daher Gedanken machen, wie wir das regulieren bzw. kennzeichnen. Der Mensch kann durch KI effektiver Arbeiten und hat eine geringere Fehlerquote.

EU-AI-Gesetz – Regelung für künstliche Intelligenz

Das EU-AI-Gesetz ist am 1. August 2024 offiziell in Kraft getreten und stellt die weltweit erste umfassende Regelung für künstliche Intelligenz (KI) dar. Ziel des Gesetzes ist es, eine sichere und vertrauenswürdige Entwicklung und Nutzung von KI im gesamten EU-Binnenmarkt zu fördern, während gleichzeitig Risiken für die Bürger minimiert werden.

Das Gesetz basiert auf einem risikobasierten Ansatz und teilt KI-Systeme in vier Kategorien ein:

1. Minimal Risiko: Anwendungen wie Spam-Filter, für die keine besonderen Anforderungen gelten.
2. Spezifisches Risiko: KI-Anwendungen wie Chatbots, die eine klare Kennzeichnung erfordern, dass sie KI-gesteuert sind.
3. Hohes Risiko: Systeme wie KI in der medizinischen Diagnose oder im Personalwesen, die strengen Anforderungen an Datenqualität, Transparenz und menschliche Aufsicht unterliegen.
4. Unakzeptables Risiko: Systeme, die soziale Bewertungen ermöglichen oder Nutzer manipulieren, sind in der EU verboten.

Besonders strenge Vorschriften gelten für Generative KI, wie ChatGPT, die Inhalte wie Texte oder Bilder erzeugt. Diese Systeme müssen ihre Inhalte als KI-generiert kennzeichnen und dürfen keine rechtswidrigen Inhalte wie Hassrede oder Falschnachrichten produzieren.

Für Unternehmen, die KI entwickeln oder einsetzen, gibt es strikte Vorgaben, die eine Einhaltung der Transparenzanforderungen, Datensicherheit und ethischen Nutzung sicherstellen. Verstöße gegen das Gesetz können zu hohen Strafen führen – bis zu 7% des globalen Jahresumsatzes.

Zukünftig wird ein Code of Practice für KI-Anbieter entwickelt, um die Einhaltung der Richtlinien weiter zu erleichtern. Dieser Code soll bis April 2025 abgeschlossen sein.

Die EU positioniert sich mit diesem Gesetz als globaler Vorreiter in der KI-Regulierung und setzt auf eine Balance zwischen Innovationsförderung und Schutz der Grundrechte