Neue EU-KI-Regelung

Veröffentlicht am von

Für den Einsatz von künstlicher Intelligenz (KI) sollen in der EU künftig enge Regeln gelten. Unterhändler von Europaparlament und EU-Staaten verständigten sich in Brüssel nach langen Verhandlungen auf entsprechende Vorgaben. Nach Angaben des EU-Parlaments handelt es sich um das weltweit erste KI-Gesetz. Im nächsten Schritt müssen das EU-Parlament und der EU-Rat den Gesetzentwurf verabschieden.

Außerdem müssen noch technische Details ausgearbeitet werden. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwicklerinnen und Entwickler sicherstellen, dass Texte, Bilder und Töne, die durch KI entstanden sind, als solche zu erkennen sind.

Verbot automatisierter Gesichtserkennung

Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

KI-Anwendungen wie eine automatisierte Gesichtserkennung werden verboten. Es soll aber Ausnahmen geben, etwa zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke. Der Gesetzentwurf beschränkt zudem die Nutzung biometrischer Identifizierung durch die Strafverfolgungsbehörden.

Streit um Regulierung von Basismodellen

Zuletzt sind die Verhandlungen an der Frage der Regulierung von sogenannten Basismodellen fast gescheitert. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählen etwa Sprachmodelle wie ChatGPT.

Bei besonders leistungsfähigen Modellen sollen noch schärfere Regeln gelten. Dann müssen Firmen auch externe Tests durchführen, um Schwachstellen zu ermitteln. Außerdem müssen sie die Risiken ermitteln, die von ihren Modellen ausgehen könnten. Start-ups wie Aleph Alpha wären von dieser Regelung aber wohl nicht betroffen.