Das Europäische Parlament (EP) hat kürzlich[i] in einer Plenarsitzung seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) verabschiedet.
Die Diskussionen über die Regeln folgen im Wesentlichen einem risikobasierten Ansatz und zielen darauf ab, sicherzustellen, dass die Entwicklung und der Einsatz von KI-Anwendungen und -Systemen in Europa theoretisch mit den Rechten und Werten der EU in Einklang stehen, darunter «menschliche Aufsicht, Sicherheit, Privatsphäre, Transparenz, Nichtdiskriminierung sowie soziales und ökologisches Wohlergehen».
In Kürze enthält die vorgeschlagene Aufgabenliste, die sich unter anderem an Anbieter und Einsatzkräfte richtet, neben einer überarbeiteten Definition des Begriffs «KI-System», die mit der OECD-Version übereinstimmt, folgende Punkte:
- Verbot von KI zur Erkennung von Emotionen;
- Verbot der biometrischen Fernidentifizierung in Echtzeit und nachträglich sowie der vorausschauenden Polizeiarbeit im öffentlichen Raum;
- Verbot biometrischer Kategorisierungssysteme, die sensible Merkmale verwenden;
- Verbot von Social Scoring;
- Verbot des ungezielten Auslesens von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsanlagen zum Zwecke der Gesichtserkennung;
- eine Reihe neuer Beschränkungen für allgemeine KI und Grundlagenmodelle;
- neue Einschränkungen für Empfehlungsalgorithmen in sozialen Medien;
- Einstufung von Empfehlungssystemen in die Kategorie «hohes Risiko», wodurch die Funktionsweise von Empfehlungssystemen auf Social-Media-Plattformen einer genaueren Prüfung unterzogen wird. Infolgedessen könnten Technologieunternehmen stärker für die Auswirkungen von nutzergenerierten Inhalten haftbar gemacht werden.
Insbesondere würde das Verbot der nachträglichen biometrischen Fernidentifizierung der Ausnahme unterliegen, dass die Strafverfolgung nach vorheriger richterlicher Genehmigung im Zusammenhang mit schweren Straftaten erfolgt.
Darüber hinaus müssten generative KI-Systeme, die auf Basismodellen basieren (wie ChatGPT), Transparenzanforderungen erfüllen und wirksame Schutzmechanismen gegen illegale Inhalte einrichten. Im Falle der Verwendung urheberrechtlich geschützter Daten für Trainingsmodelle müssten detaillierte Zusammenfassungen davon öffentlich zugänglich gemacht werden. Die Registrierung in der EU-Datenbank wird für Basismodelle obligatorisch sein.
Wichtig ist, dass das EP neben der Festlegung der Zuständigkeiten der verschiedenen Akteure in der KI-Wertschöpfungskette auch die Entwicklung unverbindlicher Standardvertragsklauseln vorschlägt, um die Rechte und Pflichten entsprechend dem Grad der Kontrolle der einzelnen Akteure in einer bestimmten Wertschöpfungskette zu regeln.
In Anbetracht der Tatsache, dass das KI-Gesetz auch für Anbieter und Nutzer von KI-Systemen ausserhalb der EU gelten soll – vorausgesetzt, die erzeugten Ergebnisse sind für die Verwendung in der EU bestimmt – sind diese Entwicklungen für den Schweizer Markt von entscheidender Bedeutung.
[i] Siehe hier https://www.europarl.europa.eu/news/de/press-room/20230609IPR96212/parlament-bereit-fur-verhandlungen-uber-regeln-fur-sichere-und-transparente-ki; https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_DE.html.
