EU-Parlament gibt grünes Licht für KI-Verordnung

Das Europäische Parlament hat seine Verhandlungsposition zum Gesetz über Künstliche Intelligenz (KI) angenommen und das Gesetzespaket zur geplanten Regulierung verabschiedet. Damit können nun die Gespräche mit den EU-Mitgliedstaaten über die endgültige Form des Gesetzes beginnen. Die Vorschriften sollen dafür sorgen, dass in der EU entwickelte und eingesetzte KI "den Rechten und Werten der Europäischen Union entspricht". Das umfasst, dass sie von Menschen beaufsichtigt wird, Anforderungen an Sicherheit, Datenschutz und Transparenz genügt, niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt.

KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden, sollen demnach verboten werden, zum Beispiel solche, die für Social Scoring verwendet wird. Dabei erfolgt eine Klassifizierung von Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale.. Die Abgeordneten fordern zudem Verbote für weitere KI-Anwendungen:

• biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten aus der Ferne zu identifizieren,
• Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische Orientierung),
• vorausschauende Polizeiarbeit (die mit Profilerstellung und Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden),
• in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme und
• das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen bzw. die Umwelt erheblich gefährden, sollen als Hochrisiko-Anwendungen gelten. In die entsprechende Liste wurden KI-Systeme aufgenommen, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern) eingesetzt werden.

Pflichten für KI-Systeme zur allgemeinen Verwendung

Anbieter von Basismodellen müssen künftig Risiken (für Gesundheit, Sicherheit, die Grundrechte von Personen, die Umwelt oder für Demokratie und Rechtsstaatlichkeit) abschätzen und mindern und ihre Modelle in der entsprechenden EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen. Generative KI-Systeme, die auf solchen Modellen beruhen (z.B. ChatGPT), müssen Transparenzanforderungen erfüllen. Sie müssen offenlegen, dass die Inhalte KI-generiert sind, was auch dazu beiträgt, sogenannte Deepfake-Fotos von echten Abbildungen zu unterscheiden. Zusätzlich müssen sie dafür sorgen, dass keine rechtswidrigen Inhalte erzeugt werden. Außerdem müssen sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben.

Innovationsbremse oder notwendiger erforderlicher Eingriff in den Markt?

Dr. Sebastian Cording, Partner und Fachanwalt für IT-Recht bei der Wirtschaftskanzlei CMS: "Das EU-Parlament hat den risikobasierten Ansatz der Kommission beibehalten, der die tragende Säule der KI-Verordnung darstellt. Maßgeblich für die Einordnung des Risikos soll aber nun nicht mehr allein sein, in welchem Bereich die KI eingesetzt werden soll, sondern auch, was die konkreten Anwendungsgebiete der KI sind und welche Risiken mit diesen verbunden sind."

Mit Blick auf die angestrebten Transparenzpflichten für Anbieter von KI-Systemen hebt CMS-Partner Cording hervor, dass sich das Problem, dass selbst die Entwickler der KI nicht wissen, wie die KI zu bestimmten Ergebnissen oder Entscheidungen kommt, durch Regulierung nicht lösen lasse.

"Der Wunsch, KI-Systeme sinnvoll zu regulieren, um insbesondere den mit KI verbundenen Gefahren zu begegnen, gleichzeitig aber die EU als führenden Player im Bereich der KI-Entwicklung zu etablieren, ist eine riesige Herausforderung und es ist noch völlig offen, ob die geplante KI-Verordnung diese Ziele auch nur annähernd erreichen wird", so Cording und rät Unternehmen, die derzeit auf KI-Tools setzen oder planen, diese einzusetzen: "Bei Inkrafttreten der KI-Verordnung bereits am Markt befindliche KI-Systeme werden voraussichtlich privilegiert, so dass es sinnvoll sein kann, möglichst schnell zu sein. Gleichzeitig sollten die weiteren Schritte des EU-Verordnungsgebers genau beobachtet werden, um auf die regulatorischen Anforderungen vorbereitet zu sein, wenn sie in Kraft treten."

Nun beginnen die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen.

HDE warnt vor Überregulierung bei Künstlicher Intelligenz

Der Handelsverband Deutschland (HDE), Berlin, warnt vor zu engen Einschränkungen.

"Künstliche Intelligenz kann im Einzelhandel helfen, die weltweiten Warenströme noch punktgenauer zu steuern. Aber auch in den Geschäften lassen sich mit Hilfe von KI Kundenbedürfnisse noch besser verstehen. Klar ist, dass wir Regeln brauchen, dabei darf aber nicht das Kind mit dem Bade ausgeschüttet werden", so der stellvertretende HDE-Hauptgeschäftsführer Stephan Tromp. "Es darf nicht sein, dass beispielsweise Anwendungen von Computer Vision, bei denen keinerlei personenbezogene Daten entstehen oder ausgewertet werden, mit der höchsten Risikoeinschätzung belegt werden."

Deshalb müsse es um eine möglichst konkrete Formulierung der Vorgaben gehen, um für Klarheit zu sorgen. Als Hochrisiko-KI-System dürften nach Ansicht des HDE nur Anwendungen gelten, die auch tatsächlich ein erhebliches und verstärktes Risiko für die Gesundheit, die Sicherheit oder ein nicht leicht umkehrbares Risiko für die Grundrechte darstellen.