KI – Alles rechtens?

Verbote

Das Gesetz enthält zahlreiche Verbote. Glücklicherweise sind sie auf die Einsatzweise von KI ausgerichtet und nicht auf die KI selbst. Dies ermöglicht den Schutz der Bevölkerung vor unerwünschtem Einsatz von KI, ohne die Technologie einzuschränken oder deren Entwicklung zu bremsen.

Zu den Einschränkungen gehört das Verbot, KI einzusetzen, um die Herkunft, politische Haltung, Gewerkschaftszugehörigkeit oder Sexualität zu erraten. Verboten ist auch der Einsatz von KI, wenn dadurch Nutzerinnen und Nutzer unbewusst manipuliert oder in ihrer Möglichkeit zur selbstbestimmten Entscheidung eingeschränkt werden.

Auch dürfen mittels KI aus Bildern von Überwachungskameras weder durch die Polizei noch durch andere systematisch Gesichter extrahiert werden. Die Polizei darf nur mit begründetem Verdacht und mit richterlicher Genehmigung KI einsetzen, um auf biometrischem Weg in der Öffentlichkeit Täter oder vermisste Personen zu identifizieren. Auch darf die Polizei KI nicht einsetzen, um aus Persönlichkeitsanalysen eine Risikobewertung für zukünftige Straftaten zu erstellen. Eine KI-gestützte Risikobewertung auf Basis von vergangenen Verurteilungen hingegen ist gestattet.

Interessanterweise ist der Einsatz von KI, um Verhalten von Personen zu analysieren und daraus – wie in China verbreitet – eine Bewertung zu generieren, nicht verboten. Verboten ist lediglich die Verwendung dieses Scores ausserhalb seines ursprünglichen Kontexts. Wenn also jemand durch KI als schlechter Autofahrer bestimmt wurde, darf dies nicht für die Wohnungsvergabe genutzt werden. Wohl aber für Autoversicherungen.

Pflichten für Anbieter von KI

Während sich die Verbote des Gesetzes auf die Verwendung von KI konzentrieren, richten sich die Pflichten klar an die Anbieter der Modelle (OpenAi et al.). Wer ein KI-Modell entwickelt und anbietet, muss künftig detaillierte Informationen bereitstellen. Dazu gehört der vorgesehene Verwendungszweck des Modells, eine Beschreibung seiner Architektur sowie eine verständliche Dokumentation zur Benutzung.

Interessant sind die Vorgaben im Hinblick auf die Trainingsdaten: Herkunft, mögliche Urheberrechte und potenzielle Verzerrungen (Bias) müssen offengelegt werden. Dies wird wohl der für die derzeitigen Anbieter schwerwiegendste Punkt sein, da bereits zahlreiche Klagen von Künstlern offen sind, deren Werke (Bilder, Texte, Lieder) ziemlich sicher ohne ihr Einverständnis und ohne Bezahlung für das Training der Modelle verwendet wurden.

Mit Blick auf die Klimaziele der EU ist auch der Trainingsaufwand, also die eingesetzte Rechenleistung und der dabei entstandene Energieverbrauch, zu dokumentieren. Für Modelle, die in Bereichen mit erhöhtem Risiko eingesetzt werden, gelten noch weitergehende Anforderungen. Hier muss die Systemarchitektur im Detail beschrieben werden und es ist ein Plan für Penetrationstests vorzulegen, mit dem die Sicherheit und Belastbarkeit des Systems regelmässig geprüft werden.

Eine Ausnahme gibt es allerdings: Ist ein KI-Modell quelloffen, kostenlos und werden sämtliche Einstellungen, Parameter und Trainingsdaten veröffentlicht, entfallen die übrigen Pflichten.

Was bedeutet dies für uns?

Wer nicht selbst eine KI entwickelt, sondern nur wie die Intersim AG solche Systeme von anderen Anbietern einbindet, hat nur sehr wenige Auflagen. Die Hauptverantwortung liegt bei den Herstellern.

Unsere Verantwortung ist darauf beschränkt, den Einsatz von KI transparent zu machen. Benutzer müssen wissen, wenn sie mit KI interagieren. Ist dies aus dem Kontext nicht ersichtlich, ist eine Deklaration daher Pflicht. Auch Texte, die mit KI generiert oder relevant verändert wurden, müssen als solche deklariert werden. Es sei denn, ein Mensch hat den Text geprüft und übernimmt die redaktionelle Verantwortung dafür.

Disclaimer: Ich bin kein Anwalt. Dieser Text ist nur zur Illustration und sollte nie als Grundlage für Entscheidungen in Bezug auf das EU-AI-Gesetz genutzt werden.

Verwandte Themen

Weiterführende Projekte und Inhalte zum Thema