Neue EU-Regeln fordern Transparenz von ChatGPT & Co.
Woher weiss die KI das? Neue EU-Vorgaben zwingen KI-Anbieter, offenzulegen, womit sie ihre Modelle trainiert haben. Manchen Autoren und Künstlern geht das nicht weit genug.
ChatGPT, Gemini und andere Anbieter von KI-Modellen müssen sich ab morgen an neue EU-Regeln halten. Dann gelten spezifische Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck («General-Purpose AI») – also Systeme, die vielseitig einsetzbar sind und etwa Texte schreiben, Sprache analysieren oder programmieren können.
Die Betreiber müssen künftig etwa offenlegen, wie ihre Systeme funktionieren und mit welchen Daten sie trainiert wurden. Besonders leistungsstarke Modelle, die potenziell auch eine Gefahr für die Allgemeinheit darstellen könnten, sollen zudem Sicherheitsvorkehrungen protokollieren müssen. Grundlage der neuen Vorgaben ist das EU-KI-Gesetz («AI Act»), das im Mai 2024 beschlossen wurde.
Verbände kritisieren fehlenden Schutz geistigen Eigentums
Durch die neuen Regeln soll unter anderem das Urheberrecht gestärkt werden. Die Entwickler müssen nun etwa berichten, welche Quellen sie für ihre Trainingsdaten genutzt und ob sie Internetseiten automatisch ausgelesen haben. Zudem sollen sie angeben, welche Massnahmen zum Schutz von Urheberrechten ergriffen wurden. Für Rechteinhaber soll es nach den Vorgaben der EU eine Kontaktstelle bei den Unternehmen geben.
Mehrere nationale und internationale Bündnisse von Autoren, Künstlern und Verlegern beklagen in einer gemeinsamen Mitteilung, dass die Gesetzgebung geistiges Eigentum nicht genug schütze. Aus Sicht der Initiative Urheberrecht blieben die Massnahmen wirkungslos, da etwa eine Verpflichtung zur Nennung konkreter Datensätze, Domains oder Quellen fehle.
EU-Kommission kann Geldstrafen verhängen – Google besorgt
Private Klägerinnen und Kläger könnten auch jetzt schon auf Grundlage des KI-Gesetzes gegen Anbieter klagen. Das neue Europäische Amt für Künstliche Intelligenz setzt die Regeln allerdings erst später durch: Das EU-KI-Amt kontrolliert neue Modelle ab August 2026. Modelle, die vor dem 2. August 2025 auf den Markt kamen, kontrolliert es ab August 2027. Bei Verstössen drohen dann Geldstrafen von bis zu 15 Millionen Euro oder drei Prozent des gesamten weltweiten Jahresumsatzes.
Zur Orientierung für die Branche hatte die Kommission in den vergangenen Wochen neben rechtlichen Leitlinien auch einen freiwilligen Verhaltenskodex vorgelegt. Anbieter, die sich dem Kodex anschliessen, könnten nach Einschätzung der Kommission von höherer Rechtssicherheit und geringerem Verwaltungsaufwand profitieren. Google, Entwickler der KI Gemini, kündigte in einer Mitteilung bereits an, unterzeichnen zu wollen. Gleichzeitig sei man besorgt, dass das KI-Gesetz Innovationen ausbremsen könne, hiess es in einer Mitteilung.
