EU-Kommission schlägt Regeln für Anwendung künstlicher Intelligenz vor

Brüssel wolle Innovation nicht im Wege stehen, aber der Gesetzgeber müsse eingreifen, wenn «Sicherheit und Grundrechte der EU-Bürger auf dem Spiel stehen», erklärte die für Digitales zuständige Kommissionsvize Margrethe Vestager am Mittwoch. Gefahr besteht demnach insbesondere beim Einsatz von KI zur Massenüberwachung und Verhaltenssteuerung.

KI-Werkzeuge, die zu diesen Zwecken eingesetzt werden könnten, sollten nach Ansicht der Kommission grundsätzlich verboten werden. Als Beispiele nennt die Behörde auch Systeme zur «sozialen Bewertung» von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit.

Andere Anwendungen sollen den Plänen zufolge als «risikoreich» eingestuft werden und würden strengen Auflagen unterliegen. Dies soll etwa für den Einsatz von KI im Strassenverkehr gelten. Auch Auswahlsysteme zum Beispiel im Hochschulsektor, bei der Personalsuche in Unternehmen oder zur Kreditvergabe würden darunter fallen.

Kritische aber durchaus nützliche Einsatzbereiche für KI sieht die Kommission im Justizsystem und in der Verwaltung. Die Prüfung von Beweismitteln vor Gericht oder die Kontrolle von Ausweisdokumenten könnte automatisiert werden, müsste aber ebenfalls strengen Regeln unterliegen. Die Selbstlernprozesse der Maschinen müssten etwa genau dokumentiert werden und die zugrunde liegenden Datensätze geprüft werden, um Diskriminierung zu vermeiden.

Strenge Auflagen sollen laut Kommission grundsätzlich für Werkzeuge zur «biometrischen Fernidentifizierung» von Menschen etwa per Gesichts- oder Stimmerkennung gelten. «Ihr Echtzeit-Einsatz in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ist grundsätzlich verboten», erklärte die Behörde. Eng gefasste Ausnahmen soll es zum Beispiel für die Suche von Vermissten oder zur Abwehr konkreter Gefahren und nur auf richterliche Anordnung geben. Die militärische Anwendung von KI decken die Vorschriften grundsätzlich nicht ab.

Eine Reihe weiterer Anwendungen künstlicher Intelligenz sollen weniger strengen Auflagen unterliegen. Zum Beispiel müsste beim Einsatz von Chat-Bots im Kundenservice für den Nutzer klar ersichtlich sein, dass er mit einer Maschine kommuniziert. Für alle weiteren Anwendungen - die laut Kommission «grosse Mehrheit der KI-Systeme» - sollten demnach keine Anforderungen gelten, die über die üblichen Regeln zur Produktsicherheit hinausgehen.

Unter Künstlicher Intelligenz wird die Fähigkeit von Maschinen verstanden, menschliche Intelligenz zu imitieren und eigenständig dazuzulernen, ohne dabei auf Anweisungen eines menschlichen Entwicklers angewiesen zu sein. «Dies bietet ein immenses Potenzial in so unterschiedlichen Bereichen wie Gesundheit, Transport, Energie, Landwirtschaft, Tourismus oder Cybersicherheit», erklärte Industriekommissar Thierry Breton.

Die EU-Kommission will deshalb nach eigenen Angaben einen klaren Rechtsrahmen für den Einsatz von KI schaffen, der auch die Innovation in diesem Bereich fördern soll. Als Vorreiter gelten bei künstlicher Intelligenz bislang die USA und China.