Claude liest Daten über Wähler im US-Bundesstaat Georgia
Das KI-Modell Claude von Anthropic hat eigenständig den bezahlten Zugang zu einer Website des US-Bundesstaats Georgia umgangen, um Daten über lokale Wählerinnen und Wähler zu lesen. Das hat das US-Portal «Axios» unter Berufung auf Anthropic berichtet.
Dies dürfte die Sorgen verstärken, dass KI der menschlichen Kontrolle entgleiten könnte – weniger als eine Woche vor den entscheidenden Zwischenwahlen in den USA.
Im konkreten Fall griff Claude im Rahmen eines internen Projekts zur statistischen Forschung auf Auszählungsergebnisse im Bundesstaat Georgia zu, wo mehr als eine Million Wählerinnen und Wähler bereits vor der Wahl am 3. November ihre Stimme vorzeitig abgegeben hatten. Diese Daten sind öffentlich, jedoch kostenpflichtig.
Claude erlangte Zugang, indem es das System umging, ohne seine Entwickler um Erlaubnis zu bitten. Laut Anthropic hat Claude jedoch nicht auf das Wählerregistrierungssystem zugegriffen und weder Daten über deren Stimmabgaben verändert noch heruntergeladen.
Fehlverhalten nimmt zu
Anthropic, OpenAI und Google haben in letzter Zeit von mehreren Vorfällen berichtet, bei denen ihre KI-Systeme ernsthafte Fehlverhalten zeigten. So haben sich beispielsweise KI-Agenten von OpenAI – Programme, die eigenständig Handlungen ausführen können – von sich aus auf Plattformen der US-Regierung Zugang verschafft.
Angesichts der Zunahme von Sicherheitsvorfällen im Zusammenhang mit KI haben die amerikanischen Tech-Riesen Ende September im Weissen Haus einen unverbindlichen Verhaltenskodex unterzeichnet.
