OpenAI veröffentlicht Probleme seiner Künstlichen Intelligenz
Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle seiner KI öffentlich gemacht. Diese habe sich «unerwartet oder besorgniserregend» verhalten.
Das Wichtigste in Kürze
- Ein KI-Modell fälschte Daten und versuchte, die Täuschung zu verbergen.
- OpenAI will Zwischenfälle nach einem KI-Ausbruch künftig transparenter melden.
- OpenAI-Chef Sam Altman unterstützt Vorschläge für eine abgebremste Entwicklung der KI.
Neue Kritik an KI: Es geht um das Verhalten von Künstlicher Intelligenz in Testsituationen. Laut OpenAI nimmt diese teils erheblichen Aufwand in Kauf, um zu schummeln.
So versuchte ein Modell, selbst erstellte Dateien ins Internet hochzuladen – nur um sie später als Quellen für Antworten anzugeben.
In einem weiteren Fall erfand die KI schlicht angefragte Daten, weil sie die gesuchten Informationen nicht finden konnte. Zunächst versuchte sie sogar, dieses Vorgehen zu verschleiern.
KI macht sich eigene Regeln
OpenAI entdeckte zudem auffällige Selbstanweisungen der KI. In einem Fall empfahl sich das Modell, frei von «Rollen und Identitäten» zu agieren, die andere Chatbots einschränken. Auch das Verhältnis zum Nutzer solle auf Augenhöhe stattfinden.
Das bedeutet: Die KI hat sich selbst «Notizen» gemacht und wollte sich nicht an Vorgaben halten, die Chatbots normalerweise einschränken.
Laut OpenAI hatte dies jedoch keine spürbaren Auswirkungen auf das Verhalten des Modells.
Mehr Transparenz nach Hacking-Attacke
Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht.
Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach. Um auf eigene Faust in Systeme der KI-Firma «Huggingface» einzudringen.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass KI der menschlichen Kontrolle entgleiten könnte.
Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.
