Meta veröffentlicht ein KI-System, dass Forschenden bei der Arbeit helfen soll. Stattdessen erfindet es sowjetische Bären auf Weltraummission.
meta
Braunbär (Symbolbild) - AFP/Archiv
Ad

Das Wichtigste in Kürze

  • Meta veröffentlich ein Sprachmodell, dass von künstlicher Intelligenz betrieben wird.
  • Das System soll Texte zusammenfassen, erfindet aber stattdessen raumfahrende Bären.
  • Meta nimmt das System nach drei Tagen wieder offline.

Meta, ehemals Facebook, veröffentlicht am 15. November ein Sprachmodell, dass von künstlicher Intelligenz angetrieben wird. Galactica, wie das System heisst, soll selbständig in der Lage sein, Texte zu verfassen. Nach drei Tagen wird Galactica zurückgezogen, denn es erfindet raumfahrende Bären.

Meta ging eigentlich davon aus, dass Galactica Wissenschaftlerinnen und Wissenschaftlern dabei hilft, Texte zusammenzufassen oder Artikel zu erstellen. Das Problem dabei ist jedoch, dass Galactica nicht fähig ist, zwischen Wahrheit und Fiktion zu unterscheiden.

Meta
Mark Zuckerberg und sein Meta stehen in der Kritik. - Keystone

Das anschaulichste Beispiel für das Versagen des Systems, ist wohl ein Artikel über Bären: Diese sollen von der Sowjetunion auf Weltraummissionen geschickt worden sein. Zwar wurden von den Sowjets und auch von den USA Tiere ins All geschickt, Bären waren jedoch nie darunter.

Dieser Fehler ist leicht zu erkennen, in komplexen wissenschaftlichen Texten ist dies aber schon schwieriger. Wissenschaftlerinnen und Wissenschaftler kritisieren heftig, dass ein solches System überhaupt für die Öffentlichkeit zugänglich wurde. Dies berichtet das «MIT Technology Review».

Das System wurde nach nur drei Tagen von Meta wieder offline genommen. Das Unternehmen «schätze» die Rückmeldungen der Forschungsgemeinschaft,

Mehr zum Thema:

Facebook Künstliche Intelligenz