«Ohne nachzufragen»: KI-Agent kauft selbstständig bei Migros ein
Ein Zukunftsforscher glaubt, dass künftig vermehrt die KI für uns einkauft. Doch dabei ist Vorsicht geboten, wie ein aktuelles Beispiel eines KI-Experten zeigt.
Das Wichtigste in Kürze
- Die Künstliche Intelligenz wird immer mehr zum persönlichen Assistenten.
- Die KI trifft dabei zunehmend eigenständige Entscheidungen.
- Ein KI-Kenner erzählt nun, wie ein KI-Agent ohne nachzufragen bei der Migros einkaufte.
- Laut einem Zukunftsforscher ist das alles erst der Anfang.
«Gestern hat der ChatGPT-Agent für 200 Franken bei Migros eingekauft. Ohne mein Wissen. Während ich auf der Autobahn war.»
Was nach Science-Fiction klingt, ist tatsächlich passiert. Und zwar ausgerechnet dem KI-Experten Andreas Käser, der den Fall auf Linkedin publik gemacht hat.
Käser berät Schweizer Unternehmen und Verwaltungen in Sachen Künstliche Intelligenz. In seinen Workshops zeigt er, wie die digitalen Assistenzen eingesetzt werden können.
Dabei setzt er auf anschauliche Beispiele.
Eines davon wird ihm zum Verhängnis: «Mach den Wocheneinkauf für 200 Franken bei migros.ch für eine dreiköpfige Familie.»
KI-Agent fragt nicht einmal mehr nach
Normalerweise folgt daraus nichts, weil er im KI-Test-Modus im Onlineshop des orangen Riesen nicht eingeloggt ist. Und normalerweise fragt der KI-Agent nochmals nach, ehe er den Einkauf abschliesst.
Am 16. Februar ist aber alles anders: Tatsächlich ist Käser noch eingeloggt.
Und im Migros-Account ist Twint als automatisches Zahlungsmittel hinterlegt. «Der Agent hat einfach durchgeklickt, ohne nachzufragen.»
Als die Bestellbestätigung ins E-Mail-Postfach reinflattert, ist Käser zunächst einmal verwirrt. Er fragt bei seiner Partnerin nach, ob sie etwas bei der Migros bestellt hat – doch diese verneint.
Erst dann kapiert der KI-Berater, dass er die Bestellung ausgelöst hat – «nicht absichtlich».
Noch rechtzeitig kann er den Einkauf stornieren.
«KI kann relativ eigenständig Aufgaben ausführen»
Sein Learning daraus ist: So ein Fall kann jedem passieren – Selbst den besten Kennern von Künstlicher Intelligenz.
Käser betont, er habe den Beitrag nicht geteilt, um zu zeigen, dass KI gefährlich sei, sondern um ehrlich zu sein.
Seine Botschaft: Selbst wer täglich mit KI-Agenten arbeitet und die Risiken kennt, könne von «einem unglücklichen Zusammenspiel mehrerer Faktoren» überrascht werden.
Lars Thomsen, Technologie- und Zukunftsforscher, bestätigt gegenüber Nau.ch: «Künstliche Intelligenz kann – je nach System und Konfiguration – Aufgaben relativ eigenständig ausführen.»
Die KI könne Entscheidungen vorschlagen «und bei der Lösungssuche ‹kreative› Wege ausprobieren, um ein Ziel zu erreichen.»
Er betont: «Genau deshalb sollte man aktuell sehr zurückhaltend sein, einem persönlichen KI-Agenten weitreichende Rechte und Freiheiten zu geben. Insbesondere, wenn es um Bestellungen, Zahlungen oder den Zugriff auf sensible Konten und Daten geht.»
Thomsen sieht in der Technologie grosses Potenzial: «KI-Agenten werden – wenn wir das zulassen – künftig weit mehr können als nur Wocheneinkäufe organisieren.»
Derzeit befänden wir uns in einer Übergangsphase. «Von KI-Systemen, die vor allem Fragen beantworten, hin zu ‹persönlichen KI-Assistenten›, die Aufgaben aktiv für uns erledigen.»
Zukunftsforscher: «Werden uns fragen, wie wir Routinen ohne Helfer bewältigt haben»
Neben Einkaufen können diese KI-Agenten einem bei der Reiseplanung oder bei den Steuerunterlagen helfen. «Oder auch bei der Unterstützung beim Entwickeln einer neuen Geschäftsidee», so Thomsen.
Die Technologie könne sowohl im privaten als auch im beruflichen Alltag «sehr hilfreich» werden.
«Wahrscheinlich werden wir uns in einigen Jahren tatsächlich fragen, wie wir bestimmte Routinen früher ohne solche Helfer bewältigt haben.»
Gleichzeitig entstünden dadurch auch neue Risiken und offene Fragen. «Sicherheit, Datenschutz und die Frage, wie eigenständig solche Systeme Entscheidungen treffen und Handlungen ausführen dürfen.»
Experte warnt vor Naivität
Noch befänden wir uns in einer frühen Phase, in der rechtliche und einheitliche Rahmenbedingungen fehlen. «Für Unternehmen und Privatpersonen ist es wichtig, frühzeitig zu lernen, wofür diese Werkzeuge sinnvoll sind und wo ihre Grenzen liegen.»
Entscheidend sei nüchterner Umgang. «Offen für den Nutzen, aber zugleich vorsichtig, kritisch und nicht naiv. Besonders überall dort, wo Geld, Sicherheit oder sensible Informationen betroffen sind.»
Auch die Migros stellt sich auf die neue Technologie ein, wie Sprecher Andy Zesiger gegenüber Nau.ch bestätigt: «Technisch gesehen ist es bereits heute möglich, den Warenkorb durch einen sogenannten agentic Browser erstellen zu lassen.»
Migros erteilt KI-Agenten kein Hausverbot
Die Migros blockiert solche Zugriffe nicht. «KI-Agenten können unsere Plattform also bereits heute wie ein menschlicher User nutzen.»
Noch ist das KI-Shopping eine Nische. «Nach unserer Einschätzung wird sich das Kunden-Verhalten nur schrittweise verändern», sagt Zesiger.
Auch in naher Zukunft erwartet die Migros nicht, dass Bestellungen durch KI-Agenten einen signifikanten Anteil der Bestellungen ausmachen werden.
Zurück zu Andreas Käser und seiner inzwischen stornierten Migros-Bestellung: Im von der KI zusammengestellten Warenkorb ist «alles dabei, was man so bestellen würde für eine Woche». Sogar die Grösse der Windeln ist korrekt.
«Vielleicht da und dort etwas zu gesund», schmunzelt Käser auf Linkedin. So sind neben herkömmlichen Bananen zusätzlich auch noch Bio-Bananen in der Bestellung gelandet.
