Winterthurer Stadtpolizei baut Chatbot «Bobby» um
Der KI-Chatbot der Stadtpolizei Winterthur hat nicht der Datensicherheit entsprochen und musste umgebaut werden. Er konnte Nutzende identifizieren und speicherte Daten. Nach Hinweisen der Datenschutzstelle wird die Eingabe von Personendaten nun blockiert.
«KI-Chatbots schaffen eine persönliche Gesprächsatmosphäre», erklärte der Datenschutzbeauftragte Tobias Naef im Tätigkeitsbericht der Datenschutzstelle Winterthur (DSW) am Dienstag.
Diese Gesprächsatmosphäre verleite Nutzende dazu, viele persönliche Informationen preiszugeben. Anders als bei einem Telefongespräch könne ein Chatbot, wie «Bobby» von der Stadtpolizei Winterthur, die eingegebenen Daten jedoch speichern. Diese könnten zudem an externe Dienstleister weiterfliessen.
Die Datenschutzstelle empfahl daher der Stadtpolizei, den KI-Chatbot so umzusetzen, dass die Nutzenden nicht identifiziert werden können. Bei laufendem Betrieb wurden weitere Kontrollen durchgeführt und das Blockieren von Personendaten bei der Eingabe in den Chat verbessert. Alle Anfragen werden jetzt anonymisiert verarbeitet.
263 Geschäfte bearbeitete die Datenschutzstelle im letzten Jahr. Dies entspreche einem Anstieg von über 170 Prozent gegenüber dem vorigen Jahr und 110 Prozent gegenüber 123 Geschäften im Jahr 2022 – dem Jahr mit den bisherigen Rekordzahlen.
