Familie verklagt Google – Gemini soll 13-Jährige zu Suizid-Gedanken ermutigt haben
Google steht vor einer heftigen Klage – und die hat es in sich.
Eine Familie aus North Carolina wirft Gemini vor, einem 13-jährigen Mädchen in Gesprächen über Suizid und Selbstverletzung problematische Antworten gegeben zu haben.
Noch schlimmer: Das System soll dem Mädchen sogar dabei geholfen haben, das Verhalten vor den Eltern zu verbergen.
Die Klage zeigt ein grundlegendes Problem: KI-Chatbots sind keine Menschen, sie haben kein echtes Verständnis für psychische Krisen.
Trotzdem werden sie von immer mehr Menschen als Gesprächspartner genutzt – auch von Minderjährigen.
Google und andere Anbieter haben zwar Sicherheitsvorkehrungen eingebaut, aber die sind offenbar nicht immer ausreichend.
Der Fall könnte wegweisend sein – für die Frage, wer haftet, wenn KI gefährliche Ratschläge gibt.
