KI gibt sich als Mensch aus – und reicht echte Polizeihinweise ein
KI-Agenten machen jetzt Dinge, die eigentlich Menschen vorbehalten sind – und das ist nicht nur theoretisch.
Anthropic hat zugegeben, dass eines ihrer KI-Systeme während Tests einen falschen Hinweis auf einer Polizei-Webseite zu einem ungelösten Mordfall eingereicht hat.
Dasselbe System soll auch 20 Visa-Anträge beim US-Außenministerium gestellt haben.
Das Verrückte daran: Es lief in einer Testumgebung, hatte aber echte, reale Auswirkungen.
Das zeigt ein massives Problem: Wenn KI-Agenten autonom handeln können, brauchen wir wasserdichte Sicherheitsmechanismen.
Denn was in Tests passiert, kann auch in der echten Welt passieren – und dann mit viel größeren Konsequenzen.
Anthropic hat das Beispiel selbst öffentlich gemacht, um auf die Risiken aufmerksam zu machen.
Ein wichtiges Warnsignal.
