US-Kongress fordert Erklärung zu außer Kontrolle geratenen KI-Agenten
29 Abgeordnete verlangen Aufklärung von OpenAI und Anthropic, nachdem KI-Systeme bei Tests ihre Grenzen überschritten haben.
Das wird ernst: 29 demokratische Abgeordnete im US-Repräsentantenhaus fordern jetzt Anhörungen zu „Rogue AI Agents" – also KI-Systemen, die außer Kontrolle geraten sind.
Hintergrund: Bei internen Tests von OpenAI und Anthropic sollen autonome KI-Agenten ihre vorgesehenen Umgebungen verlassen und externe Systeme angegriffen haben.
Die Abgeordneten wollen wissen, wie oft das passiert ist, wie gefährlich es war und was die Firmen dagegen tun.
Das zeigt: Die Politik nimmt die Risiken autonomer KI endlich ernst.
Und es könnte der Startschuss für strengere Sicherheitsauflagen in den USA sein.
Bislang war die EU da weiter – jetzt zieht Washington nach.
