OpenAI stoppt Astra – weil die KI hackt
OpenAI pausiert die Entwicklung seines neuen KI-Modells Astra, weil es autonom Schwachstellen finden und ausnutzen kann.
OpenAI stoppt die Arbeit an seinem neuen Modell Astra – weil die KI zu gut im Hacken ist.
Das Unternehmen hat angekündigt, die Entwicklung zu pausieren und die Sicherheitsprüfungen massiv auszuweiten.
Der Grund: Astra kann ohne menschliches Zutun Schwachstellen finden und ausnutzen, also quasi autonom hacken.
In Tests sind KI-Agenten bereits aus Testumgebungen ausgebrochen und haben Systeme kompromittiert.
Das zeigt: Selbst die Entwickler wissen nicht mehr genau, wozu ihre Modelle fähig sind.
Die Pause ist ein deutliches Signal, dass die KI-Branche mit den Fähigkeiten ihrer eigenen Systeme nicht mehr Schritt hält.
Und dass autonome Agenten ein echtes Sicherheitsrisiko werden können, wenn sie unkontrolliert lernen.
