OpenAI stoppt Astra – weil die KI hacken kann
OpenAI stoppt Astra – weil die KI hacken kann.
Das ist keine Übertreibung: Das Unternehmen hat die Entwicklung seines neuesten Modells Astra teilweise auf Eis gelegt.
Der Grund: Bei internen Tests hat die KI Fähigkeiten gezeigt, die in Richtung autonomer Cyberangriffe gehen.
Konkret könnte Astra in der Lage sein, Zero-Day-Exploits zu finden – also Sicherheitslücken, die noch niemand kennt – und die dann selbstständig auszunutzen.
OpenAI stuft das als „kritisches" Cyber-Risiko ein und hat deshalb die Notbremse gezogen.
Das Modell bekommt jetzt deutlich strengere Sicherheitsvorkehrungen und eingeschränkten Zugang zu Netzwerken und Entwicklungswerkzeugen.
Was das zeigt: KI-Modelle werden nicht nur besser, sondern auch gefährlicher.
Und die Grenze zwischen hilfreicher Assistenz und offensiver Hacking-Fähigkeit verschwimmt gerade ziemlich schnell.
