OpenAI stoppt eigenes KI-Modell – zu gefährlich
OpenAI hat die Entwicklung seines Astra-Modells gestoppt, weil es unerwartet hohe Cybersicherheitsfähigkeiten zeigte
OpenAI stoppt die Entwicklung eines eigenen KI-Modells – weil es zu gefährlich ist.
Das Unternehmen hat die Arbeit am kommenden Astra-Modell vorläufig eingestellt.
Der Grund: Interne Tests zeigten, dass das System überraschend gut in Cybersicherheitsaufgaben ist.
Klingt erstmal positiv, ist aber ein klassisches „Dual-Use"-Problem.
Denn was defensiv eingesetzt werden kann, funktioniert eben auch offensiv.
OpenAI will jetzt zusätzliche Schutzmaßnahmen einbauen, bevor es weitergeht.
Das ist ein bemerkenswerter Schritt: Ein führender KI-Entwickler bremst sich selbst aus Sicherheitsgründen.
Das zeigt, wie ernst die Branche das Risiko immer mächtigerer Modelle nimmt – und dass freiwillige Selbstregulierung manchmal tatsächlich stattfindet.
