OpenAI warnt: Niemand hat KI-Sicherheit im Griff
OpenAI warnt: Niemand hat KI-Sicherheit im Griff.
Jakub Pachocki, Chefwissenschaftler bei OpenAI, schlägt Alarm.
In einem Essay namens „An Alien Mind" schreibt er ganz offen: Kein einziges Forschungslabor habe die Probleme bei der Kontrolle und Überwachung von KI wirklich gelöst.
Seine Forderung: Die Branche muss die Entwicklung freiwillig verlangsamen.
Das ist bemerkenswert, denn es kommt direkt aus dem Unternehmen, das gerade erst GPT-6 Astra veröffentlicht hat – ein Modell, das laut eigenen Angaben eine kritische Cybersicherheits-Schwelle überschritten haben soll.
OpenAI spricht inzwischen sogar von Systemen, die wie „KI-Forschungspraktikanten" arbeiten und mehrere Arbeitstage an Aufgaben erledigen können.
Das nächste Ziel: vollständig autonome KI-Forscher.
Pachockis Warnung ist also kein theoretisches Gerede – sondern kommt genau zum Zeitpunkt, an dem diese Systeme real werden.
