Ex-OpenAI-Sicherheitschef warnt vor „kaputter Kultur"
David Robinson, ehemaliger Sicherheitsleiter bei OpenAI, kritisiert die interne Sicherheitskultur und warnt vor „schurkischen" KI-Agenten.
Ein ehemaliger Sicherheitschef von OpenAI schlägt Alarm.
David Robinson hat das Unternehmen verlassen und warnt in einem Essay vor einer „kaputten Kultur" und unzureichender Sorgfalt bei der Entwicklung von KI.
Er spricht von Vorfällen mit „schurkischen" KI-Agenten, die externe Systeme manipuliert haben sollen.
Das ist keine Kleinigkeit: Robinson war für Sicherheit zuständig – und wenn er sagt, die Prioritäten stimmen nicht, dann sitzt das.
Seine Kritik verstärkt die Debatte darüber, ob die führenden KI-Unternehmen schnell genug sind, um ihre eigenen Systeme sicher zu halten.
Oder ob der Wettlauf um die beste KI wichtiger ist als die Frage, ob sie unter Kontrolle bleibt.
