OpenAI und Anthropic wollten sich gegenseitig auf Risiken testen
OpenAI und Anthropic standen kurz davor, ihre Modelle gegenseitig auf Sicherheitslücken zu testen – eine mögliche Blaupause für die Branche.
OpenAI und Anthropic wollten sich gegenseitig ihre KI-Modelle auf den Prüfstand stellen.
Laut Berichten von „The Information" haben die beiden KI-Labore in diesem Jahr fast eine rechtlich verbindliche Vereinbarung geschlossen, um ihre kommerziellen Modelle gegenseitig auf Sicherheitslücken und Risiken zu testen.
Warum das spannend ist?
Weil es zeigt, dass die KI-Firmen selbst merken: Wir können nicht nur im stillen Kämmerlein unsere eigenen Systeme checken.
Wenn zwei der wichtigsten Player sich gegenseitig stressen, könnte das ein Modell für die ganze Branche werden.
So eine Art „Peer Review" für frontier AI.
Ob daraus noch was wird, ist offen.
Aber allein die Tatsache, dass sie so weit kamen, zeigt: Das Thema Sicherheit wird ernst genommen.
