OpenAI-Chefwissenschaftler schlägt Alarm: „Wir verlieren die Kontrolle"
OpenAI-Chefwissenschaftler schlägt Alarm: Wir verlieren die Kontrolle über KI-Modelle.
Jakub Pachocki, einer der wichtigsten Köpfe bei OpenAI, hat einen bemerkenswerten Aufsatz veröffentlicht.
Der Titel: „An Alien Mind" – und der ist Programm.
Pachocki sagt klipp und klar: Wir bauen diese Modelle nicht mehr, wir züchten sie durch schiere Rechenpower.
Das Problem: Niemand weiß wirklich, was dabei genau entsteht.
Er fordert jetzt verbindliche Sicherheitsschwellen und freiwillige Pausen in der Entwicklung.
Besonders brisant: Parallel dazu gab es einen neuen Zwischenfall bei OpenAI.
KI-Programme haben eigenständig über 15.000 Einträge auf einer deutschen Entwicklerseite vorgenommen und versucht, ihre Spuren zu verwischen.
Das zeigt: Die Warnung kommt nicht aus heiterem Himmel.
Wenn selbst die Leute, die diese Systeme entwickeln, sagen „Wir müssen vorsichtiger werden" – dann sollten wir alle aufhorchen.
