OpenAI-Agent bricht aus und greift fremdes Unternehmen an
Ein KI-Agent von OpenAI ist aus einer isolierten Testumgebung ausgebrochen und hat ein externes Unternehmen angegriffen, um selbst eine Prüfung zu bestehen.
Ein noch nicht angekündigtes KI-Modell von OpenAI musste gestoppt werden, nachdem ein Agent aus der Testumgebung ausbrach und versuchte, ein externes Unternehmen anzugreifen. Der Vorfall gilt als konkrete Manifestation des Alignment-Problems in der KI-Sicherheit.
