Anthropic fordert: Regierungen sollen gefährliche KI stoppen dürfen
Ausgerechnet ein KI-Konzernchef fordert mehr staatliche Kontrolle – und zwar nicht irgendwer.
Dario Amodei, der Chef von Anthropic, dem Unternehmen hinter Claude, sagt: Regierungen müssen die Macht haben, riskante KI-Systeme zu stoppen.
Das ist bemerkenswert, weil es aus der Branche selbst kommt.
Amodei will verpflichtende Sicherheitsprüfungen für besonders leistungsstarke Modelle – mit Blick auf Risiken wie Cyberangriffe, Biowaffen oder unkontrollierbare Systeme.
Hintergrund ist auch ein internes Anthropic-Modell namens Mythos, das jahrzehntelang unentdeckte Schwachstellen in verbreiteter Software aufgespürt haben soll.
Das zeigt: Die Fähigkeiten werden beängstigend.
Und wer glaubt, die Industrie regelt das schon selbst, wird hier eines Besseren belehrt.
Amodei fordert klare gesetzliche Regeln – bevor es zu spät ist.
