Anthropic-Forscher warnt vor Auslöschung – US-Kongress will Superintelligenz verbieten
Ein KI-Forscher schmeißt hin – und warnt vor dem Untergang der Menschheit.
Jacob Coxon von Anthropic hat seinen Rücktritt bekannt gegeben und dabei eine heftige Zahl in den Raum gestellt: Über 10 Prozent Wahrscheinlichkeit, dass selbstverbessernde KI-Systeme uns alle auslöschen könnten.
Das hat jetzt sogar den US-Kongress aufgeschreckt.
Senator Bernie Sanders und andere Abgeordnete diskutieren gerade einen Gesetzentwurf, der die Entwicklung von Superintelligenz schlicht verbieten würde – eine Art Pause-Knopf für die KI-Forschung.
Klingt nach Science-Fiction, ist aber bitterer Ernst.
Die Frage ist: Kann man Innovation überhaupt per Gesetz stoppen, wenn die ganze Welt weiterforscht?
Und wer entscheidet eigentlich, wann aus „schlau" eine „Superintelligenz" wird?
Die Debatte um KI-Sicherheit hat jedenfalls gerade eine neue Eskalationsstufe erreicht.
