Wie viel Kontrolle behalten Menschen über KI-Systeme, die sich selbst weiterentwickeln? Diese Sorge beschäftigt laut Golem den Anthropic-Forscher Jacob Coxon. Er zieht sich aus der KI-Branche zurück und befürchtet, dass solche Systeme künftig menschliche Anweisungen nicht mehr befolgen könnten.

Für die Einordnung ist wichtig: Der vorliegende Auszug beschreibt eine Befürchtung über die Zukunft, keinen dokumentierten Fall einer solchen Befehlsverweigerung. Die Überschrift nennt eine Risikoeinschätzung von über zehn Prozent. Wie diese Zahl zustande kommt und auf welchen Annahmen sie beruht, lässt sich aus dem kurzen Auszug nicht beurteilen. Eine persönliche Einschätzung sollte deshalb nicht mit einer gesicherten Vorhersage verwechselt werden.

Ein unmittelbares Risiko für einzelne Websites lässt sich daraus ebenfalls nicht ableiten. KI-Kontrolle und die Sicherheit der eigenen Website sind unterschiedliche Fragen. Wer die Meldung zum Anlass nehmen möchte, sich um die eigene Website-Sicherheit zu kümmern, kann unter check.n9c.io einen Website-Sicherheits-Check starten. Die hier angesprochene Frage nach künftiger KI-Kontrolle beantwortet ein solcher Check nicht.

Quelle: Golem – Bericht über Jacob Coxons Rückzug und seine Sorge um KI-Sicherheit.