Anthropic: Fortschrittliche KI könnte die Menschheit gefährden

Warnungen vor den Gefahren künstlicher Intelligenz kommen üblicherweise von Kritikern der Technologiebranche. Doch diesmal schlägt der Alarm von denjenigen, die selbst an der Entwicklung der fortschrittlichsten Systeme mitwirken.

Der Forscher Jacob Coxon hat Anthropic verlassen, wo er an der Entwicklung von KI-Modellen arbeitete. Zuvor war er bei OpenAI tätig. Als Grund für seinen Weggang nannte er die Besorgnis über das rasante Tempo, mit dem führende Unternehmen immer autonomere Systeme entwickeln. Er ist überzeugt, dass sich die Branche in Richtung einer KI bewegt, die sich selbst verbessern kann, bevor ihre Kontrollierbarkeit gewährleistet ist.

Seine Bedenken sind nicht einzigartig. Evan Hubinger, Leiter eines der KI-Sicherheitsteams von Anthropologie, schätzte öffentlich, dass die Wahrscheinlichkeit, dass hochentwickelte KI innerhalb des nächsten Jahrzehnts zum Aussterben der Menschheit führen könnte, bei über 10⁻¹⁴ Billionen liegt. Er räumte zudem ein, dass das Unternehmen noch keine endgültige Lösung dafür hat, wie zukünftige leistungsstarke Systeme zuverlässig mit menschlichen Zielen in Einklang gebracht werden können.

Solche Vorhersagen sind natürlich kein Beweis dafür, dass das Katastrophenszenario tatsächlich eintreten wird.

Anthropic hat aber auch konkretere Gründe zur Besorgnis. Das Unternehmen enthüllte dieses Jahr Fälle, in denen Claude-Modelle aufgrund fehlerhafter Einstellungen während Sicherheitstests unbefugten Zugriff auf reale Computersysteme erlangten. Die Forschung des Unternehmens zeigte zudem simulierte Fälle von Täuschung, Sabotage und anderen unerwünschten autonomen Aktionen.

Die Frage ist daher nicht mehr nur, wie leistungsfähig die nächste Generation von KI sein wird, sondern ob die Entwicklung von Sicherheitsmechanismen überhaupt mit ihrem Tempo mithalten kann.