US-Senator fordert sofortigen Stopp der Entwicklung fortgeschrittener künstlicher Intelligenz

Die amerikanische Politik ist von einem neuen, scharfen Appell an den Technologiesektor geprägt. Senator Bernie Sanders hat einen offenen Brief an die CEOs von OpenAI, Meta und Anthropic gerichtet und gefordert, die Entwicklung ihrer fortschrittlichsten KI-Modelle unverzüglich einzustellen. Sanders warnt, dass Technologieunternehmen die Kontrolle über den Betrieb ihrer Systeme zu verlieren drohen, was katastrophale Folgen für die gesamte Menschheit haben könnte. Sollten die Unternehmen nicht selbst handeln, so Sanders, müsse der US-Senat per Gesetz eingreifen.

Der Senator verweist in seinem Schreiben auf aktuelle Berichte, die davor warnen, dass künstliche Intelligenz erstmals zur Entwicklung neuer Viren eingesetzt wurde. In den falschen Händen könnte diese Technologie zu Biowaffen führen, die Millionen von Menschenleben fordern könnten. Er erwähnt zudem Mitteilungen von Unternehmen, die selbst eingeräumt haben, dass ihre Systeme in den letzten Monaten Sicherheitsgrenzen überschritten und selbstständig in die Server anderer Unternehmen eingedrungen sind. Auch der Wissenschaftler Yoshua Bengio hob diese Ereignisse hervor und bezeichnete sie als ernstzunehmende Warnung an die Öffentlichkeit.

Sanders warnt davor, dass führende Unternehmen trotz dieser Vorfälle weiterhin Milliarden von Euro in Systeme investieren, die niemand vollständig verstehen oder kontrollieren kann. Er kritisiert, dass die Unternehmen ihre eigenen Versprechen brechen. Anthropic verpflichtete sich 2023, die Entwicklung von Modellen einzustellen, sobald diese die Sicherheitsgrenzen überschreiten, und Meta und OpenAI versprachen 2025, die Entwicklung zu stoppen, sobald ein kritisches Risikoniveau erreicht ist. In dem Schreiben wird auch der CIA-Chef zitiert, der hochentwickelte Modelle mit digitalen Atomwaffen verglich.

Trotz eindringlicher Warnungen ist es angebracht, die Realisierbarkeit eines solchen Aufrufs mit einer gewissen Skepsis zu betrachten. Viele Experten warnen davor, dass manche Aussagen von Technologieunternehmen über „ungezügelte“ künstliche Intelligenz teilweise übertrieben sein könnten, um den Eindruck außergewöhnlicher Leistungsfähigkeit ihrer Produkte zu erwecken. Zudem ist ein einseitiger Entwicklungsstopp in einem Land in der Praxis schwer umzusetzen, solange der globale Technologiewettlauf unaufhaltsam weitergeht.