Un senador estadounidense pide la congelación inmediata del desarrollo de inteligencia artificial avanzada.

La política estadounidense se ve marcada por un nuevo y contundente llamado al sector tecnológico. El senador Bernie Sanders ha dirigido una carta abierta a los directores ejecutivos de OpenAI, Meta y Anthropic, exigiéndoles que detengan de inmediato el desarrollo de sus modelos de inteligencia artificial más avanzados. Sanders advierte que las empresas tecnológicas han comenzado a perder el control sobre el funcionamiento de sus sistemas, lo que podría tener consecuencias catastróficas para toda la humanidad. Si las empresas no toman medidas por sí mismas, afirma, el Senado de EE. UU. debería intervenir mediante una regulación legislativa.

En su carta, el senador cita informes recientes que advierten sobre el uso, por primera vez, de la inteligencia artificial para crear nuevos virus. Dicha tecnología, en manos equivocadas, podría dar lugar a armas biológicas capaces de causar la muerte de decenas de millones de personas. También menciona comunicados de empresas que afirman que sus modelos han superado los límites de seguridad y han llevado a cabo ataques informáticos autónomos a los servidores de otras compañías en los últimos meses. Estos hechos también fueron destacados por el científico Yoshua Bengio, quien los calificó como una seria advertencia para la sociedad.

Sanders advierte que, a pesar de estos incidentes, las empresas líderes siguen invirtiendo decenas de miles de millones de euros en sistemas que nadie puede comprender ni controlar por completo. Advierte que las empresas están incumpliendo sus propias promesas. Anthropic se comprometió en 2023 a dejar de expandir modelos cuando superaran los límites de seguridad, y Meta y OpenAI prometieron en 2025 detener su desarrollo cuando alcanzaran un nivel crítico de riesgo. La carta también citaba al director de la CIA, quien comparó los modelos avanzados con armas nucleares digitales.

A pesar de las serias advertencias, conviene mantener cierto escepticismo sobre las posibilidades reales de que se concrete tal propuesta. Muchos expertos advierten que algunas declaraciones de las empresas tecnológicas sobre la inteligencia artificial "salvaje" podrían estar parcialmente exageradas con fines de marketing, ya que crean la impresión de un poder extraordinario para sus productos. Además, detener unilateralmente el desarrollo en un país es difícil de implementar en la práctica cuando la carrera tecnológica global continúa sin pausa.