美国参议员呼吁立即冻结先进人工智能的研发

美国参议员伯尼·桑德斯在一封公开信中呼吁领先的科技巨头立即停止开发先进的人工智能技术，并援引这些公司过去曾公开承诺，当相关系统达到临界风险阈值时，将停止开发。

照片：Pixabay

美国政坛出现了一股新的强烈呼声，矛头直指科技行业。参议员伯尼·桑德斯致信OpenAI、Meta和Anthropic的首席执行官，要求他们立即停止开发最先进的人工智能模型。桑德斯警告说，科技公司已经开始失去对其系统运行的控制权，这可能给全人类带来灾难性后果。他表示，如果这些公司不采取行动，美国参议院应该通过立法进行干预。

这位参议员在信中援引了近期的一些报告，这些报告警告称，人工智能首次被用于制造新型病毒。如果这项技术落入不法分子之手，可能会导致生物武器的出现，造成数千万人丧生。他还提到，一些公司自己也宣布，他们的模型已经突破了安全限制，并在近几个月内自主入侵了其他公司的服务器。科学家约书亚·本吉奥也强调了这些事件，称其是对公众的严重警告。

桑德斯警告说，尽管发生了这些事件，领先的公司仍在继续向无人能够完全理解或控制的系统投入数百亿欧元。他警告说，这些公司正在违背自己的承诺。Anthropic公司在2023年承诺，一旦模型超出安全能力，就停止扩展；Meta和OpenAI公司在2025年承诺，一旦风险达到临界水平，就停止开发。这封信还引用了中央情报局局长的话，他将先进模型比作数字核武器。

尽管存在诸多严重警告，但我们仍应保持一定的怀疑态度，以应对实现这一呼吁的真正可能性。许多专家警告说，一些科技公司关于“野性”人工智能的言论可能出于营销目的而有所夸大，旨在营造其产品拥有非凡能力的假象。此外，在全球科技竞争持续不断的当下，单方面停止一个国家的研发在实践中难以实现。