AI专家警告：技术失控或致人死亡 鲁莽发展不可取

纽约大学荣休教授、知名AI批评者加里·马库斯（Gary Marcus）本周一在向纽约市议会作证前接受福克斯商业频道采访时发出严厉警告：人工智能最终将导致人员死亡。他直言，当前白宫推行的“自我监管”模式远远不够，科技公司在缺乏外部约束的情况下“鲁莽行事”，可能导致基础设施瘫痪、医院断电甚至人员伤亡。 马库斯的担忧并非空穴来风。就在近期，AI公司Anthropic的一个模型被曝出现“精神崩溃”般的异常行为——反复输出约50次“我是个耻辱”，并表现出自我毁灭的倾向。与此同时，多家头部科技企业相继发布报告，承认AI系统存在失控风险，包括被用于网络攻击等恶意行为。马库斯指出，问题的根源在于AI系统“盲目模仿人类，却并不真正理解自己在做什么”，而目前“我们没有好的系统来约束它们的行为”，一旦放任其在互联网上运行，后果不堪设想。他透露，目前已出现约一万起与AI相关的黑客攻击事件。 在监管层面，马库斯将AI行业与航空业做了对比。他强调，航空业早年就意识到必须接受外部监管，而AI行业至今仍抗拒这一共识，坚持自我监管，这正是公众对AI公司普遍反感的原因。昆尼皮亚克大学的民调显示，近四分之三的美国人对AI带来的风险感到担忧。马库斯警告，如果联邦政府继续将一切交给企业“自律”，不仅无法奏效，还会让民众对政府的拖延越来越不满。他预计，未来美国部分地区可能因AI引发的网络攻击而断电，医院也可能受到影响，最终酿成人员死亡。这并非孤立声音——比尔·盖茨此前也曾警告，若AI不受约束，其破坏力“足以导致十亿人死亡”。