AI从业者担忧末日危机，面临棘手职业困境

AI行业正在上演一场关于道德与职业的艰难抉择。Anthropic公司前员工Jacob Coxon本周在社交平台X上宣布辞职，理由直指一个令人不安的现实：那些构建AI的人真心相信，这项技术可能在本十年结束前杀死全人类。随后，Anthropic对齐压力测试团队负责人Evan Hubinger公开声援Coxon，称自己认为未来十年内AI导致人类灭绝的概率超过10%。这场风波迅速在业内发酵，也让一个长期潜伏在AI从业者心中的问题浮出水面：如果认为自己在参与制造危险，是该辞职走人，还是留下来从内部推动改变？ 对于担心自己正在加速人类毁灭的AI从业者来说，这个选择远比表面看起来复杂。华盛顿特区安全咨询公司Gladstone AI的CEO兼联合创始人Jeremie Harris表示，他经常与Anthropic及其他顶级AI实验室的员工交流，近几个月听到许多人表达了与Coxon类似的恐惧。他认为，辞职固然可以是对构建危险技术的一种道德回应，但如果离职潮持续，AI实验室里可能就没有人再愿意推动变革了。Harris指出，留下来的人往往是对安全最不关心的一批，而那些真正在意安全的人，按理说才应该坐在那个位置上。Anthropic员工Anna Wang在X上回应称，她选择留在公司，是因为相信自己能从内部更有效地降低风险，同时也尊重那些认为从外部推动更好的人。Anthropic发言人确认了Wang的雇员身份，但拒绝进一步置评。 Coxon的帖子不仅引发了关于Anthropic公司形象和即将到来的IPO的讨论，也有人猜测这是否是一场奇怪的公关噱头。但无论如何，它呼应了此前多位重量级人物发出的警告。被称为AI教父的计算机科学家Geoffrey Hinton、xAI创始人马斯克等人都曾表达过对AI灾难的担忧。公众同样感到不安。皮尤研究中心今年6月的一项研究显示，52%的美国人对AI在日常生活中的应用感到担忧多于兴奋，而2021年这一比例仅为37%。 这种困境并非没有先例。史蒂文斯理工学院教授Alex Wellerstein指出，对于真正相信雇主在制造生存威胁的AI从业者来说，内部理性声音在克服既有制度惯性方面的历史记录并不好。他说，如果你留下来，你就是在参与。技术历史学家Matthew H. Hersch则将当前的局面与二战时期的曼哈顿计划相提并论。当时美国海军部副部长Ralph Austin Bard曾私下敦促官员在投掷原子弹前警告日本，并在广岛核爆前数周辞职，很可能是一种抗议。这段历史提醒人们，面对可能改变人类命运的技术，个体的道德选择从来都不轻松。