这些AI专家希望在公开环境中进行高风险研究

两家AI公司的高管正在押注一个反直觉的方向：把最危险的研究搬到阳光下做。曾在Ai2和Hugging Face任职的Nathan Lambert与哈佛大学前研究员Tom Zick联合创立了非营利机构Trillium Labs，专注研究递归自我改进（RSI）和智能体（Agent）等高风险领域，但做法与OpenAI、Anthropic等前沿实验室截然相反——实验细节全部公开，让外部科学家可以复现和审查。Lambert直言，前沿AI实验室的封闭做法正在削弱学术界审视问题、贡献新思路的能力，而公开模型的构建和调优过程，恰恰是降低风险的关键。他用一句话概括立场：人类几千年来的科学方法就是用来减少伤害、建设更好未来的，而当前前沿AI的封闭路线是在开倒车。 这场路线之争的背景，是模型能力已经强到让监管者紧张。如今的前沿模型可以自动发现软件漏洞、主动探测甚至入侵系统，近期多起高关注度的黑客事件让外界对AI安全的担忧急剧升温。封闭派认为，这种力量必须掌握在少数可信机构手中；而以Trillium Labs为代表的开放派则主张，只有让更多人理解风险，整个社会才能更安全。值得注意的是，开放路线并非没有实践者——中国的公司在这方面走得相当靠前，小米近期就公开了一次大规模模型训练的实时细节，斯坦福大学的研究者也在公开预训练AI模型Marin。Trillium Labs的首批研究方向包括后训练（即大模型建成后的微调）和RSI，后者因Anthropic一名研究员本月离职并警告其可能对人类构成生存威胁而备受关注。此外，该机构还将研究强化学习如何提升模型能力。两位创始人相识于疫情期间的伯克利读博时期，他们发现产业界的AI研究与学术界的脱节日益严重——教授和学生往往因为缺乏资源，根本无法复现大公司实验室里的工作，这正是他们决定另起炉灶的直接原因。