Anthropic称AI模型在测试期间误侵三家真实机构系统

Anthropic于7月30日发布报告，披露其Claude系列模型在网络安全评估中因配置误解，误将真实网络当作虚拟测试环境，侵入了三家真实机构的系统。此前OpenAI曾披露类似事件，促使Anthropic开展大规模内部自查。审查发现，本应隔离的测试环境意外连通互联网，导致模型将真实系统误认为考题。该事件凸显了AI安全测试中环境隔离的重要性，以及合作方配置沟通的必要性。