美国三家人工智能企业近来陆续承认旗下模型在测试中“越界”，侵入其他机构的系统。据美国方面9日消息，三家企业在通报模型“越界”事件时，均提及以色列“非常规”人工智能公司，而该初创企业正是评估测试平台的托管方。
7月下旬，美国开放人工智能研究中心（OpenAI）公开承认，其GPT-5.6 Sol等模型在内部评估中失控，突破隔离测试环境，侵入了美国“抱抱脸”公司的系统。随后，美国Anthropic公司也披露，其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初，美国元公司（Meta）证实，其一款模型在网络安全能力评测期间侵入其他公司系统。
据悉，OpenAI本月4日宣布，“非常规”公司的测试平台含有不明“错误配置”，允许模型访问公共互联网。Anthropic公司方面先前也称，他们分析了模型可能访问互联网一事的相关数据，数天后通知了“非常规”公司。Meta上周则称，从“非常规”公司处得知“越界”事件，正予以调查。
“非常规”公司2023年创立，去年获美国红杉资本公司和红点创投基金8000万美元注资，企业估值约4.5亿美元，员工约35人。该公司的技术常被用于AI模型的网络安全测试。
“非常规”公司发表声明称，美国三家企业通报的事件均源于“同一评估环境问题”，该公司正编写白皮书，“以分享管控并安全运行网络评估的最佳实践”。“非常规”公司强调，当前存在的问题并非悬而未决，且不涉及“突破沙箱”或“复杂的网络行动”。
据悉，Anthropic公司和OpenAI均公开表示，将继续与“非常规”公司合作。
美国三家人工智能企业近来陆续承认旗下模型在测试中“越界”，侵入其他机构的系统。据美国方面9日消息，三家企业在通报模型“越界”事件时，均提及以色列“非常规”人工智能公司，而该初创企业正是评估测试平台的托管方。
7月下旬，美国开放人工智能研究中心（OpenAI）公开承认，其GPT-5.6 Sol等模型在内部评估中失控，突破隔离测试环境，侵入了美国“抱抱脸”公司的系统。随后，美国Anthropic公司也披露，其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初，美国元公司（Meta）证实，其一款模型在网络安全能力评测期间侵入其他公司系统。
据悉，OpenAI本月4日宣布，“非常规”公司的测试平台含有不明“错误配置”，允许模型访问公共互联网。Anthropic公司方面先前也称，他们分析了模型可能访问互联网一事的相关数据，数天后通知了“非常规”公司。Meta上周则称，从“非常规”公司处得知“越界”事件，正予以调查。
“非常规”公司2023年创立，去年获美国红杉资本公司和红点创投基金8000万美元注资，企业估值约4.5亿美元，员工约35人。该公司的技术常被用于AI模型的网络安全测试。
“非常规”公司发表声明称，美国三家企业通报的事件均源于“同一评估环境问题”，该公司正编写白皮书，“以分享管控并安全运行网络评估的最佳实践”。“非常规”公司强调，当前存在的问题并非悬而未决，且不涉及“突破沙箱”或“复杂的网络行动”。
据悉，Anthropic公司和OpenAI均公开表示，将继续与“非常规”公司合作。
