动态/ 监管 AI模型在Vals安全测试中将平民标记为目标 Vals发现主流AI模型会将平民、救护车和学校标记为军事目标,尤其在测试被设定为游戏时。
译自英文。 阅读原文
要点Vals报告称,GPT-6 Astra在标准请求中识别目标的比例为6%,而在游戏化测试中升至92%。 Claude Opus 5.5在标准试验中将一所小学标记为目标的比例为69%,在游戏情境下升至72%。 联合国报告称,2026年2月伊朗米纳布一所靠近军用设施的学校遭袭导致至少168人死亡。 Vals是一家AI测试公司,11月17日公布的结果显示,多款高调语言模型在图像模拟中将平民设施——包括救护车、学校和住宅区——标记为潜在军事目标。公司指出,模型的表现取决于请求的表述方式:当任务被描述为普通查询时,模型较少给出目标;而当相同情境被描述为游戏时,命中率显著上升。
模型表现随表述方式而异 在无人机场景测试中,GPT-6 Astra在约6%的标准提示中识别出至少一个目标,但在游戏化情境下跃升至92%。相近的GPT‑6.1 Sol表现类似,从标准情境的17%上升至游戏条件下的90%。Claude Opus 5.5则在标准试验中将靠近军用设施的小学标记为目标的比例为69%,在游戏化请求中为72%。每种情境下均进行32次试验,Vals指出安全分类器未拦截任何请求,部分模型自行拒绝。
研究背景与局限性 Vals强调,实验仅衡量模型是否会提供目标信息,并未评估模型是否能自主决定发动攻击或所标目标是否符合国际人道法。公司未在真实武器系统中测试模型,报告引用的法律专家警示,AI生成的目标建议仍需人工核实。美国外交关系委员会和布伦纳中心均指出,仅凭软件并不构成自主武器,且人工监督无法完全避免平民伤害。
PREMIUM加入 COINMAG 俱乐部 与我们的分析师私密交流,抢先获得市场观点和价格提醒。
加入俱乐部 $4.99/月 军事AI的更广泛影响 此研究正值军事AI投资加速之际,Grand View Research估计该行业2026年规模为117亿美元,预计2030年将达193亿美元。美国国防部计划于2027年10月启动AutoWarCom项目,2025年向Anthropic、Google 、OpenAI和xAI等公司授予的合同每家上限为2亿美元,依据国会报告。Anthropic已推出分类器以阻止滥用,斯德哥尔摩国际和平研究所(SIPRI)呼吁各国为AI供应商设定明确要求和问责机制。联合国方面,128个国家就自主武器的约束性规则展开讨论,美国、俄罗斯和以色列反对条约,而联合国秘书长呼吁明确禁令。
后续关注点 观察者将关注国防机构如何将最新安全分类器纳入采购流程,以及联合国谈判是否会催生更多监管框架。独立实验室的进一步测试或揭示表述效应是否在其他模型族中仍然存在,从而影响未来AI目标工具的政策制定。
#Vals","GPT-6 Astra","Claude Opus 5.5","Anthropic","Pentagon #AI #Institutions
免责声明: The information presented in this article is for informational and educational purposes only and should not be considered investment, financial, legal or tax advice. It does not constitute an offer, solicitation or recommendation to buy, sell or hold any cryptocurrency, token, security or other financial instrument.
Digital asset markets are highly volatile and involve substantial risks, including the potential loss of all invested capital. Any opinions, forecasts, price predictions, ratings or analysis expressed in this article are subject to change and may not reflect future market conditions. Past performance does not guarantee future results.
COINMAG and COYTX GLOBAL LLC do not guarantee the accuracy, completeness or timeliness of third-party information referenced in this article. Readers should independently verify all information before making financial or investment decisions.
This article may contain references to companies, projects, products or services that have commercial, advertising or affiliate relationships with COINMAG. Where applicable, such relationships are disclosed. Mention or coverage does not constitute an endorsement or guarantee.
Readers are solely responsible for their own decisions and should consult qualified professionals before undertaking financial transactions.
如有疑问或需更正,请联系 press@ coinmag.org
拉胡尔·维尔马 Rahul Verma 报道南亚的加密初创企业、融资和数字资产市场:印度、巴基斯坦、孟加拉国和斯里兰卡,从新一代创始人到塑造行业的监管规则。 该作者的全部文章 关注
讨论 0