Anthropic提出的安全法案只有在50人以上死亡或10亿美元损失时才会生效——该提案实际上将使商务部成为唯一有权阻止人工智能模型的机构

作者：#sandian141592654 板块：#前沿快讯 前文Anthropic向国会提交了一份AI安全法案。 乍一看名义上好像是加强监管吧？仔细一看不对劲了…… 该法案允许政府阻止模型的发布或使用，前提是该模型存在可预见且迫在眉睫的超过10亿美元损失风险，或可能导致50多人死亡或重伤。风险必须源于生物武器的制造或释放、模型逃避开发者的控制，或网络攻击。The bill would let the government block a model’s release or use only if it poses a foreseeable, imminent risk of more than $1 billion in damages, or of killing or seriously injuring more than 50 people. The risk must stem from the creation or release of a biological weapon, the model evading its developer’s controls or a cyberattack. Anthropic悄悄向立法者推销自己的人工智能安全法案——POLITICO 该提案实际上会让商务部成为唯一能阻止AI模型的机构 Anthropic提出的人工智能安全法案只有在涉及50人死亡或10亿美元损失时才会生效——该提案实际上将使商务部成为唯一有能力阻止人工智能模型的机构 |汤姆五金店 Yahoo www.businessinsider.com 热议：将"灾难性风险"的50人死/10亿美元标准用作安全协议与报告义务的门槛，从透明度义务升级为否决权，监管反而更宽松 后续是Anthropic承诺改写部分条款（然而本来这份游说稿就是不公开的，也算承认是确有其事了） (Anthropic to rewrite part of its leaked AI bill after safety backlash)