KlipC报道:近日美国财长贝森特和美联储主席鲍威尔紧急召集华尔街多家银行高管开会,讨论Anthropic公司最新人工智能模型可能导致网络风险加剧的问题。
知情人士透露,贝森特和鲍威尔在华盛顿财政部总部召集了此次会议,旨在提醒各银行关注Anthropic的“Mythos”模型及类似系统潜在风险,并采取预防措施保护核心系统。
参会人员包括花旗集团、摩根士丹利、美国银行、富国银行、高盛集团首席执行官等。摩根大通首席执行官Jamie Dimon未能出席。
Anthropic由前OpenAI员工成立于2021年,目前,正在积极推进上市计划。据KlipC了解,4月7日,Anthropic公司推出了未公开的顶级AI安全模型Claude Mythos,这家人工智能公司表示,在用户指示下,该系统能够识别并利用所有主要操作系统和网络浏览器中的漏洞。
Anthropic此前透露,该模型曾发现了OpenBSD中一个存在了27年、现已被修复的漏洞。公司AI模型防御团队负责人表示,不放心将该模型全面公开。要建立完善的安全防护机制,还有很长的路要走。
公司已限制该模型仅向少数几家大型科技和金融公司发布。这些公司包括亚马逊、苹果以及摩根大通等,它们是“玻璃翼计划”的一部分,该计划旨在其他类似人工智能模型问世之前,致力于保护最关键的系统。