OpenAI创始人奥特曼尝试缓和Anthropic与五角大楼的僵局

频道:主持人 日期: 浏览:2

  OpenAI首席执行官奥特曼周四晚间告知员工,该公司正在与国防部合作,探讨其模型是否可以在保密环境中使用,同时保持同样的安全护栏,而正是这些安全护栏使其竞争对手Anthropic陷入了僵局。

  双方尚未签署任何协议,谈判也可能破裂。

  一份备忘录显示,奥特曼在周四晚间给员工的信中写道:“我们打算看看是否能与战争部(美国国防部)达成一项协议,在保密环境中部署我们的模型,并且符合我们的原则。”他还写道:“我们会要求合同涵盖任何用途,但非法或不适合云部署的用途除外,例如国内监视和自主进攻性武器。”

  奥特曼表示,他希望帮助促成两个阵营之间的和解。

  他写道:“我们希望努力帮助缓和事态。”

  OpenAI寻求通过技术而非合同手段来维持这些安全护栏,例如探索一份只允许其技术在云端使用的合同,而不是在所谓的“边缘”案例中使用-这实际上禁止了其技术用于没有人为干预的自主武器。

  奥特曼写道:“我们还将建立技术保障措施并部署人员(FDE)与 *** 合作,以确保一切正常运行,我们也会向其他盟国提供类似服务。”他还表示:“如果我们成功了,也许这也能成为其他AI实验室的一条可行之路。”

  周四晚间早些时候,Anthropic首席执行官阿莫迪宣布,该公司已拒绝战争部提出将其技术用于“所有合法用途”的要求,坚称必须能够禁止其技术用于大规模国内监视和自主武器。

  战争部负责研究与工程的副部长埃米尔.迈克尔(Emil Michael)称,根据第四修正案,大规模监视本就属于非法,该部门“不会让任何大型科技公司来决定美国人的公民自由”。