曾表示，他致力于防止对儿童的性剥削。他在1月份宣布，该公司将把图像生成和编辑工具的使用范围限制在付费客户。   近几周，美国总务管理局官员被告知将xAI的标志放在一个名为USAi的工具上，该工具本质上是一个供联邦雇员试验不同AI模型的沙盒。据知情人士透露，Grok一直未能通过USAi访问，目前仍未在该平台上提供，这主要出于安全考虑。   该网站显示了xAI的标志，但只提供来自Anthropic、谷歌和Meta的AI模型。   上述知情人士说，美国总务管理局一个研究AI的团队向该机构高层官员分发了一份报告，指出了Grok的安全问题。Grok已被美国总务管理局工作人员停用数月。其他机构对使用Grok的需求一直不大，只有少数情况下有人想用它来模拟不良行为者以进行防御性测试。   格林鲍姆在一份声明中说，该机构严肃对待AI安全问题。“我们通过全面的内部审查程序，对包括xAI在内的前沿AI模型进行严格评估。在此次事件中，我们遵循了既定程序，并坚持按计划推进的决心，”他说。   两周前，五角大楼主管AI责任部门的负责人马修·约翰逊辞职，部分原因是他担心，在国防部大力推动扩大AI能力之际，安全和治理已成为次要问题。   此前，约翰逊的团队曾分发备忘录，强调了Grok的安全问题，并质疑其是否符合政府的道德和标准。这些备忘录已通过他们在五角大楼的指挥系统上报。   在被问及置评时，约翰逊提到了他在领英上宣布离职的帖子，他在帖子中说，他为自己在国防部AI责任部门的团队感到骄傲，他们是“一群真正的、默默无闻的专业人士，产生了巨大的影响，却未得到应有的认可”。他还写道：“我们不断面临不可能完成的任务，但总能凭借毅力和一次又一次的通宵达旦完成任务。”   一位五角大楼官员说：“无论保密级如何，国防部将继续确保所使用的所有模型的安全和保障。”   负责监督美国大部分情报收集和处理工作的美国国家安全局（National Security Agency）在2024年11月对包括Grok在内的大语言模型进行了一次机密审查。据了解此次审查的知情人士称，该机构认定Grok存在其他模型（包括Anthropic的Claude）所没有的特殊安全问题。这些知情人士说，这一结论敲响了警钟，使五角大楼的一些部门打消了使用Grok的念头。   上个月，在美国军方抓捕委内瑞拉前总统马杜罗的行动中，Anthropic的C
=*=*=*=*=*=
当前为第2/4页
下一页-上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页