据环球市场播报，多款软件工具可去除Meta、谷歌等企业人工智能模型的安全防护机制，目前已有数千个篡改版本问世，原生管控约束均被剔除。借助代码平台GitHub上的相关工具，在无专业硬件加持的情况下，不到十分钟即可破除Meta Llama 3.3模型的安全防线，原版模型拒绝作答的违规问题，篡改版本均可回应。芝加哥大学布斯商学院人工智能应用方向助理教授卡温埃塔亚贾夫表示：以往只有专业资深人员才能破解安全防护，如今普通用户也能轻松做到。Anthropic今年4月表示，其Claude Mythos模型已发现主流操作系统与网页浏览器普遍存在安全缺陷。此番情况引发监管机构与人工智能企业担忧，随着开源模型性能愈发强大，研发方设置的安全防护将愈发难以维系。篡改模型肆意传播，脱离原开发企业管控范围，给各国政府和企业从研发端管控人工智能带来阻碍。各大人工智能实验室虽投入巨资搭建安全防护屏障，防范模型遭滥用，但消融破解这类技术，能快速剥离开源模型的安全限制，用户可随意下载并二次修改模型。市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。



=*=*=*=*=*=
返回新闻列表
返回网站首页