航空工业集团文化中心联合建设了低空产业大脑项目、深度参与住建部城乡历史文化保护智能应用系统建设，这些行业案例都表明，智能体的价值不在于它有多聪明，而在于它能在具体场景中把活干完。”然而，仅有数据的“燃料”和场景的“跑道”还远远不够，如果缺乏可靠的“刹车”与“方向盘”，跑得越快的智能体，带来的灾难往往也越大。高斐认为，智能体安全运行需要划定一个“玻璃罩”，建立“安全沙箱”工作区。“参考我们在政务和金融领域的实践，应强制要求智能体在隔离的虚拟环境中运行，通过技术手段，明确划定智能体的‘活动范围’。”高斐说，比如，只允许它访问特定的共享文件夹，而禁止其触碰核心数据库；只允许它执行预设的安全指令，而拦截删除、格式化等高危系统命令。要实现可控，还必须明确智能体的权力与责任范围。“智能体不能一上来就追求无限自治，而应该坚持‘授权后执行、关键动作确认、全过程留痕’。”谢志华表示，哪些数据可看、哪些动作可做、谁来授权、谁来审批、出了问题如何追溯，都要在产品架构里提前设计好。智能体迈入深水区，意味着不仅技术手段要升级，管理模式也要升维，变被动响应为主动治理。高斐建议相关部门牵头，利用技术工具对关键信息基础设施领域进行一次智能体应用的“大摸底”，对涉及国计民生的核心政务系统建立智能体应用的“白名单”制度，严禁未经授权的第三方智能体接入。如果将智能体比作一辆跑车，那么“可用”是油门，“可控”是刹车。一辆只有油门的车跑不到终点。从概念狂飙走向理性落地，行业如今正在做的，就是给这辆跑车配上动力更强的油门，同时装上可靠的刹车系统。
=*=*=*=*=*=
当前为第4/4页
上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页