监管？谁来惩处？这些问题在全球范围内尚无定论，且整个治理体系仍在快速演变之中。用AI手段应对AI应用风险如何应对大模型风险？谷澍表示，面对大模型应用过程中的风险，能做的不是消除风险，而是在发挥好大模型作用的同时，也要认识到大模型的局限性，想办法尽量控制风险。他认为可从四方面防控大模型应用过程中的风险：一是分类施策推进场景适配。金融应用大模型的时候是应用在不同的场景里面，对于不同的场景，可以建立模型的黑箱的分级管控，不同场景匹配差异化的技术路线和可解释性的要求。二是设置一定的标尺对大模型进行约束控制，大模型有时候会产生幻觉，有时候会自由发挥，针对不同的场景进行应用的时候是需要建立参数、建立标尺控制它的应用路径。同时再把它和人结合起来，大模型过程里人的作用是最终做决策。三是用AI手段应对AI应用风险，以AI对抗AI，建立纵深防御体系，增强AI对抗能力。四是强化银行内部的AI治理体系，健全全生命周期和风险并重的银行内部AI治理体系，确保AI既用得好又管得好，既留住创新空间又尽量压缩模型黑箱、幻觉的局限性。张辉表示，中行在推进AI战略时坚持“人类在环”的管理兜底原则。目前人工智能的发展阶段，尤其是大模型，本质上仍未脱离概率预测系统。因此，金融业务对严谨、精准、可靠的要求，与概率预测虽有交集，但不能完全依赖人工智能。现阶段，金融业的应用大多集中在非核心业务的辅助环节，将AI定位为“有效助手”而非“最终决策者”。Christian Stracke表示，人工智能工具必须在被批准的渠道上使用，比如品浩不允许团队成员使用任何不受批准的机器学习模型，在他们个人电脑或者系统上使用这些工具，会带来很多的风险，且对投资组合的基金经理而言会有很多的错误。他同时认为，需要全球协同的人工智能监管框架，明确人工智能在哪些应用领域会带来最大风险，确保人工智能在高风险领域的使用得到严格监管。
=*=*=*=*=*=
当前为第3/3页
上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页