，这主要源于目前智能体的定义和规范标准尚未统一。“如果缺乏比较规范的标准，很难界定到底什么样的应用才算是一个成熟的智能体。”谷澍说，“在这种情况下，很难准确评估各家机构在行业中的相对位置，也就难以有效借鉴他人的长处，从而推动整个行业在智能体应用水平上的共同提升。”在他看来，智能体本质上是让大模型真正运转起来的中介、代理或执行者，其开发过程存在很大差异。他建议，在设计智能体来代替人类工作时，能否将那些功能相对单一、业务流程比较固定的智能体做成“标准件”，这样的好处在于可以避免重复开发，实现反复调用，从而能把更多精力聚焦于开发具备自主规划和决策能力的智能体上，这将更有意义，也更具效率。大模型应用过程中的风险，也引起业内关注。谷澍表示，AI大模型当前面临的主要风险包括模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性。在他看来，这种不确定性风险可进一步细分为三大类:一是参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加导致模型的决策机制和输出结果不透明，也很难解释。二是概率生成带来准确性的考验。大模型决策过程不像人类进行决策时有线性思维的过程，而是根据海量训练数据统计词源token的概率性规律，本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。三是模型现在已能自主思考和决策了，随着大模型的进化和智能体的深度应用，它已突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。上海交通大学上海高级金融学院金融学教授朱宁则认为，AI可能给三个领域带来意想不到的冲击或变革。一是对微观层面个人行为的冲击。这不仅会导致人们对错误信息或虚假信息产生过度依赖，还会引发过度自信的膨胀，让人产生“无所不知”的错觉。二是从伦理和社会学的角度来看，人类究竟应该与AI保持怎样的关系？随着AI对社交媒体内容的贡献度越来越高，下一阶段是否会对AI和AIGC的成长方式与速度进行限制？这已成为全社会都需要深入探讨的重要议题。三是关于AI治理结构的国际合作。当前，人们普遍期望AI能够向善、赋能并助力人类。但如果AI发展出自主能力，或者落入别有用心的人手中，它可能会生成虚假信息、产生“幻觉”，甚至有意识地对人类或特定企业做出不利行为。面对这些情况，究竟该由谁来治理？谁来
=*=*=*=*=*=
当前为第2/3页
下一页-上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页