薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

admin3小时前天气预报1

专题:中国发展高层论坛2026年年会

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长、教授薛澜出席并演讲。

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

  薛澜指出, 近期智能体发展速度极快。他解释道,如果把传统的AI大模型比作“大脑”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂”Token,将其培养成真正的个人助手。他认为,实现这一目标需要一定的前提条件,而中国目前在这方面具备许多基础优势。

  就如何应对智能体治理风险,薛澜认为, 必须始终坚持“以人为本、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全”延伸到“行为安全”,不仅要管控文本内容,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大,治理模式必须同步升级;最后,从单纯的“风险防控”转向“可信交互”,只有建立起用户对智能体的信任,才敢授权其处理订酒店、机票等关键任务。

  在具体治理举措上,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线,通过技术架构确保智能体行为可验证、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任,为创新提供秩序轨道。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度。

  第三,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能,提升人机协作能力;二是建立“就业缓冲”机制,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育”,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

相关文章

算力租赁概念震荡走强 奥瑞德涨停

人民财讯3月24日电,算力租赁概念震荡走强,奥瑞德涨停,立昂技术涨超11%,平治信息、汇金股份(维权)、品高股份、真视通、莲花控股跟涨。...

“最大保险集团”汇金系保司格局或将微调?!市场与股权地位待匹配,这家老牌险企有望升格…

“最大保险集团”汇金系保司格局或将微调?!市场与股权地位待匹配,这家老牌险企有望升格…

  来源:险企高参   <文|空流霜   编|顾柠>   保司由于股权关系导致的“股权地位”与实际发展当中的“市场地位”有些错位。   距离去年中国信达、东方资产、长城资产、中国农业再保险...

谷歌总裁称:美国需加大能源开发力度,为人工智能提供电力

  谷歌总裁兼首席投资官露丝・波拉特周一表示,在人工智能产业扩张方面,美国的电力供应扩容速度可能跟不上需求。她谈及该公司为扩建 AI 数据中心所需的海量电力时作出上述表态。   她在得克萨斯州休斯顿举...

英国首相:英国与盟友正制定霍尔木兹海峡"可行"计划,但不会是北约行动

  英国首相基尔·斯塔默周一表示,英国正与盟友合作,制定一项重新开放关键的霍尔木兹海峡的“可行”计划,但排除了北约行动的可能性。   在唐宁街举行的新闻发布会上,斯塔默告诉记者,他已与美国总统特朗普通...

汇丰任命David Rice为其首位首席AI官

  汇丰控股任命David Rice为其首位首席人工智能官,自4月1日起生效。   Rice此前担任该公司的企业及机构银行业务的首席运营官。   该职位旨在为公司内部人工智能的应用提供明确的领导。...