三部门发文为智能体发展指路,确保其操作不超出用户授权范围
从去年“豆包手机”问世到今年“小龙虾”(OpenClaw)爆火,部门智能体产品及服务形态越来越丰富,发文发展范围它们能自主完成复杂任务时,为智带来的指路作数据泄露、恶意越权、确保其操权限失控等风险也引发广泛关注。超出智能体治理不仅要对静态“输出内容”进行管理,用户还需对动态“行为边界”作出规范。授权
近日,部门国家网信办、发文发展范围国家发展改革委、为智工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(下称《实施意见》),指路作旨在为智能体治理架构、确保其操应用场景和产业生态作出系统部署。超出这是用户我国首部专门针对AI智能体的规范性文件,或标志着智能体产业将从“野蛮生长”进入“规范发展阶段”。

国家网信办发文。
首先,为了降低智能体研发、适配、应用门槛,《实施意见》要求持续提升通用基础模型性能,支持行业发展细分领域专用模型,形成适应不同场景和设备的模型产品矩阵。同时完善智能体工具链,开展智能体底层框架研究,加快研发感知、记忆、决策、交互、执行等关键组件,完善智能体研发、测试、部署、运维等工具链,以及发展对抗样本检测、行为异常检测等安全与治理工具等。
当下人与AI、智能体与智能体、智能体与各类被访问资源之间的交互愈发频繁,传统安全协议已无法适配新场景,亟需构建新的标准协议,进一步明确工具调用、资源访问等操作的权限规则与约束标准。为此,《实施意见》就建立智能体标准体系作出明确要求。
具体而言,应制定智能体标准化工作指导文件,形成智能体标准框架,系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准体系,加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准。加强智能体互联协议(AIP)等智能体互联关键国家标准、行业标准的推广应用。支持医疗、交通、媒体、公共安全等领域制定强制性标准。
在布局发展智能互联网方面,《实施意见》提出研究建立智能互联网体系架构,探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务,支持开发者、部署方式、接口协议、合规认证等信息查询和管理。提升多智能体协同能力,研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。这意味着,随着智能体产品及服务渐趋丰富,未来或出现智能体的“App Store”。
随着人工智能技术不断向执行端延伸,如今仅需一句指令,智能体就能帮用户完成点餐、叫车、订票甚至支付。其背后的技术原理,通常依赖于调用应用程序编程接口(API)或视觉识别功能来模拟用户操作两种技术路径,二者在实施过程中涉及的一系列授权和合规问题,频频引发争议。
《实施意见》释放了明确决策权限的信号。在遵守法律法规、尊重社会公德和伦理规范前提下,厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
针对开放权限后,智能体可能出现曲解指令、执行失误,违背用户真实意愿等问题,《实施意见》要求发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。
为进一步完善治理体系,还要构建分类分级治理框架。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。
在健全合规服务体系方面,《实施意见》则强调强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给,引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务,推动认证与检测结果互通互认,为用户选择智能体提供参考。
采写:南都N视频记者 樊文扬
- ·和讯信息王宇:4200点破!新起点该怎么做?
- ·长治卫生学校第十八届校园文化艺术体育节收官
- ·长治卫生学校第十八届校园文化艺术体育节收官
- ·国防部:“航母五件套”是人民海军加速转型建设重要成果
- ·黑龙江:规划到2027年新型信息基础设施布局基本完善
- ·投资超30亿,启动EPC招标!福建这条跨省高速...
- ·“孕妇坠崖案”当事人王暖暖突发倒地送医,MCN公司回应:已暂停其所有活动;此前她穿病号服直播自曝:常年透支身体,完不成任务不许下播
- ·“点单式”课堂,沉浸式体验!这场国防教育很“圈粉”
- ·带1700名初三生环游武汉,教育也可以“慢”下来丨九派时评
- ·去见“最可爱的人”——一场双向奔赴的红色之约
- ·电脑端微信迎重大更新!网友:太实用了!
- ·成都67岁老人在健身馆泳池溺亡,救生员被质疑低头看手机,健身馆是否应承担全责?
- ·部分路段能见度不足1米,京哈高速今日遇“杨絮风暴”,交警提醒:遵守交规,谨慎驾驶
- ·珠海平安铁骑队周年“成绩单”:出动6万余人次 处置11万余起警情
- ·大四女生在台球厅兼职1个月,称台球厅有“擦边”行为要求离职,被扣3000元违约金,诉至法院一审被驳回
- ·石狮一中宝盖校区二期工程教学实验楼封顶
- ·17岁女孩凌晨称要出门复印试卷后彻夜未归,监控最后画面在距家2公里的大桥附近,家人称其失联前并无异常,目前警方正全力寻人
- ·温州一男子在婚礼现场冒充“新郎父亲亲戚”,喝酒吃饭领红包,散场时将五粮液、香烟打包带走:就是随便逛逛,贪点便宜
- ·【兴·原创】先行赔付制度的法律依据
- ·刘涛现身妈祖祖庙
- ·知名歌手演出现场晕倒!这种病正“盯”上年轻人→
- ·HU7478航班延误1小时,机舱过道内“站着不少人”!航司回应:系旅客突发事件
- ·上海一男子进理发店扔法拉利钥匙炫富,完成约1000元染发后借口上厕所逃单,店员:跑得跟法拉利一样快;目前店家尚未找到该男子
- ·“一人公司”大爆发,这些密集发力的城市,各使出哪些大招?
- ·2026年网易游戏520发布会官宣,40款游戏公布新消息
- ·国防部:“航母五件套”是人民海军加速转型建设重要成果
