Photo by Kvalifik on Unsplash

5月8日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《意见》），促进智能体规范应用与创新发展。

《意见》对智能体做出了具体的定义，智能体是具备自主感知、记忆、同时决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。同时，《意见》明确，智能体发展将以推动科技创新、提升治理能力、构建产业生态、增进民生福祉为导向，坚持安全可控、规范有序、创新驱动和应用牵引。

芥末堆注意到，《意见》对智能体在教育场景的应用也做出了鼓励和要求。其中提到，支持在线教育平台研发智能体，提供终身学习服务。

支持在线教育平台研发智能体

在具体的形式上，《意见》指出，探索课件生成、作业批改、学情分析等智能体，提高教师工作效率。依托智能体开展个性化学习方案制定，完善智能导学、答疑辅导、虚拟助教等功能。

除教育教学外，《实施意见》还在“人力资源”部分提出，探索智能体在就业促进、技术技能人才培养评价、劳动关系公共服务等领域应用，提升就业服务能力。这也与职业教育、继续教育以及技能培训等教育行业场景存在一定关联。

在创新生态建设方面，《实施意见》提出，引导企业、高校、科研机构积极参与智能体框架、交互接口、工具链等开源项目，推动技术体系融通发展；同时，发挥智能体相关生态联盟、技术验证实验室等产业协作平台作用，协同产业链上下游开展智能体共性技术研发、标准制定、评估认证等工作，并开展智能体技术与产业应用复合人才培养。

防范未成年人沉迷、情感依赖等风险

随着人工智能技术及产品的迅猛发展，围绕人工智能技术所产生的风险问题，也正在备受关注。尤其是，在教育场景中，涉及未成年人的产品使用过程，如何对其实施保护，正在成为政策和产品开发者关注的重点。

在规范管理方面，《实施意见》提出，要坚持以人为本、智能向善、多元共治、安全稳妥，营造规范发展、鼓励创新的制度环境，促进智能体健康有序发展。

在产品准则方面，《实施意见》提出，加快研究智能体相关政策法规及伦理规范，发挥专业机构内容资源和审核把关优势，确保智能体行为符合法律法规及主流价值观。同时，文件特别提到，要防止智能体利用数据优势、人格化技术实施传播不良价值观、算法压榨等行为，防范未成年人、老年人沉迷成瘾、情感依赖等风险。

在决策权限方面，《实施意见》提出，要厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限，确保用户对智能体自主决策享有知情权和最终决策权，智能体执行操作不得超出用户授权范围。

在安全风险防范方面，《实施意见》提出，研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术，防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。同时，文件还提出加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。

此外，《实施意见》还提出强化行业自律，鼓励行业组织、主要企业联合制定行业自律规则，明确智能体功能合规、算法治理、知识产权保护、公平竞争等规范细则。文件同时提出探索信用评价机制，对于技术滥用、诱导消费、虚假宣传、隐瞒缺陷信息等行为进行信用评价，依法依规开展失信惩戒。