教育智能体的安全风险研判及应对策略

摘要

随着生成式人工智能技术的爆发式迭代，智能体在教育领域的应用越来越广泛，随之产生的伦理问题值得关注。基于智能体应用和监管的角度，智能体在教育场景应用中的风险表征包括教学过程风险、学习评价风险、数据内容风险和监管治理风险，其风险产生的原因主要包括技术民主化趋势、规则体系短板和师生素养不足。制定科学的风险规避策略，需要系统梳理比较各国际组织、国家和高校发布的有关教育人工智能应用的原则、规范、指南等文件内容，从技术治理、制度建设、能力强化、价值坚守四个方面考虑，具体策略为：构建可信、透明与可控系统；完备准入、分级与备案制度；提升师生人工智能协同能力；确保教育智能体以人为本。

关键词

教育智能体 / 生成式人工智能 / 人工智能风险 / 人工智能伦理