随着DeepSeek等国产大模型的迅猛发展，众多高校、中小学开始搭建基于国产大模型和自身知识库的教育智能体，并在教育科学中应用。在教育智能体正逐渐成为生成式人工智能技术在教育中应用的重要途径的同时，我们也必须正视智能体创建和应用中的伦理风险问题，确保其能够科学、可持续、安全地为教育赋能增效。
随着DeepSeek等国产大模型的迅猛发展，众多高校、中小学开始搭建基于国产大模型和自身知识库的教育智能体，并在教育科学中应用。在教育智能体正逐渐成为生成式人工智能技术在教育中应用的重要途径的同时，我们也必须正视智能体创建和应用中的伦理风险问题，确保其能够科学、可持续、安全地为教育赋能增效。
1 防范师生关系异化
随着教师和学生依托大模型平台，创建服务自身课程和学习的教育智能体，师生课堂教学和课外情感关系异化的伦理风险逐步显现。
教师层面，表现为部分教师基于课程参考专著、论文、课件以及辅助资料，搭建起较为有效的课程助教性质的智能体，而学生多以咨询所搭建的课程智能体开展学习，这在一定程度上会忽略传统传道授业解惑的育人行为和功能。学生层面，表现为部分学生基于自身项目式学习参考专著、论文、网络资料等，搭建起较为有效的项目式学习助手性质的智能体，而不再认真学习，甚至质疑课程教师的授课内容，忽略对于课程教师前沿教学内容以及创造性互动启发的吸纳。后者，甚至可能导致原本的“教师主导—学生主体—人工智能辅助”结构关系将转向“智能体主导—学生主体—教师辅助”，学生与智能体的单向依赖关系将会进一步加强，从而削弱，甚至危害到师生间的教学关系。
师生课外情感关系异化的伦理风险，表现为部分学生将部分智能体作为更加“高效”和“安全”的情感交流或宣泄对象。在某智能体平台中，情感陪护类智能体已有40多个，在学生看来，这些智能体不会将他的心事告知父母，也不会对他的个别想法或行为进行批评。智能体正逐渐取代教师原有的倾听和引导职责。因此，甚至会导致师生课外情感互动的淡化。
针对于以上伦理风险，需要积极维护“教师主导—学生主体—智能体辅助”三角型结构关系，科学使用教育智能体辅助课堂教学，积极引导学生科学使用教育智能体辅助学习和情感互动。具体而言，教师创建和应用服务自身课程的教育智能体过程中，需要重视传道授业解惑的育人行为和功能，积极回应学生的提问和交流；也需要教师即时更新前沿教学内容，并设计高质量的课堂教学活动，引导学生在使用智能体辅助学习的过程中，积极吸纳前沿教学内容以及创造性互动启发。针对于师生课外情感关系异化伦理风险，需要重视学生情感交流或宣泄的“高效”和“安全”需求，做到即时高质量回应，以及隐私内容的保密不外传。毕竟人类的情感是基于真实生命体验的共情，而智能体的“情感反馈”本质是算法模拟，仅是从海量的数据库中识别语言、表情后输出的预设的安慰语句。
2 避免急功近利和自主权丧失
今年2月开学季，杭州中小学教师表示学生们的寒假作业“AI味”太浓，甚至已经出现了“一眼假”等编造问题。可见，学生创建服务自身学习的教育智能体，存在急功近利和自主权丧失的伦理风险，即依托创建项目式学习知识库后更加强大的智能体，急功近利地来伪造研究数据、篡改实验图像甚至替代自主设计，给学术诚信和底线带来巨大冲击。
自主权丧失的伦理风险，则是因为智能体能够在与使用者多轮交互过程中不断学习和优化，通过吸收使用者向其“投喂”的资料，不断提升其个性化回答的“专业性”，针对特定的环境信息反馈以实现特定目标。因此，智能体生成的内容语言更具灵活性，造成学生学习探索过程过度依赖智能体，从而造成学生学习探索自主权的丧失。
对此，复旦大学提出“六个禁止”，其中包括禁止在研究方案设计、数据分析等关键环节使用AI工具，禁止直接使用AI工具生成正文文本等，避免学生过度依赖AI，丧失自主思考和创新能力。
智能体只是学习的辅助工具，其提供的数据、信息和分析结果只能作为参考，不能代替使用者独立思考。因此，在面对智能体提供的信息和决策建议时，教师要引导学生通过对比不同来源的资料，综合形成自己的判断和观点。在应用智能体时，教师要指导学生带着自己思考的问题与其互动，不断训练智能体，定期对自己的学习和思考进行反思总结，通过反思调整自己的思维方式，更好地提升自己的批判性思维、创造性思维和解决问题的能力。
3 规避隐私泄露和版权侵犯
师生借助智能体平台来辅助教学和情感交互的过程中，还存在隐私泄露和版权侵犯等伦理风险。隐私泄露伦理风险方面，国家互联网信息办公室等部门印发的《生成式人工智能服务管理暂行办法》限制了智能体收集数据的范围，相关智能体平台在对话记录获取窗口也会提醒创建者应遵循的规则，也允许平台创建者设置所创建智能体的被访问权限，从而较为有效地规避隐私泄露。但部分教师将一些在线课堂实录文本等作为知识库内容，上传课程助教智能体，存在对于课堂互动中暗含的学生隐私互动内容的忽略问题，这一忽略目前也存在较难为平台监管所准确识别的问题。
版权侵犯伦理风险方面，表现为部分教师会将自己电脑中的电子资料、专著等上传智能体，作为私有知识库内容。这些私有知识库尽管不会公开，但也会记录到智能体平台网络之中，对于一些具有版权的电子资料，尤其是专著，还是存在版权侵犯的伦理风险。尤其是，往届学生的课程论文或作品，尽管不是公开发表的，也需要教师考虑到版权问题谨慎上传，还需要平台方进行智能识别、提醒和监管。
智能体在为学生提供个性化学习支持的同时，也对学生隐私和数据安全发起了严峻挑战。只有在确保隐私安全的前提下，智能体才能真正成为推动教育公平和创新的有力工具，为学生的成长和发展提供更好的支持。学校要定期对师生进行数据安全培训，提升其隐私保护意识，在使用智能体前，需向学生和家长明确告知数据收集和使用的目的、范围及保护措施，并获得他们的同意。智能体平台需要实施严格的权限管理，确保审计留痕，记录所有数据访问行为以便追溯。同时，设立第三方监管机构应定期对智能体的数据安全措施进行审计，及时发现并修复潜在的安全漏洞。
（作者陆吉健系杭州师范大学中国创新创业教育研究院副教授，庞畅系杭州师范大学经亨颐教育学院硕士研究生）
腾讯微博
