“Don’t Forget the Teachers”: Towards an Educator-CenteredUnderstanding of Harms from Large Language Models inEducation
总目录 大模型相关研究：https://blog.csdn.net/WhiffeYF/article/details/142132328
https://dl.acm.org/doi/epdf/10.1145/3706598.3713210
https://www.doubao.com/chat/36490389840936962
速览
1. 一段话总结
该研究发表于2025年CHI会议（人机交互领域CCF A类顶级会议），通过对6家K-12领域领先教育科技提供商和23名不同背景教育工作者的半结构化访谈，识别出LLM在教育领域的三类潜在危害——技术危害（有毒/偏见内容、隐私泄露、幻觉）、人机交互危害（学术不端）和广泛影响危害（阻碍学生学习与社交发展、增加教育者工作量、降低教育者自主权、加剧教育系统性不平等），发现教育科技提供商主要聚焦于可通过LLM输出测量的技术危害缓解，而教育工作者更关注需通过多方互动观察的广泛影响危害，最终提出以教育者为中心的设计、监管、研究等相关建议，以弥合双方认知差距。
2. 思维导图（mindmap）
## 研究基础 - 研究背景：LLM在教育科技中应用增加，但教育领域特有害处研究不足 - 研究目标：识别教育领域LLM潜在危害，分析供需双方认知差距，提出改进建议 - 研究方法：2023.11-2024.2半结构化访谈，6家教育科技提供商+23名教育工作者，主题分析 ## 核心发现 - 危害分类 - 技术危害：有毒/偏见内容、隐私泄露、幻觉 - 人机交互危害：学术不端 - 广泛影响危害：阻碍学生学习/社交、增加教师工作量、降低教师自主权、加剧教育不平等 - 认知差距 - 教育科技提供商：侧重技术危害缓解 - 教育工作者：更关注广泛影响危害 ## 缓解策略 - 教育科技提供商：人类监督、技术护栏、限制LLM使用场景等 - 教育工作者：介导学生工具使用、限制LLM使用、调整教学实践等 ## 建议措施 - 教育科技提供商：采用共同设计，强化教育者介导功能 - 监管机构：建立集中独立的LLM教育科技审核机制 - 研究者+提供商：支持教育者参与工具构建 - 学校管理者：推行以教育者为中心的采购流程 ## 研究局限 - 样本局限：仅覆盖美、英、加，教育科技提供商样本量小（6家） - 认知局限：未涉及低资源语言、殖民化危害等全球议题3. 详细总结
一、研究概述
研究背景：教育科技（edtech）中LLM应用日益广泛（如个性化辅导、教学材料生成等），但LLM的教育领域特有害处缺乏针对性研究——教育领域因受众（儿童为主）、目标（侧重理解过程而非答案）、核心技能（批判性思维、协作等）的独特性，需专属危害分析框架。
研究目标：
- 构建教育领域LLM潜在危害的专属概述
- 揭示教育科技提供商与教育工作者对危害的认知差距
- 提出以教育者为中心的教育科技设计与发展建议
研究方法：
维度 具体信息 访谈对象 教育科技提供商（6家）：国际领先K-12教育科技企业，均有≥10000活跃学生用户；教育工作者（23名）：含教师、教学支持人员、辅导员、管理者，覆盖公立/私立/特许学校，LLM使用经验从无到大量不等 访谈时间 2023年11月-2024年2月 访谈形式 30-60分钟Zoom访谈，录音并转录，教育工作者获50美元报酬 分析方法 归纳-演绎编码法，基于既有LLM危害分类框架，结合访谈内容提炼主题，达到数据饱和（连续5次访谈无新危害提出）
二、教育领域LLM潜在危害分类及特征
| 危害类别 | 具体危害内容 | 测量所需条件 | 供需双方关注情况 |
|---|---|---|---|
| 技术危害 | 1. 有毒/偏见内容（如欧洲中心主义输出、种族刻板印象）；2. 隐私泄露（学生个人信息、敏感内容披露）；3. 幻觉（生成无意义/不真实内容） | 仅需LLM系统输出 | 双方均关注，教育科技提供商重点缓解 |
| 人机交互危害 | 学术不端（学生利用LLM完成作业、作弊） | LLM系统与师生的交互过程 | 双方均关注，教育工作者有成熟应对经验 |
| 广泛影响危害 | 1. 阻碍学生学习（削弱批判性思维、独特表达能力）；2. 阻碍学生社交发展（减少小组互动、加剧社交孤立）；3. 增加教育者工作量（工具审核、专业发展学习）；4. 降低教育者自主权（工具设计/采购缺乏教育者参与）；5. 加剧教育系统性不平等（工具成本差异导致资源分配不均） | LLM系统、学生、教育者、学校系统的多方交互 | 教育工作者重点关注，教育科技提供商缺乏有效缓解手段 |
三、供需双方的危害缓解策略
| 危害类别 | 教育科技提供商缓解策略 | 教育工作者缓解策略 |
|---|---|---|
| 技术危害 | 1. 人类监督（内部审核团队、教师查阅聊天日志）；2. 技术护栏（毒性检测器、个人信息过滤、检索增强生成验证）；3. 限制LLM使用（静态内容人工审核后发布、仅向成人开放LLM代理） | 1. 介导学生交互（审核LLM生成内容、教学生安全使用/事实核查）；2. 限制LLM在课堂的使用场景 |
| 人机交互危害 | 技术护栏（拒绝 adversarial 提示、类似锁定浏览器的考试防作弊功能） | 1. 介导学生交互（识别LLM使用行为、调整教学任务设计）；2. 技术辅助（AI检测器） |
| 广泛影响危害 | 测量工具“有用性”（用户反馈收集、A/B测试、风险收益分析） | 限制LLM使用（避免布置LLM相关家庭作业）；2. 自我提升（参加专业发展课程、独立研究LLM生态） |
四、关键认知差距
- 关注重点差异：教育科技提供商聚焦可量化的技术危害，而教育工作者更担忧难以测量但影响深远的广泛影响危害。
- 能力匹配错位：教育工作者对技术危害的缓解能力较强（如通过教学实践介导），但教育科技提供商的缓解资源主要集中于此；对于广泛影响危害，教育工作者缺乏有效应对手段，而教育科技提供商尚未形成系统缓解方案。
- 设计参与缺失：教育科技工具的设计和采购过程中，教育者的需求和反馈未得到充分重视，导致工具与教学实际需求脱节。
五、研究建议
- 教育科技提供商：采用共同设计模式，赋予教育者对LLM工具的监督控制权，确保工具符合循证教学方法。
- 监管机构：依托现有教育评估机构（如美国教育部“有效证据交换所”），建立LLM教育科技工具的集中、独立审核机制和可检索数据库。
- 研究者与教育科技提供商：支持教育者参与工具构建（如自定义聊天机器人、适配课程标准的LLM应用），弥合工具功能与教学需求的差距。
- 学校管理者：采购过程中主动征求教育者意见，允许教育者自主选择是否使用特定LLM工具，避免强制部署。
六、研究局限
- 样本代表性：访谈对象仅来自美、英、加（27名美国，1名英国，1名加拿大），缺乏非西方、非英语国家的视角；教育科技提供商样本量仅6家，无法代表整个行业。
- 议题覆盖不足：未涉及LLM在低资源语言、殖民化危害、环境成本等全球议题上的影响。
- 伦理考量：访谈对教育工作者的时间造成额外负担，通过提供合理报酬（50美元/人）缓解该问题。
4. 关键问题及答案
问题1：教育领域LLM的潜在危害可分为哪几类？核心差异是什么？
答案：分为三类，核心差异在于测量所需条件和供需双方的关注程度。1. 技术危害（测量需LLM输出，供需双方均关注）；2. 人机交互危害（测量需LLM与师生的交互，供需双方均关注）；3. 广泛影响危害（测量需多方交互，教育工作者重点关注）。其中，技术危害可直接通过LLM输出量化，而广泛影响危害需结合教学场景、学校系统等多维度观察，难以量化但对教育生态的长期影响更显著。
问题2：教育科技提供商与教育工作者在LLM危害认知和缓解上的核心差距是什么？
答案：核心差距是“关注重点与能力匹配的错位”。认知上，教育科技提供商聚焦技术危害，教育工作者聚焦广泛影响危害；缓解能力上，教育工作者对技术危害的介导能力较强，但教育科技提供商的资源主要投入技术危害缓解，对广泛影响危害缺乏有效方案，导致教育工作者面临“想解决却无手段”的困境，而教育科技提供商的缓解努力未精准匹配教育者的核心需求。
问题3：为实现“以教育者为中心”的LLM教育科技发展，各相关方应采取哪些关键措施？
答案：1. 教育科技提供商：推行共同设计，让教育者参与工具功能定义，增加教育者对LLM使用的监督控制权；2. 监管机构：建立集中独立的工具审核机制和数据库，减少教育者的工具筛选工作量；3. 学校管理者：在工具采购中纳入教育者意见，保障教育者的使用自主权；4. 研究者与提供商合作：支持教育者自定义适配教学需求的LLM工具（如课程对齐的聊天机器人），弥合工具与教学实践的差距。
