北京市人大代表建议建立人工智能教育白名单 守住基础教育安全底线

北京市十六届人大四次会议将于1月25日召开。1月24日上午,参会市人大代表陆续到驻地报到。市人大代表、北京育才学校校长助理寿延围绕基础教育高质量发展与新技术应用治理提出建议,应以安全为前提推进智能技术基础教育场景落地。 问题: 智能技术进入校园的步伐在加快,但安全与规范的短板日益凸显。当前,智能化工具在教学管理、作业辅导、个性化学习等环节应用增多,在提升效率的同时,也带来了数据采集范围扩大、内容来源复杂、产品质量参差不齐等新挑战。特别是在未成年人教育场景中,信息保护与价值导向的要求更高,任何环节的疏漏都可能引发数据泄露、内容失真甚至不当引导等风险。 原因: 一是数据与算法依赖度高,安全风险天然伴生。个性化学习方案需要持续采集学生的学习行为、能力画像、作业结果等数据,甚至涉及语音、图像等敏感信息。一旦数据外流或被不当使用,将造成难以逆转的影响。 二是准入标准分散,形成各自为战管理格局。目前许多学校引入对应的软硬件多由学校自主决策、各定标准,缺少统一的市级门槛和动态评估体系,容易出现重复采购、盲目追新和合规审核不到位等问题。 三是内容治理链条较长。智能化应用在生成或调用网络资料时,信息来源多元、更新迅速,若缺乏权威校验与责任边界,可能导致知识偏差、低质信息传播,影响教学质量与育人导向。 影响: 若风险得不到有效管控,一上可能损害师生隐私与学校管理秩序,增加教育系统的合规成本与舆情压力;另一方面也会削弱技术应用的社会信任度,使有价值的创新难以持续推广。反之,若能制度、标准与技术底座上先行完善,不仅可提升教学管理效率与课堂质量,还可推动教育资源更均衡配置,为因材施教提供更扎实的支撑。 对策: 寿延建议从三个上发力。其一,在全市层面建立基础教育相关软硬件使用白名单,明确哪些产品可进入基础教育场景、哪些适用于高校或企业等不同领域,通过统一规范降低学校甄别成本,提升合规一致性。 其二,在白名单建立和动态调整过程中,引入学校、教师、家长和学生共同参与筛选与评价,形成贴近真实教学需求的反馈闭环,为产品优化提供依据。 其三,推动由教育主管部门牵头建设统一的基础教育智能体,并可按学科、德育、心理健康、科学教育等不同领域设置专项智能体,建立权威内容与资源入口、数据使用规范和权限管理机制,为师生提供安全、高效、可追溯的服务支撑。通过统一底座加分领域应用,既提升使用便捷性,也有助于把数据边界、内容审核和责任链条固化在系统之中。 前景: 随着教育数字化转型加快,智能化应用将从工具补充逐步走向体系融合。未来一个时期,北京推进基础教育智能化治理的关键,在于以制度与标准为牵引,建立覆盖产品准入、数据保护、内容审核、应用评价和风险处置的全链条机制,同时兼顾学校差异化需求与教学创新空间。通过白名单制度与统一智能体建设,有望形成可复制、可推广的治理经验,推动技术红利更多转化为教育公平与质量提升的实际成效。

人工智能与基础教育的融合已成不可逆转的趋势,如何在拥抱创新的同时筑牢安全防线,考验着城市治理的智慧。这份来自基层实践的提案,为首都教育现代化提供了技术治理的新思路,也表明了新时代教育改革中发展与安全的动态平衡。随着对应的建议的逐步落实,北京有望为全国智慧教育发展树立规范化样本。