Published on

考虑个人信息保护的安全AI工具使用方法

将学生作文输入ChatGPT获取反馈，或将家长沟通内容输入AI进行分析的教师越来越多。虽然方便，但随之而来一个重要的问题："这些信息会去哪里？"个人信息保护法和学校内部信息安全政策同样适用于AI工具的使用。一不小心输入的一个学生名字可能引发法律问题。本文整理了在教育现场安全且有效地使用AI的实用原则。

目录

  1. 教育现场中的个人信息是什么
  2. 理解AI工具的数据处理方式
  3. 安全使用的5个原则
  4. 各工具个人信息设置确认方法
  5. 面向学生和教职员的AI使用指南

教育现场中的个人信息是什么

保护对象个人信息的范围

在学校环境中，不应输入AI的个人信息比想象的要多：

学生相关个人信息：

  • 姓名、学号、出生日期
  • 家庭环境、家庭构成、经济状况
  • 学业成绩、学业评价结果
  • 健康信息、残障情况
  • 心理辅导内容、校园暴力相关记录
  • 联系方式、地址

教职员相关个人信息：

  • 姓名、工号、联系方式
  • 人事记录、薪资信息
  • 教师评价结果

敏感信息更为严格

个人信息保护法对健康、性取向、宗教、政治观点等"敏感信息"要求更高水平的保护标准。学生的家庭环境或心理辅导内容可能属于这一范畴。

理解AI工具的数据处理方式

我的数据去了哪里

使用AI工具时，理解输入的数据如何被处理很重要：

ChatGPT（OpenAI）：

  • 免费·付费用户的对话内容默认可能被用于模型训练
  • 激活"数据学习排除"设置（Settings → Data Controls）后，对话内容不会被用于训练
  • ChatGPT Team、Enterprise方案从数据训练中排除

NotebookLM（Google）：

  • 适用Google的一般个人信息处理方针
  • 使用Google Workspace for Education账号时，适用单独的教育用数据保护政策
  • 使用个人Google账号时，遵循Google服务条款

Gemini（Google）：

  • 默认与Google账号关联，对话内容被保存
  • 关闭"Gemini应用活动"功能后，对话内容不保存到账号

服务器位置与法令适用

大部分AI工具使用境外服务器。在使用境外AI服务时，需注意所在国的个人信息跨境传输规定。学校层面将学生信息输入境外AI服务，是需要法律审查的领域。

安全使用的5个原则

原则1：去标识化后输入

如果必须将包含个人信息的内容输入AI，务必经过去标识化处理后再输入：

  • 姓名 → 匿名代码（学生A、学生B）
  • 学校名 → 删除或"K高中"
  • 学号·班级 → 删除
  • 具体事件内容 → 以模式描述进行一般化

原则2：最小信息原则

只输入实现目的所需的最少信息。说"请分析这位学生的学校适应不良模式"时，不需要输入该学生详细的家庭环境信息。

原则3：激活数据学习排除设置

在所使用的AI工具的设置中找到不将对话内容用作训练数据的选项，并激活。大部分主要AI服务都有这个设置。

原则4：工作账号与个人账号分离

在学校工作中使用AI时，尽量使用学校Google Workspace账号或工作用Microsoft账号。比个人账号适用更严格的数据保护政策。

原则5：分发生成结果物前检查

在分发AI生成的文件之前，务必确认是否包含个人信息。AI可能从输入内容中重新组合个人信息包含在输出中。

各工具个人信息设置确认方法

ChatGPT设置

  1. 点击ChatGPT右上角账号图标
  2. Settings → Data Controls
  3. 关闭"Improve the model for everyone"开关
  4. 删除之前的对话内容：使用"Delete all chats"

Gemini设置

  1. 进入Gemini应用设置菜单
  2. "Gemini应用活动" → 关闭或设置自动删除期间
  3. 已保存的对话内容通过"删除活动"移除

NotebookLM设置

NotebookLM与Google账号关联：

  1. Google账号设置 → 数据和隐私
  2. 确认NotebookLM相关应用权限
  3. 含敏感内容的笔记本在使用后考虑删除

面向学生和教职员的AI使用指南

对学生的说明内容

请告知学生使用AI时应遵守的事项：

  1. 不将自己或他人的姓名、联系方式输入AI
  2. 不向AI询问或输入朋友或家人的个人信息
  3. AI生成的个人信息相关内容不直接分享到社交媒体
  4. AI使用记录可根据学校政策记录或与教师共享

教职员核查清单

可以在学校层面与教职员共享的AI使用核查清单：

  • 工作用AI使用时使用学校邮件账号
  • 禁止输入包含学生姓名·学号的内容
  • 禁止输入成绩、辅导记录等敏感信息
  • 确认数据学习排除设置
  • 分发AI生成结果物前确认是否包含个人信息
  • 有疑问时向信息保护负责人咨询

学校政策制定建议

如果学校层面没有关于AI工具使用的明确政策，建议提议制定。政策应包含以下内容：

  • 获批准的AI工具列表
  • 个人信息输入禁止项目
  • 违规时的处理程序
  • 教职员培训计划

AI工具是教育现场强大的工具，但没有正确的使用规则，学生和教职员的个人信息可能面临风险。兼顾便利性和安全性，是AI时代教师需要的新素养。规则看起来复杂，但核心很简单："不将能识别姓名和身份的信息输入AI。"

您所在学校有关于AI工具使用的明确指引吗？如果没有，您认为应该包含哪些内容？欢迎在评论区分享意见。

延伸阅读

Discuss on Twitter • View on GitHub
考虑个人信息保护的安全AI工具使用方法 | MINSSAM.COM