Mail

2024년 8월, 세계 최초의 포괄적 AI 규제법이 유럽연합에서 발효됐다. 그리고 2026년 8월 2일, 그 법이 드디어 전면 적용된다. EU AI 법(AI Act)이다. 이 법은 특히 교육 분야에 직접적이고 구체적인 영향을 미친다. 학교는 지금부터 어떤 AI를 쓸 수 있고, 어떤 AI를 써선 안 되는지 판단해야 한다. 단순히 기술의 문제가 아니라, 학생 보호의 문제다.

1. EU AI 법이란 무엇인가: 전면 시행까지의 타임라인

EU AI 법은 AI 시스템을 위험 수준에 따라 분류하고, 각 수준에 맞는 의무를 부과하는 규제 체계다. 그 시행은 단계적으로 이루어졌다.

2024년 8월 1일: 법 발효
2025년 2월 2일: 금지 AI 관행 및 AI 리터러시 의무 적용 시작
2026년 8월 2일: 고위험 AI 규제 포함 전면 적용

2026년 8월 2일이 중요한 이유는 이날부터 교육 분야에 적용되는 '고위험 AI' 규정이 실제 효력을 갖기 때문이다. 규정을 어길 경우, 제재 대상은 학교뿐 아니라 EU 시장에 AI 서비스를 제공하는 외부 기업도 포함된다. 즉, 비유럽 기업이 만든 교육용 AI 도구도 EU 학생에게 서비스된다면 이 법을 따라야 한다.

2. 교육은 왜 '고위험' 영역인가

EU AI 법은 AI 시스템을 크게 네 단계로 분류한다: 허용 불가, 고위험, 제한적 위험, 최소 위험. 그중 교육 분야는 의료, 금융, 고용, 필수 인프라와 함께 '고위험' 영역에 포함됐다.

왜일까? 교육용 AI가 내리는 결정은 학생의 미래에 직접 영향을 미치기 때문이다. 입학 심사, 성적 평가, 학습 경로 결정, 학습 장애 식별 등 — 잘못 설계된 AI가 이 과정에서 편향된 판단을 내리면, 특정 학생 집단이 불이익을 받을 수 있다. 아이들과 청소년을 다루는 영역이기에, 법은 더 높은 수준의 보호를 요구한다.

3. 교실에서 완전 금지되는 것: 감정 인식 AI

EU AI 법이 교육 현장에 가져온 가장 선명한 변화는 감정 인식 AI의 전면 금지다. 이 규정은 이미 2025년 2월부터 적용 중이다.

무엇이 금지되는가

학교 환경에서 학생의 얼굴 표정, 목소리 톤, 생체 신호 등으로 감정 상태를 추론하는 AI는 모두 금지된다. 구체적인 예를 들면:

학생이 수업 중 집중하고 있는지, 지루해하는지를 표정으로 분석하는 시스템
온라인 시험 중 불안감이나 긴장 수준을 감지하는 시스템
교실 분위기를 실시간 모니터링하는 감정 분석 소프트웨어

이러한 시스템은 법에서 '허용 불가(Unacceptable Risk)' 등급으로 분류된다. EU 내에서 이를 사용하거나 제공하는 것은 불법이다.

왜 이것이 중요한가

감정 인식 AI는 교육 현장에서 매력적인 도구로 홍보되어 왔다. "학생의 감정 상태를 파악해 맞춤 교육을 제공한다"는 논리다. 그러나 이 기술에는 근본적인 문제가 있다. 감정 인식의 정확도가 낮고, 문화와 개인에 따른 편차가 크며, 학생이 감시받는다는 느낌은 심리적 부담으로 작용한다. EU는 이 위험이 잠재적 이익보다 크다고 판단한 것이다.

4. 허용되는 것과 허용되지 않는 것의 경계

모든 AI가 금지되는 건 아니다. 법은 세밀한 경계선을 그린다.

교육에서 허용되는 AI 사용

온라인 시험 부정행위 탐지를 위한 시선 추적(eye-tracking): 단, 감정을 추론하지 않아야 한다
역할극·시뮬레이션 학습에서의 감정 감지: 단, 그 결과가 학생의 성적이나 자격에 영향을 주지 않는 경우
의료·안전 목적의 감정 감지: 교육 환경 내에서 치료적 또는 안전 목적으로 제한적 사용

고위험 AI의 의무 사항

허용 불가는 아니지만 고위험으로 분류된 AI를 사용하는 학교는 다음을 반드시 이행해야 한다:

품질 관리 시스템 구축
위험 평가 수행 및 기록 유지
인간 감독(Human Oversight) 유지 — AI가 최종 결정을 내려서는 안 된다
투명성 확보 — 학생이 AI의 결정에 이의를 제기할 수 있는 절차 마련

5. 학교가 지금 해야 할 일

2026년 8월까지 남은 시간은 많지 않다. 유럽의 학교들은 지금 무엇을 해야 할까.

현재 사용 중인 AI 도구 목록 작성

어떤 AI 도구를 어떤 목적으로 사용하고 있는지 파악하는 것이 첫 번째 단계다. 특히 외부 공급업체가 제공하는 플랫폼에 어떤 AI 기능이 내장되어 있는지 확인해야 한다.

공급업체에 준수 여부 확인

법 적용 범위는 학교가 사용하는 AI 도구를 만든 기업도 포함한다. 공급업체가 EU AI 법을 준수하고 있는지 계약서와 기술 문서를 통해 확인해야 한다.

소규모 학교의 도전

대형 학교나 교육청은 별도의 법무·기술팀을 통해 대응할 수 있다. 그러나 소규모 학교는 지속적인 위험 감사를 수행할 자원이 부족하다. EU 집행위원회는 이들을 위한 가이드라인과 지원 도구를 제공하고 있다.

6. 한국 교육 현장에 주는 시사점

EU AI 법은 유럽 내 사안이지만, 그 파급력은 전 세계로 뻗어나간다. 이미 많은 글로벌 에듀테크 기업들이 EU 기준을 기본 설계에 반영하고 있다. 한국이 교육용 AI를 도입할 때도 다음 질문들을 던져볼 필요가 있다.

이 AI는 학생의 어떤 데이터를 수집하는가?
감정 인식 기능이 포함되어 있는가?
AI의 결정에 교사와 학생이 이의를 제기할 수 있는가?
알고리즘의 편향 가능성을 어떻게 점검하는가?

규제가 없다고 해서 위험이 없는 것은 아니다. EU가 이미 고민하고 답을 내린 질문들을, 우리 교육 현장도 지금 물어야 한다.

AI는 교육의 판도를 바꾸고 있다. 하지만 그 변화가 학생에게 이롭기 위해서는, 기술이 할 수 있는 것과 해서는 안 되는 것 사이의 경계를 명확히 하는 일이 필요하다. EU AI 법은 그 경계를 처음으로 법으로 못 박은 시도다. 유럽 교실의 변화를 바라보며, 우리 교육이 가야 할 방향을 함께 고민해볼 때다.

함께 읽으면 좋은 글

출처

European Union (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council — Artificial Intelligence Act. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
EPALE (2025). Commission Guidelines on Prohibited AI Practices in Education. https://epale.ec.europa.eu/en/content/commission-guidelines-prohibited-ai-practices-education
BABL AI (2025). Navigating the New Frontier: The Impact of the EU AI Act on Educational Technology. https://babl.ai/navigating-the-new-frontier-the-impact-of-the-eu-ai-act-on-educational-technology/
Swiss Cyber Institute (2025). The EU AI Act: Implications for Ethical AI in Education. https://swisscyberinstitute.com/research/eu-ai-act-implications-ethical-ai-education/
ISC Research (2025). The EU AI Act: What International School Leaders Need to Know. https://iscresearch.com/isl-magazine-the-eu-ai-act/
Digital Education Council (2025). EU AI Act: What it means for universities. https://www.digitaleducationcouncil.com/post/eu-ai-act-what-it-means-for-universities

EU AI 법 2026년 8월 전면 시행 — 유럽 교실에서 무엇이 금지되는가

목차