AI가 특수교육을 바꾸고 있다, 하지만 과연 안전할까

미국 특수교육 현장에서 AI 도입이 확산되고 있지만, 개인정보 침해와 편향성 문제가 우려되고 있다. 기술 발전과 윤리적 고려 사이의 딜레마를 살펴본다.

미국에서 700만 명의 장애 학생들이 연방 정부의 특수교육 지원을 받고 있다. 하지만 예산은 부족하고 전문 인력은 턱없이 모자라다. 이런 상황에서 인공지능이 해법으로 떠오르고 있다.

ChatGPT가 개별화교육계획(IEP)을 작성하고, AI가 학습장애를 진단하며, 가상현실과 결합된 AI가 교사를 훈련시키는 일이 이미 현실이 되고 있다. 하지만 이 변화의 이면에는 우려스러운 질문들이 숨어있다.

더 빠른 IEP, 하지만 정말 '개별화'될까

개별화교육계획(IEP)은 특수교육의 핵심이다. 각 학생의 강점과 필요를 분석해 맞춤형 교육 목표를 설정하는 문서다. 문제는 이 과정이 너무 복잡하고 시간이 많이 든다는 점이다.

현재 대부분의 학교는 정형화된 소프트웨어로 IEP를 작성한다. 미리 만들어진 템플릿에서 선택지를 고르는 방식이다. 진정한 개별화와는 거리가 멀다. 여기서 AI가 등장한다.

초기 연구 결과, ChatGPT 같은 대형 언어모델은 학생과 가족의 다양한 데이터를 종합해 IEP를 생성하는 데 뛰어난 능력을 보였다. 일부 특수교육 전문기관은 교사들에게 수업 계획 작성에 AI를 활용하라고 권장하기도 한다.

하지만 여기에 함정이 있다. 진정한 개별화를 위해서는 학생의 민감한 개인정보를 AI 시스템에 입력해야 한다. 이는 개인정보보호법 위반 소지가 크다. 또한 AI가 만든 문서가 겉보기엔 훌륭해 보여도, 실제 교육 서비스 개선으로 이어진다는 보장은 없다.

AI의 활용 범위는 문서 작성을 넘어선다. 자폐증이나 학습장애 진단에서 AI는 인간이 놓칠 수 있는 패턴을 찾아낸다. 특히 증상이 다양하게 나타나거나 불완전한 병력을 가진 경우에 유용하다.

교사 훈련 분야에서도 변화가 일고 있다. 가상현실과 AI를 결합한 시스템으로 예비 교사들이 실제 학생을 만나기 전에 교수법을 연습할 수 있다. 제한된 인력으로는 불가능했던 반복 훈련과 체계적 지원이 가능해진 것이다.

음성 인식 기술을 활용한 읽기 능력 평가도 확산되고 있다. AI가 학생의 음성을 분석해 읽기 수준을 자동으로 측정한다. 하지만 여기에도 한계가 있다. 현재 음성 인식 시스템은 장애로 인한 언어 차이나 교실 소음, 여러 목소리를 구분하는 데 어려움을 겪는다.

가장 큰 우려는 AI의 편향성이다. 머신러닝 모델은 기존 데이터로 학습한다. 즉, 과거의 편견이 그대로 반영될 수 있다는 뜻이다. 특정 인종이나 사회경제적 배경을 가진 학생들이 부당하게 특수교육 대상으로 분류되거나, 반대로 필요한 서비스에서 배제될 위험이 있다.

연방법은 차별적이지 않은 평가 방법을 요구하고 있다. 하지만 AI 시스템이 편향된 데이터나 방법을 사용해 잘못된 권고를 한다면? 학생의 데이터가 AI 시스템에 의해 오용되거나 유출된다면?

가족들은 이제 학교와 교사뿐 아니라 상업적 AI 시스템도 신뢰해야 하는 상황에 놓였다. 그런데 이 AI 시스템의 내부 작동 방식은 대부분 불투명하다.

미국의 이런 변화는 한국에도 중요한 시사점을 준다. 국내에서도 에듀테크 기업들이 AI 기반 학습 솔루션을 속속 출시하고 있다. 네이버의 클로바노트, 카카오의 AI 튜터 등이 대표적이다.

특히 한국의 높은 교육열을 고려하면, AI를 활용한 개별화 교육에 대한 관심이 더욱 클 것으로 예상된다. 하지만 미국의 사례가 보여주듯, 기술 도입과 함께 개인정보보호와 교육의 질에 대한 고민이 필요하다.

한국의 장애인 교육권 보장법도 개별화교육계획 수립을 의무화하고 있다. AI 도입 시 법적 요구사항 충족과 실질적 교육 개선 사이의 균형을 어떻게 맞출지가 관건이다.