[2025 u클린] 2-① 방통위·NIA 서울 광남중 디지털 윤리교육 현장 탐방
"이게 왜 행복한 표정이야?" "울고 있지만 동시에 막 웃고 있으니까 행복한 표정이잖아요." "도저히 모르겠어요."

지난 4일 서울 광진구 광남중학교 컴퓨터실에 모인 코딩부 학생 18명이 한바탕 혼란에 빠졌다. 스크린에 올라온 32장의 사진에는 다양한 연령대와 성별, 인종의 사람들이 여러 표정을 짓고 있었다.

이날 수업은 '표정을 구별하는 AI'를 만들어보는 수업이었다. 수업에는 학습용 AI 소프트웨어가 활용됐다. 이날 수업은 '행복한 표정과 행복하지 않은 표정'을 나눠서 기존 AI 모델에 학습을 시킨 후 학생들이 생각하는 답과 일치하는지 확인해보는 내용으로 구성됐다.

"편향된 데이터가 편향된 AI 만든다"
강사는 학생들에게 사진 속 사람들 중에서 행복해 보이는 사람의 사진에 동그라미를 표시하도록 했다. 또 각각의 사진별로 행복해 보이는 정도를 점수로 매기도록 했다. 학생들끼리도 의견이 나뉘었다. "웃고 있는 것처럼 보이지만 눈썹이 찌부러져 보이는 사진은 행복하지 않은 것으로 하겠다"는 학생에게 다른 학생이 "그런데 그 사람이 진짜로는 웃고 있는 것일 수 있지 않느냐"고 반박했다.

우여곡절 끝에 학생들이 작성한 답안지가 나왔다. 처음 제시됐던 32장의 사진에 대해 AI가 행복하다고 판별한 결과와 행복한 정도를 점수로 매긴 결과가 화면에 표시됐다. 학생들에게서는 다시 탄성이 터져나왔다. 생각했던 것과 전혀 다른 결과가 나왔기 때문이다.

학생들과 AI의 답이 일치했던 것은 감정이 의심할 여지 없이 명확히 표현된 사진들이었다. 활짝 웃고 있거나 눈과 입이 모두 웃고 있는 사람들의 사진, 또는 찡그리고 우울한 표정이 명확한 사진들이었다. 젊은 백인 성인의 표정 사진도 그랬다. 반면 까만 머리의 안경 쓴 동양인 아이가 환하게 미소짓는 사진은 학생들 전부가 '행복하다'고 표시한 반면 AI는 '행복하지 않음 100%'라고 답했다.

"왜 이런 결과가 나왔을까요?" 강사가 질문을 던졌다. "사진이 32장밖에 없어서 그래요. 1000장, 1만장 있으면 다른 결과가 나왔을 거예요" "백인 성인 표정만 잘 알아보고 동양인이나 흑인, 어린이 사진은 잘 못알아보는 것같아요" "AI가 사람의 복잡한 감정을 제대로 이해하지 못하는 것 같아요" 등등의 답변이 나왔다.


강사는 "AI는 사람이 제공한 데이터를 학습해서 스스로 규칙을 찾아내는 머신러닝을 통해 판단을 내린다"며 "편향된 데이터를 학습하면 편향된 AI가 된다"고 설명했다. 직원 채용을 위해 높은 성과와 좋은 평가를 받았던 직원의 데이터를 기반으로 만들어진 AI가 여성 지원자보다 남성 지원자에게 더 높은 점수를 부여한 성 차별 사례, 범죄자들의 기록을 학습해 만들어진 재범 가능성 예측 AI가 흑인의 재범 가능성이 백인보다 2배 높다고 판단한 인종 차별 사례 등에 대해서도 설명했다.

이어 학생들은 조별로 AI의 편향을 줄이기 위해 데이터를 추가로 학습시키는 과정을 체험했다. 조원들 사이의 합의를 통해 데이터를 분류하는 기준을 만드는 과정도 진행됐다. 이외에 허위 정보를 만들어서 마치 사실인양 말하는 할루시네이션(환각)을 비롯해 저작권 침해, 딥페이크·딥보이스처럼 생성형 AI와 관련한 다양한 윤리적 이슈에 대해 토론하는 시간도 있었다. 이번 교육을 통해 학생들은 AI가 무엇이고 어떻게 작동하는지, AI가 어떻게 인간의 편견을 학습해서 편향된 답변을 내놓는지, AI와 관련한 다양한 문제를 해결하기 위해 개발자와 이용자가 각각 어떻게 대응해야 할지에 대해 배웠다.

'AI는 만능'이라는 편견, 교육으로 바로 잡는다이날 광남중학교에서 3교시에 걸쳐 2시간여 실시한 AI 수업은 방송통신위원회와 한국지능정보사회진흥원(NIA)이 진행하는 디지털 윤리 교육의 일환이다. 이 학교에서 컴퓨팅 시스템이나 프로그래밍 등의 정보 과목을 담당하는 김진옥 교사는 "올해부터 중학교 정규 과목으로 '인공지능'이 편성됐지만 어디까지 가르쳐야 하고 무엇을 하지 말아야 하는지에 대한 고민이 많았다"며 "이날 교육은 제가 원했던 내용이라 수업에 매우 만족한다"고 말했다.

AI가 정규 교육 과정에 편성됐지만 학교 일선에서는 어떤 콘텐츠로 어떻게 교육할지에 대해 혼란이 많은데 방통위·NIA의 교육이 큰 도움이 됐다는 설명이다. 교육 커리큘럼을 담당한 이정아 TMD교육그룹 부장은 "시대가 변하면서 가치 기준도 계속 달라지기 때문에 '디지털 또는 AI 윤리란 이런 것'이라고 딱 답을 내는 것은 어렵다"며 "시대가 변하더라도 사회 구성원의 합의를 통해 현재 시점에서 필요한 AI 윤리가 무엇인지 도출해 가는 과정을 아이들이 경험할 수 있도록 하는 데 중점을 뒀다"고 설명했다.

한편 방통위와 NIA는 유아부터 고령자에 이르는 전체 사회 구성원을 아우르는 디지털 윤리 교육을 2009년부터 진행해왔다. 방통위와 NIA는 최근 AI 기술의 발달과 확산 추세를 반영해 마치 만능인 것처럼 보이는 AI의 이면에 가려진 각종 문제를 확인하고 이에 능동적으로 대응하는 역량을 키우는 데에도 주력하고 있다.