AI 답도 확인이 필요해

생활 속으로 들어온 인공지능

인공지능은 이제 궁금한 내용을 묻거나 공부와 숙제를 할 때 쉽게 활용하는 도구가 됐다. 어린이와 청소년도 AI를 이용해 질문의 답을 찾고, 그림이나 이야기를 만들며, 학습에 필요한 도움을 받는다.

그러나 AI가 제시하는 답이 언제나 정확한 것은 아니다. 이용자가 내용을 다시 확인하지 않으면 틀린 정보를 사실로 받아들일 수 있다. 이름과 얼굴 사진, 전화번호, 집 주소 같은 개인정보를 입력할 때도 주의가 필요하다. 다른 사람이 만든 글과 그림을 이용할 때는 저작권을 살펴야 한다.

AI를 잘 활용하는 능력만큼 AI의 답을 비판적으로 살피고 개인정보를 지키는 태도가 중요해진 이유다.

경기도 청소년 AI 윤리 교육 지원

2026년 6월 9일 열린 경기도의회 제391회 정례회 제1차 본회의에서는 장민수 경기도의원이 대표 발의한 경기도 청소년 인공지능 윤리 교육 활성화 지원 조례안이 통과됐다.

조례는 경기도에 필요한 제도와 규칙을 정하는 자치법규다. 조례안의 본회의 통과는 도의원들이 해당 제안을 심의하고 승인했다는 의미다.

이번 조례는 청소년이 AI를 안전하고 올바르게 이용할 수 있도록 윤리 교육을 지원하기 위해 마련됐다. 주요 지원 내용에는 AI 윤리 교육 프로그램과 교육자료 개발, 청소년지도자 교육, 관련 기관의 협력이 포함됐다.

• 청소년 대상 AI 윤리 교육 프로그램 지원
• 교육 현장에서 활용할 수 있는 자료 개발
• 청소년지도자를 위한 교육 지원
• 경기도와 교육기관, 청소년 관련 기관의 협력

이미 일부 학교에서 시행하는 교육을 더 많은 청소년에게 연결하고, 여러 기관이 협력할 수 있는 기반을 마련하는 것이 조례의 핵심이다.

초등학생도 지원 대상

장민수 의원은 조례와 관련한 서면 답변에서 경기도에 거주하는 만 9세부터 24세까지의 청소년이 지원 대상이라고 설명했다. 이에 따라 초등학교 4학년 학생도 AI 윤리 교육의 지원 대상에 포함된다.

학교에 재학 중인 학생뿐 아니라 학교 밖 청소년과 청소년 복지시설을 이용하는 청소년에게도 교육 기회를 넓히는 내용이 강조됐다. 경기도청과 경기도교육청, 청소년수련관, 지원센터 등 여러 기관이 함께 다양한 방식의 교육을 추진할 수 있다는 설명이다.

학교 교실에서만 교육하는 방식에 머물지 않고 청소년이 자주 이용하는 시설에서도 AI 윤리를 배울 수 있도록 지원 범위를 넓히는 방향이다. 체험형 교육 확대도 추진 내용에 포함된다.

AI가 틀릴 수 있다는 태도

장 의원은 AI가 생활을 편리하게 만들지만 잘못 이용할 경우 가짜 정보 생성과 개인정보 침해 문제가 발생할 수 있다고 설명했다. 다른 사람의 사진을 나쁘게 합성하는 딥페이크도 AI 윤리 교육이 필요한 사례로 제시했다.

어린이가 AI를 사용할 때 먼저 갖춰야 할 태도로는 AI가 알려주는 내용을 100% 믿지 않는 비판적 자세가 꼽혔다. AI의 답을 그대로 믿거나 숙제에 바로 옮기기보다 사실이 맞는지 한 번 더 확인하는 습관이 필요하다는 것이다.

두 번째로 강조된 원칙은 개인정보와 저작권 보호다. 자신이나 친구의 이름, 사진, 집 주소 등을 AI에 함부로 입력하지 않아야 한다. 다른 사람이 만든 글이나 그림을 자신의 창작물인 것처럼 사용하는 일도 피해야 한다.

AI 윤리는 어려운 이론만으로 가르치기보다 어린이가 참여할 수 있는 재미있는 체험과 게임을 통해 배울 수 있어야 한다는 점도 강조됐다.

초등학생 21명의 AI 이용 경험

산의초등학교 4학년 10반 학생 23명 가운데 21명을 대상으로 진행한 설문에서는 어린이들의 AI 이용 경험과 안전 인식을 확인했다.

AI를 사용해 본 적이 있는지를 묻자 6명은 자주 사용한다고 답했고, 13명은 가끔 사용한다고 답했다. 사용해 본 적이 없다는 응답은 2명이었다. 전체 응답자 21명 가운데 19명이 AI를 한 번 이상 이용한 경험이 있는 셈이다.

응답 학생 대부분이 이미 AI를 경험한 것으로 나타나면서 어린이 대상 AI 윤리 교육의 필요성도 함께 드러났다.

질문과 학습에 가장 많이 활용

AI를 주로 어떤 목적으로 사용하는지 묻는 문항에서는 궁금한 것을 물어본다는 응답이 12명으로 가장 많았다. 공부나 숙제에 이용한다는 학생은 6명이었다.

그림 그리기나 이야기하기에 이용한다는 응답, AI를 사용하지 않는다는 응답, 기타 응답은 각각 1명으로 집계됐다.

설문 결과는 AI가 어린이들에게 특별한 기술이 아니라 일상적인 질문과 학습을 돕는 도구로 이용되고 있음을 보여준다.

AI 답변에 대한 어린이들의 인식

AI가 알려주는 답이 항상 맞는지를 묻는 질문에는 18명이 틀릴 때도 있다고 답했다. 잘 모르겠다는 학생은 3명이었고, 항상 맞는다고 응답한 학생은 한 명도 없었다.

대다수 학생은 AI가 틀릴 수 있다는 점을 알고 있었다. 다만 잘 모르겠다는 응답도 있어 AI의 답을 어떻게 확인해야 하는지 구체적으로 배우는 과정이 필요하다는 점을 확인할 수 있다.

AI의 답변을 검토한다는 것은 단순히 의심하는 데서 끝나는 일이 아니다. 답을 그대로 받아들이지 않고 사실인지 다시 살펴보는 이용 습관을 갖는 것이 교육에서 강조된 내용이다.

개인정보 보호 인식

AI에 자신의 이름이나 얼굴 사진, 전화번호를 알려줘도 되는지를 묻는 질문에는 17명이 알려주면 안 된다고 답했다. 나머지 4명은 잘 모르겠다고 답했으며, 알려줘도 된다는 응답은 없었다.

많은 학생이 개인정보를 AI에 입력하면 안 된다고 인식하고 있었지만, 판단하기 어렵다고 답한 학생도 있었다. 개인정보 보호 원칙을 알고 실제 이용 과정에서 지키도록 돕는 교육이 중요한 이유다.

자신의 정보뿐 아니라 친구의 이름과 사진, 주소 같은 정보도 당사자의 개인정보라는 점을 함께 살펴야 한다.

학교에서 진행되는 AI 안전교육

학교에서 AI를 안전하게 사용하는 방법을 배워 보고 싶은지를 묻는 문항에는 이미 배워 봤다는 응답이 12명으로 가장 많았다. 배우고 싶다는 학생은 3명, 잘 모르겠다는 학생은 4명, 배우고 싶지 않다는 학생은 2명이었다.

산의초등학교 4학년 10반 담임교사는 학교에서 AI 윤리 교육을 하고 있다고 밝혔다. 교육에서는 개인정보가 외부로 빠져나가지 않도록 주의해야 한다는 점을 강조하고 있다고 설명했다.

학교 교육과 장 의원의 설명에서 공통으로 강조된 내용은 개인정보 보호였다. 어린이들이 AI를 이용하는 과정에서 개인정보를 입력하기 전에 그 정보가 꼭 필요한지 생각하고, 함부로 제공하지 않도록 가르치는 것이다.

기존 교육을 넓히는 조례

경기도에서는 조례안이 통과되기 전부터 AI 윤리 교육을 위한 활동이 진행됐다. 경기도교육청은 2025년 7월 초등학교 4학년용 미래를 여는 디지털 시민과 중학교용 슬기로운 인공지능 윤리생활 교과서를 활용한 교사 연수를 실시했다.

해당 연수에는 초등학교와 중학교 교사 266명이 참여했다. 교사가 관련 교과서를 이해하고 학교 교육에 활용할 수 있도록 마련된 연수였다.

이번 조례는 기존 AI 윤리 교육을 처음부터 새로 시작한다는 의미가 아니다. 학교에서 이미 시행하는 교육을 지원하고, 교육 기회를 학교 밖까지 넓히며, 관련 기관이 협력할 수 있도록 제도적 근거를 마련했다는 데 의미가 있다.

1. 학교에서 진행 중인 AI 윤리 교육을 지원한다.
2. 교육 프로그램과 자료 개발을 뒷받침한다.
3. 청소년지도자가 관련 내용을 교육할 수 있도록 지원한다.
4. 청소년수련관과 지원센터 등 학교 밖 시설로 교육 기회를 넓힌다.
5. 경기도청과 경기도교육청을 비롯한 관계 기관의 협력을 추진한다.

특히 학교에 다니지 않는 청소년에게도 교육이 닿을 수 있도록 청소년 이용시설과 복지시설을 통한 교육 가능성을 열었다. 모든 지원 대상 청소년이 AI를 안전하게 이용하는 방법을 배울 수 있도록 교육의 접점을 확대하는 내용이다.

아는 것을 실천하는 AI 윤리

설문에 참여한 학생 다수는 AI를 이용해 본 경험이 있었고, AI의 답변이 틀릴 수 있다는 사실도 알고 있었다. 개인정보를 알려주면 안 된다고 답한 학생 역시 많았다. 학교에서도 개인정보 보호를 중심으로 AI 윤리 교육이 이뤄지고 있었다.

다만 AI 윤리는 내용을 알고 있는 데서 끝나지 않는다. 실제로 AI를 사용할 때 답을 한 번 더 확인하고, 개인정보를 함부로 입력하지 않으며, 다른 사람의 저작물을 자신의 것처럼 사용하지 않는 행동으로 이어져야 한다.

AI가 내놓은 답은 확인하고, 개인정보는 지키며, 다른 사람의 권리를 침해하지 않는 것. 이것이 어린이와 청소년이 실천할 수 있는 AI 윤리의 기본이다.

경기도의 조례는 학교와 청소년시설, 관계 기관이 협력해 이러한 원칙을 더 많은 청소년에게 교육할 수 있도록 지원하는 기반을 담았다. 교육자료와 프로그램, 지도자 교육, 기관 간 협력을 통해 청소년이 AI의 편리함을 활용하면서도 안전한 이용 원칙을 함께 익히도록 하는 것이 조례가 제시한 방향이다.