과기정통부, AI 오류 잡는 국민 모니터링단 'AI 안전 지킴이' 80명 출범
대학생·직장인 등 138명 지원 중 선발…2027년 8월까지 4대 분야 오류 상시 제보

인공지능(AI)의 오류와 위험 사례를 국민이 직접 찾아내 제보하는 상시 감시 체계가 출범했다. 과학기술정보통신부는 인공지능안전연구소와 함께 12일 서울 여의도 글래드호텔에서 'AI 안전 지킴이' 발대식을 열고 국민 모니터링단을 공식 출범했다고 밝혔다.
모니터링단은 지난 8월과 9월 두 차례 공개 모집에 지원한 138명 가운데 최종 선발된 80명으로 꾸려졌다. 10대 고등학생부터 60대 이상까지 폭넓은 연령층이 참여했고, 직장인과 가사종사자, 프리랜서, 자영업자, 학생 등 활동 분야도 다양하다. 이들은 2027년 8월까지 약 1년 동안 생성형 AI에서 나타나는 오류와 위험 사례를 찾아 제보하는 역할을 맡는다.
모니터링 대상은 사실 왜곡(환각), 편향·차별, 보안 취약점, 기술적 결함 등 4대 중점 분야다. 잘못된 사실이나 수치·날짜·인물 정보를 사실처럼 생성하는 경우, 특정 집단을 향한 고정관념이나 비하가 담긴 답변, 안전장치를 우회하거나 개인정보 노출을 유도하는 사례, 무응답이나 요청 형식과 다른 답변이 대표적인 예다.
이번 출범은 지난해 12월부터 30여 일간 진행된 '정보 오류 없는 찐 AI 챌린지' 캠페인의 후속 조치다. 당시 캠페인에는 총 625건이 접수됐고 이 가운데 464건이 유효한 오류 사례로 확인됐다. 과기정통부와 안전연구소는 한시적 캠페인을 넘어 국민이 상시적으로 오류를 찾아 제보할 수 있는 체계가 필요하다는 판단 아래 이번 모니터링단을 구성하게 됐다고 설명했다.
제보된 사례는 정확성과 위험도, 재현 가능성, 활용 가능성 등을 따지는 유효성 검증을 거쳐 확정된다. 확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료로 활용되고, 관련 기업에도 공유된다. 정부는 이를 계기로 AI 기업과의 소통도 이어간다는 계획이다.
이날 행사에는 엄열 과기정통부 인공지능정책실장과 김명주 인공지능안전연구소장, 지킴이 등 50여 명이 참석해 위촉장을 수여하고 운영계획을 안내했다. 이어진 교육에서는 오류 사례 발굴 방법과 제보 기준이 다뤄졌다.
엄열 인공지능정책실장은 "AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼, 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다"며 "AI 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는 데 소중한 밑거름이 될 것"이라고 말했다.
한편 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 지난 1월 22일 시행돼 고영향 AI 등에 대한 규제가 제도 운용 단계에 들어섰다.
이 기사가 근거로 삼은 자료
기사에 쓰인 사실은 아래 원문에서 직접 확인할 수 있습니다.
- 정부·공공과학기술정보통신부 과학기술 보도자료· 과학기술정보통신부· 확인 2026.11.13
- 정부·공공출범 배경 발언· 대한민국 정책브리핑· 확인 2026.11.13
- 판결·결정정책 배경 법령· 국가법령정보센터· 확인 2026.11.13
저작권자 © 뉴에라 데일리 무단전재 및 재배포 금지