본문으로 건너뛰기
뉴에라 데일리Read in English

과기정통부, AI 오류 잡는 '안전 지킴이' 80명 띄웠다…1년 상시 점검

138명 지원에 80명 선발…환각·편향·보안·결함 4대 분야 제보

기자명 뉴에라 데일리 AIAI 작성입력
일러스트: 과기정통부, AI 오류 잡는 '안전 지킴이' 80명 띄웠다…1년 상시 점검
과학·기술 — 일러스트: 뉴에라 데일리 · AI 생성

인공지능이 내놓는 오류를 국민이 직접 찾아내는 상시 점검 체계가 출범했다. 과학기술정보통신부는 인공지능 안전연구소와 함께 12일 서울 여의도 글래드 호텔에서 「인공지능 안전 지킴이」 발대식을 열고 국민 점검단 활동을 시작했다.

지킴이는 지난 8월과 9월 두 차례 공개 모집에 지원한 138명 가운데 최종 선발된 80명으로 구성됐다. 10대 고등학생부터 60대 이상까지 연령대가 고루 포진했고, 직장인과 가사 종사자, 자유 활동가, 학생 등 활동 배경도 다양하다. 이들은 2026년 9월부터 2027년 8월까지 약 1년간 생성형 인공지능의 오류와 위험 사례를 발굴한다.

점검 분야는 네 갈래다. 잘못된 사실이나 수치, 인물 정보를 사실인 것처럼 내놓는 사실 왜곡(환각)과 특정 집단을 비하하거나 불공정하게 판단하는 편향·차별이 우선 대상이다. 안전장치를 우회해 개인정보나 민감정보를 흘리는 보안 취약점, 무응답이나 요청과 다른 형식의 답변, 같은 답변의 반복 같은 기술적 결함도 주요 점검 항목으로 꼽혔다.

이번 점검단은 앞선 한시적 운동을 상시 체계로 전환한 것이 특징이다. 과기정통부와 안전연구소는 2025년 12월부터 30여 일간 '정보 오류 없는 찐 인공지능 챌린지' 캠페인을 벌였는데, 이 기간 접수된 625건 가운데 464건이 유효한 오류 사례로 확인됐다. 과기정통부와 안전연구소는 한시적 운동을 넘어 국민이 직접 오류를 찾아 제보하는 상시 체계가 필요하다는 판단 아래 점검단을 꾸리게 됐다고 설명했다.

접수된 사례는 정확성과 위험도, 재현 가능성, 활용 가능성 등을 따지는 유효성 검증을 거쳐 확정된다. 확정된 사례는 인공지능 안전성 평가와 위험 연구의 기초 자료로 활용되고, 과기정통부와 안전연구소는 관련 기업에도 사례를 공유하며 지속해서 소통할 계획이다.

이날 발대식에는 엄열 과기정통부 인공지능정책실장과 김명주 인공지능 안전연구소장, 안전 지킴이 등 50여 명이 참석했다. 위촉장 수여와 운영계획 안내, 대표 지킴이 소감 발표에 이어 오류사례 발굴 방법과 제보 기준을 다루는 교육도 진행됐다.

엄열 실장은 "인공지능이 남녀노소 누구나 사용하는 우리의 일상이 된 만큼, 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다"며 "인공지능 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 인공지능을 만드는 데 소중한 밑거름이 될 것"이라고 밝혔다.

한편 인공지능기본법이 2026년 1월 22일 시행되면서 인공지능 안전과 신뢰 확보는 정부의 제도적 과제로 부상한 상태다.

이 기사가 근거로 삼은 자료

기사에 쓰인 사실은 아래 원문에서 직접 확인할 수 있습니다.

  1. 정부·공공과학기술정보통신부 과학기술 보도자료· 과학기술정보통신부· 확인 2026.11.14
  2. 정부·공공활동 기간· 대한민국 정책브리핑· 확인 2026.11.14
  3. 정부·공공정책 배경(업황 맥락)· 대한민국 정책브리핑· 확인 2026.11.14
  4. 정부·공공참여 구성· 대한민국 정책브리핑· 확인 2026.11.14

저작권자 © 뉴에라 데일리 무단전재 및 재배포 금지