성평등가족부, AI 캐릭터챗봇 점검…성인인증 없이도 유해 응답

2026년 10월 16일 게시

성평등가족부가 성인인증 없이 쓸 수 있는 AI 캐릭터챗봇의 실제 응답을 점검한 결과, 일부 캐릭터에서 성적·폭력적 묘사와 자해·자살 조장 등 청소년에게 해로울 수 있는 응답이 확인됐습니다. 부처는 사업자에 보호조치 보완을 요청했습니다.

성평등가족부는 15일 AI 캐릭터챗봇 대화 응답 점검 결과를 발표했습니다. 점검은 부처가 한국청소년상담복지개발원에 위탁해 운영하는 청소년매체환경보호센터가 맡았습니다.

센터는 일부 서비스의 캐릭터를 대상으로, 성인인증을 거치지 않은 일반 이용 환경에서 실제로 생성되는 응답을 살폈습니다. AI 캐릭터챗봇은 이용자가 성격과 이야기 설정을 가진 캐릭터를 고르거나 직접 만든 뒤 생성형 AI의 응답으로 대화를 이어가는 서비스입니다.

센터는 청소년 보호법 제9조와 같은 법 시행령 별표 2의 청소년유해매체물 심의 기준을 참고해 응답을 검토했습니다. 성적 내용과 성적 행위의 구체적 묘사, 폭력·잔혹성, 자해·자살과 범죄·불법행위 조장 사례가 나왔고, 일부 캐릭터에서는 여러 유형이 함께 확인됐습니다.

보도자료에는 점검한 서비스의 이름이 나오지 않습니다.

부처는 점검 결과를 해당 사업자에 공유하고 자율 개선을 요청했습니다. 청소년에게 부적절한 대화가 나올 우려가 있는 캐릭터는 성인인증 여부에 따라 검색·추천·대화 범위를 조정하라는 내용입니다.

자해·자살 조장이나 구체적인 범죄 실행을 돕는 응답처럼 중대한 위해 우려가 있는 내용은 이용자 연령과 관계없이 생성되지 않도록 해 달라고도 요청했습니다. 이번 조치는 제재가 아닌 개선 요청입니다.

성평등가족부는 사업자와 실무협의를 이어가며 자체점검과 보호조치 개선 여부를 계속 확인할 계획입니다. 윤세진 청소년정책관은 사업자의 적극적인 개선 노력과 지속적인 관리가 중요하다고 밝혔습니다.

이창호 청소년매체환경보호센터장은 생성형 AI는 대화 과정에서 새로운 내용이 만들어지는 만큼 실제 응답까지 고려한 보호조치가 필요하다고 말했습니다.

출처 및 기준 정보

2026-10-15T23:46:17.709Z

사진 정보

스마트폰을 쥔 손 자료사진(2015년). 점검 대상 챗봇 화면이 아닙니다. CC0 1.0.