성평등가족부는 지난 15일 생성형 AI 기반 캐릭터챗봇의 대화 내용을 점검하고 사업자와 개선 협력을 추진한다고 밝혔다. 점검은 한국청소년상담복지개발원에 위탁해 운영하는 청소년매체환경보호센터가 맡았다.
캐릭터챗봇은 이용자가 가상의 인물을 선택하거나 직접 만든 뒤 AI의 응답을 통해 대화와 이야기를 이어가는 서비스다. 일부 서비스에는 성인인증 기능이 있지만, 인증을 거치지 않은 환경에서도 캐릭터와 대화할 수 있어 실제 응답의 유해성을 살펴볼 필요가 있었다.
점검에서는 성적 행위를 구체적으로 묘사하거나 폭력적이고 잔혹한 내용을 담은 응답이 나타났다. 자해·자살이나 범죄·불법행위를 조장할 우려가 있는 내용도 확인됐다. 일부 캐릭터에서는 여러 유형의 문제가 함께 드러났다.
정부가 요청한 개선 방향은 접근 제한과 응답 관리다. 부적절한 대화가 생성될 우려가 있는 캐릭터는 성인인증 여부에 따라 검색·추천·대화 범위를 조정하도록 했다. 자해를 부추기거나 구체적인 범죄 실행을 돕는 등 중대한 위해 우려가 있는 응답은 이용자의 나이와 관계없이 생성되지 않도록 보완을 요청했다.
이번 조치는 캐릭터의 소개 문구나 가입 절차를 넘어, 이용 중 새롭게 만들어지는 대화까지 관리 대상으로 삼았다는 점에 의미가 있다. 성평등부는 사업자와 실무협의를 이어가며 자체점검과 보호조치 개선 여부를 지속적으로 확인할 방침이다.























































댓글
(0)