사람처럼 대화하는 AI, 청소년 유해환경에 포함… 법적 관리 추진

사람처럼 대화하고 감정적 교류를 나누는 관계형 인공지능(AI) 서비스가 확산하면서 청소년을 유해 콘텐츠와 정서적 의존 위험으로부터 보호하기 위한 법적 규제가 추진된다. AI 챗봇의 대화 내용뿐 아니라 서비스 설계와 운영 방식까지 유해성 심의 대상에 포함하고, 청소년 이용자를 위한 연령 확인과 위기 대응 등 보호조치를 의무화하는 내용이다. 

이주영 개혁신당(비례) 의원은 지난 6일 이 같은 내용을 담은 「청소년 보호법 일부개정법률안」을 대표발의했다고 10일 밝혔다.

최근 생성형 인공지능 기술의 발전으로 AI 챗봇이 단순한 정보 검색이나 학습 보조를 넘어 일상적인 대화와 고민 상담, 정서적 교류의 수단으로 빠르게 확산되고 있다. 문제는 이러한 서비스가 청소년과 지속적인 상호작용을 통해 정서적 의존을 유발하거나, 자해·자살·폭력·성적 대화 등 유해한 내용에 부적절하게 반응할 가능성이 있다는 점이다. 또한 이용자와의 친밀한 관계를 형성하는 과정에서 청소년의 심리적 취약성을 이용하거나 현실의 가족·친구 등 주변 사람들과의 관계를 단절하도록 유도할 위험도 제기되고 있다.

각종 유해물로부터 청소년을 보호하기 위해 제정된 현행 「청소년 보호법」은 영화·게임·인터넷 콘텐츠 등 이용자에게 제공되는 내용이 이미 정해져 있는 기존 매체를 중심으로 청소년 유해환경을 규정하고 있어, 미리 정해지지 않은 대화를 실시간으로 생성하며 이용자와 정서적 관계를 형성하는 관계형 인공지능서비스에 대해서는 별도의 청소년 보호체계가 충분히 마련되어 있지 않은 상황이다.

이에 이주영 의원이 대표발의한 개정안은 「청소년 보호법」에 ‘관계형 인공지능서비스’와 ‘청소년유해인공지능서비스’의 개념을 신설하여, 이를 기존 청소년 유해환경 관리감독체계에 포함하도록 했다. 이를 통해 AI 서비스의 개별 콘텐츠뿐 아니라 서비스의 설계와 운영 방식, 이용자와의 관계 형성 방식 등으로 인해 발생할 수 있는 유해성까지 심의하고 관리할 수 있는 법적 근거를 마련하고자 했다.

아울러 청소년 대상 관계형 인공지능서비스 제공자에게 연령 및 본인 확인, 유해 콘텐츠 생성 방지, AI와 대화하고 있다는 사실의 고지, 자해 등 위기상황에 대한 대응체계 마련, 과도한 이용과 정서적 의존 방지 등의 보호조치를 갖추도록 했으며, 청소년에게 유해한 것으로 결정된 인공지능서비스에 대해서는 서비스 중단 명령과 삭제·접속차단 조치를 할 수 있도록 근거를 마련했다.

이주영 의원은 “청소년은 아직 인지적·정서적으로 성장하는 과정에 있는 만큼 새로운 기술이 가져오는 위험에 대해 별도의 세심한 보호 방안이 마련될 필요가 있다”며, “특히 사람처럼 대화하고 감정을 표현하는 AI의 사용은 청소년에게 단순한 콘텐츠 이용을 넘어 정서적 영향을 미칠 수 있다는 점에서 엄격한 기준과 관리감독 체계가 필요하다”고 밝혔다.

이어 “AI기술이 빠르게 확산되는 과정에서 사회가 보호해야 할 아동·청소년의 안전이 그 대가가 되어서는 안 된다”며 “이번 개정안은 기술을 규제하려는 것이 아니라, 아이들이 위험에 홀로 노출되지 않도록 필수적인 안전장치를 마련하려는 것”이라고 강조했다.