[청소년뉴스] 청소년 SNS·AI 챗봇 과몰입, 이용제한 넘어 ‘안전설계’ 필요 外

【베이비뉴스 최규삼 기자】

어느덧 훌쩍 성장한 우리 아이들. 학업과 진로, 또래 관계 등 다양한 문제와 마주하면서 부모들의 고민도 깊어지고 있다. ‘청소년뉴스’는 청소년의 삶과 성장에 영향을 미치는 정책과 사회 이슈를 전하기 위해 기획된 코너다. 청소년 교육 정책과 복지 제도, 건강과 문화 활동, 권리 보호 등 다양한 소식 가운데 청소년의 건강한 성장과 가족의 양육에 도움이 되는 정보를 선별해 소개한다. -편집자 말

◇ 청소년 SNS·AI 챗봇 과몰입, 이용제한 넘어 ‘안전설계’ 필요

청소년의 소셜미디어(SNS)와 인공지능(AI) 챗봇 과몰입 문제에 대응하기 위해 단순한 이용 제한을 넘어 서비스 설계 단계부터 안전장치를 마련하는 ‘Safety by Design(안전설계)’을 제도화해야 한다는 제언이 나왔다.

한국소비자연맹은 지난달 28일 국회의원회관에서 박정하·한지아 국회의원실, 한국정보통신법학회와 함께 ‘청소년에게 안전한 디지털 환경은 누구의 책임인가?-SNS·AI 챗봇 중독과 플랫폼의 안전설계 책임’을 주제로 토론회를 개최했다. 이번 토론회에서는 청소년의 SNS·AI 챗봇 과몰입과 정서적 의존, 유해 콘텐츠 노출 등에 대응하기 위한 플랫폼 책임과 제도 개선 방안이 논의됐다.

이날 상윤모 연세대학교 언론홍보영상학부 교수와 김나정 국회입법조사처 조사관보가 각각 ‘청소년 SNS 이용제한 이슈와 과제’, ‘청소년 AI 이용제한 이슈와 과제’를 주제로 발제했다.

상윤모 교수는 무한 스크롤과 알고리즘 추천 등 과몰입을 유발할 수 있는 플랫폼 설계를 둘러싼 해외 규제 동향을 소개하며, 단순한 접근 제한보다 서비스 설계 단계부터 위험을 예방하는 안전설계 접근이 필요하다고 제언했다. 접근 제한과 설계 기반 규제의 장단점을 고려해 청소년의 기본권과 SNS의 순기능을 함께 반영한 규제 방안을 마련해야 한다는 설명이다.

김나정 조사관보는 AI 서비스 역시 일률적인 이용 제한보다는 기능별 위험 수준에 따라 차등적으로 규율할 필요가 있다고 밝혔다. 기존 법·제도가 게시물 중심의 사후 규제에 치중해 실시간으로 생성되는 AI 대화와 과몰입을 유도하는 설계에 대응하는 데 한계가 있는 만큼, 사전 위험평가와 연령에 적합한 설계, 위기 상황 대응 등 플랫폼의 안전설계 의무를 법제화할 필요가 있다는 취지다.

토론에서는 플랫폼의 사전 예방 책임을 강화해야 한다는 의견과 함께 규제 방식에 대한 다양한 견해가 제시됐다.

정지연 한국소비자연맹 사무총장은 청소년의 SNS·AI 과몰입 문제를 이용 제한이나 부모의 관리 책임만으로 해결하는 데 한계가 있다며, 플랫폼이 서비스 설계 단계부터 사전 위험평가와 연령에 적합한 기본설정, 과몰입·정서적 의존 방지 등을 적용해야 한다고 강조했다.

윤영호 서울대학교 가정의학과 교수는 플랫폼의 안전설계 의무를 법제화하는 한편 청소년 디지털 정신건강 실태조사와 전문적인 지원체계 구축 등이 필요하다고 제안했다.

천혜선 디지털산업정책연구소 박사는 규제에 앞서 어떤 기능과 요소를 위험으로 볼 것인지 체계적으로 정의할 필요가 있다고 지적했다. 최진응 국회입법조사처 조사관은 청소년의 SNS·AI 이용을 일률적으로 차단하기보다 안전한 이용을 보장하는 방향으로 규제체계를 설계할 필요가 있다고 밝혔다.

사업자 측에서는 과도한 규제에 대한 우려도 나왔다. 조영기 한국인터넷기업협회 사무총장은 접근 제한 중심의 정책이나 과도한 연령확인 의무가 개인정보 수집과 기업 부담을 키울 수 있다며, 서비스 전체가 아닌 위험 기능을 중심으로 규제하고 산업계의 자율성과 협의를 반영한 규제체계를 마련해야 한다고 주장했다.

정부 측에서도 서비스 기능과 이용자 특성, 예상 피해 등을 고려해 위험도가 높은 기능에 강화된 안전장치를 적용하는 방식이 필요하다는 의견이 제시됐다. 함형철 방송미디어통신위원회 과장은 관계 부처와 협의해 실효성 있는 제도를 마련하고 사업자가 실제로 이행할 수 있도록 집행력을 확보하는 방안도 검토하겠다고 밝혔다.

박정하 의원은 청소년들이 AI와 대화하고 고민을 털어놓는 등 AI에 대한 의존이 커지는 상황에서 플랫폼의 책임이 중요한 쟁점으로 떠올랐다고 밝혔으며, 한지아 의원도 서비스 설계 단계부터 청소년 보호를 고려하는 제도적 기반 마련의 필요성을 강조했다.

한국소비자연맹은 이번 토론회를 계기로 사전 위험평가, 연령 적합 설계, 안전한 기본설정, 과몰입·정서적 의존 방지 등 안전설계 원칙이 실제 제도와 서비스 설계에 반영될 수 있도록 정책 제안과 모니터링을 이어갈 계획이다.

◇ 한국청소년활동진흥원, 직원 주도 AX 본격화…현업 맞춤 AI 도구 12종 개발

한국청소년활동진흥원이 직원이 직접 현장의 업무 문제를 발굴하고 인공지능(AI)을 활용해 해결하는 직원 주도형 AX(AI 전환)에 본격적으로 나선다.

한국청소년활동진흥원(이사장 김진상)은 지난 8월 공모를 통해 6개 사업장 직원 12명을 ‘AX 챌린저’로 선발하고 ‘AX 챌린저 워크숍’을 개최하는 등 현업에서 활용할 수 있는 AI 기반 업무 도구 개발에 착수했다고 30일 밝혔다.

AX 챌린저들은 오는 11월까지 각자 실제 업무에 활용할 수 있는 AX 도구 12종을 직접 개발할 계획이다.

대표 과제 중 하나인 ‘AI 기반 위험성평가 시스템’은 사무실과 청소년활동 현장의 안전 점검 방식을 개선하기 위한 도구다.

직원이 현장에서 발견한 위험요인을 스마트폰으로 촬영해 제보하면 AI가 사진과 입력 정보를 분석해 위험요인을 식별하고 위험성을 평가한다. 분석 결과는 데이터베이스에 자동으로 축적되며, 안전 담당자가 최종 검토해 안전조치와 시설 정비 등에 활용할 수 있도록 하는 방식이다.

기존에는 안전담당자를 중심으로 위험성평가를 실시하고 결과를 수동으로 취합·분석해 현장에서 발견된 위험요인을 즉시 반영하기 어려웠다. 담당자에 따라 판단에 차이가 발생할 가능성도 있었다.

새로운 시스템은 안전담당자 중심의 위험성평가를 전 직원이 참여하는 방식으로 확대하는 데 초점을 맞췄다. AI 분석을 활용해 위험성평가 기준을 표준화하고 결과를 데이터베이스로 축적함으로써 담당자별 평가 편차와 수동 취합에 따른 행정 부담을 줄이는 방식이다.

위험성평가 외에도 청소년수련활동 인증서류 검토와 사업 성과관리 등 주요 업무에 AI를 적용한다. 반복적으로 확인해야 하는 서류와 데이터를 AI가 분석·정리하도록 해 단순·반복 업무를 줄이고, 담당자가 검토와 판단 등 핵심 업무에 집중할 수 있도록 지원하는 도구를 개발할 예정이다.

이번 AX 실천공동체의 내부 멘토 역할을 맡은 ‘AX 리더’는 행정안전부와 한국지능정보사회진흥원(NIA)이 추진하는 ‘AI 챔피언’ 블루 인증을 받은 직원 3명이다. 이 가운데 1명은 블랙 과정, 1명은 전문강사 양성과정을 밟고 있다. AX 리더 1명이 AX 챌린저 4명을 맡아 개발 과정에서 발생하는 기술·데이터 관련 문제 해결을 지원한다.

외부 전문가도 개발 과정에 참여한다. 지난 8월 사전 워크숍에서 참가자별 개발 과제와 구현 방향을 구체화한 데 이어, 이번 워크숍에서는 AX 관련 스타트업 현업 팀장과 최고데이터책임자(CDO) 등이 참여해 실제 개발에 필요한 기술과 적용 방안을 함께 검토했다.

진흥원은 10월 ‘집중 개발의 날’을 운영해 동료들의 피드백을 반영한 개발을 진행하고, 11월에는 국립청소년미래환경센터에서 사흘간 ‘AX 리빙랩’을 열어 결과물을 보완할 계획이다. 이후 개발 결과를 경영진에게 발표한다.

진흥원은 프로젝트를 통해 축적한 개발 경험과 활용 사례를 내부에 공유해 직원 주도의 AX를 확산하고, 활용도가 높은 도구는 실제 업무에 적용할 예정이다. 향후 청소년 현장과 한국과학창의재단, 한국특허전략개발원 등 다른 공공기관에도 관련 경험과 결과물을 공유할 계획이다.

김진상 한국청소년활동진흥원 이사장은 “AX의 출발점은 AI 기술이 아니라 현장의 문제”라며 “지금까지 불편하지만 당연하게 해온 일, 필요하지만 여건 때문에 하지 못했던 일을 다시 바라봐 달라”고 말했다.

◇ 관계부처, 청소년 온·오프라인 유해환경 공동 대응…대리구매 계정 56개 수사 의뢰

성평등가족부를 비롯한 관계 부처와 기관이 온라인과 오프라인에서 발생하는 청소년 유해환경에 공동 대응하기 위한 실무 협의체를 가동한다.

성평등가족부(장관 원민경)는 방송미디어통신위원회(위원장 김종철), 경찰청(청장 직무대행 김종철), 방송미디어통신심의위원회(위원장 고광헌)와 함께 ‘청소년 유해환경 단속·점검 실무 협의체’를 구성하고 기관 간 협력을 강화한다고 1일 밝혔다.

실무 협의체는 온라인과 오프라인을 아우르는 청소년 유해환경에 대해 기관별 역할과 대응 수단을 연계해 ‘모니터링-삭제·차단-단속·점검-제도개선’으로 이어지는 대응체계를 운영하는 것을 목표로 한다.

지난 8월 26일 킥오프 회의를 시작으로 관계기관 과장급이 참여하는 정례회의를 격월로 개최하고, 긴급 현안이 발생할 경우 수시로 회의를 열 예정이다.

첫 번째 안건으로는 온라인을 통한 술·담배 등 청소년 유해약물 대리구매 문제가 논의됐다.

성평등가족부가 올해 3월부터 8월까지 온라인에 게시된 대리구매 관련 게시물 4840건을 분석한 결과, 담배가 84.8%로 가장 많았으며 주류가 13.3%로 뒤를 이었다. 두 품목이 전체의 98.1%를 차지했다.

반복적으로 대리구매 활동을 하거나 전문적인 영업이 의심되는 계정은 약 700개로 파악됐다. 대리구매 대가로 신체 접촉이나 성적 행위, 속옷·스타킹 등 물품 교환을 요구하는 등 비정상적인 대가나 행위를 요구한 게시물도 141건 확인됐다.

성평등가족부는 이 가운데 범죄 위험성이 높은 56개 계정을 선별해 수사를 의뢰할 예정이다. 해당 계정은 반복적으로 신체·성적·가학적 행위나 속옷·스타킹 등 비금전적 대가를 요구하거나 용돈·상납·스폰 등 별도의 금전 관계를 제안한 사례 등을 기준으로 선별됐다.

경찰청은 수사 의뢰된 계정에 대해 필요한 수사를 진행하고 법 위반 사실이 확인될 경우 관련 법령에 따라 조치할 방침이다.

「청소년 보호법」 제28조 제2항은 누구든지 청소년의 의뢰를 받아 주류, 담배 등 청소년유해약물을 구입해 청소년에게 제공하는 행위를 금지하고 있다. 위반할 경우 2년 이하의 징역 또는 2000만원 이하의 벌금에 처할 수 있다.

방송미디어통신위원회는 플랫폼을 대상으로 관련 게시물 삭제 등 조치를 요청하고, 대리구매 관련 금칙어 설정 등 재발 방지 대책을 마련해 제출하도록 요청할 계획이다.

방송미디어통신심의위원회는 불법성이 명확한 대리구매 게시물과 계정에 대한 심의 및 차단을 추진한다. 또 성평등가족부의 온라인 유해환경 상시 모니터링 기관인 청소년매체환경보호센터와 불법성 판단기준을 공유하며 상시 대응을 이어갈 예정이다.

성평등가족부는 온라인에서 청소년 유해환경이 빠르게 변화하고 있는 만큼 모니터링과 단속, 플랫폼 조치 등을 연계하는 대응체계를 강화한다는 방침이다. 정부는 제5차 청소년보호종합대책에서도 디지털 매체의 건강한 이용환경 조성과 온라인 유해물건 유통 차단 등을 주요 과제로 제시한 바 있다.

윤세진 성평등가족부 청소년정책관은 “최근 청소년 유해환경의 경우 온·오프라인이 융합되는 등 더욱 복잡하고 다양한 형태로 진화 중으로, 한 기관의 대응만으로는 한계가 있다”며 “관계부처가 실무협의체를 통해 긴밀히 협력해 위험요소를 조기에 발견하고 선제적으로 실효성 있는 대응책을 마련해 청소년 보호조치를 강화해 나가겠다”고 밝혔다.

◇ 서구청소년방과후아카데미, 웹툰작가 직업 탐색·디오라마 액자 제작 체험

전남광주통합특별시 서구청소년수련관(관장 장참샘) 방과후아카데미 ‘꿈꾸는애벌레교실’이 청소년들의 진로 탐색을 지원하기 위해 ‘K-웹툰을 이끄는 힘! 웹툰작가 직업 탐색 및 캐릭터 입체화’ 진로개발 프로그램을 운영했다.

이번 프로그램은 청소년들이 K-웹툰 산업과 웹툰작가라는 직업을 알아보고, 디오라마 액자 제작을 통해 자신만의 캐릭터를 입체적으로 표현하며 콘텐츠 창작 과정을 경험할 수 있도록 마련됐다.

청소년들은 ‘웹툰작가는 어떤 일을 하는 사람일까?’라는 질문을 시작으로 웹툰작가의 역할과 필요한 역량을 살펴봤다. 스토리 구성과 캐릭터 창작, 그림 작업 등 웹툰이 완성되는 과정을 알아보며 웹툰작가의 직업 세계를 이해하는 시간을 가졌다.

이어 스토리작가, 일러스트레이터, 캐릭터 디자이너 등 웹툰과 콘텐츠 제작에 관련된 다양한 직업군도 탐색했다. 하나의 작품이 완성되기까지 다양한 분야의 전문성과 협력이 필요하다는 점도 알아봤다.

직업 탐색 후에는 디오라마 액자 제작 체험을 진행했다. 청소년들은 다양한 재료를 활용해 자신만의 캐릭터와 장면을 입체적으로 표현하고, 평면의 그림을 입체적인 작품으로 완성하는 과정을 경험했다. 이를 통해 자신의 아이디어를 작품으로 구현하며 콘텐츠 창작에 대한 흥미를 높였다.

체험을 마친 뒤에는 자신이 만든 작품을 소개하고 가장 기억에 남았던 활동과 관련 직업에 대해 이야기를 나눴다. ‘내가 웹툰작가가 된다면 어떤 캐릭터를 만들고 싶을까?’를 생각해보며 자신의 흥미와 적성을 돌아보고 웹툰 및 콘텐츠 창작 분야로 진로 탐색의 폭을 넓히는 시간도 가졌다.

참여 청소년들은 “내가 생각한 캐릭터를 직접 입체적으로 만들어볼 수 있어서 재미있었다”, “웹툰작가가 그림만 그리는 것이 아니라 이야기를 만들고 캐릭터를 창작하는 다양한 일을 한다는 것을 알게 되었다”고 소감을 전했다.

서구청소년수련관 관장은 “이번 프로그램을 통해 청소년들이 K-웹툰 산업과 콘텐츠 창작 분야의 다양한 직업을 이해하고, 자신만의 아이디어를 작품으로 표현하며 진로를 탐색하는 기회가 되었기를 바란다”며 “앞으로도 청소년들이 직접 경험하고 체험하며 자신의 가능성을 발견할 수 있는 진로 탐색 프로그램을 지속해서 운영하겠다”고 말했다.

한편, 서구청소년수련관 방과후아카데미는 성평등가족부와 전남광주통합특별시 서구의 지원을 받아 청소년들의 방과 후 시간을 지원하기 위해 자기계발, 학습지원, 체험활동 등 다양한 프로그램을 운영하고 있다. 방과후아카데미 신청 등 자세한 사항은 서구청소년수련관 누리집에서 확인할 수 있다.

◇ 인천 청소년기관장 32명 한자리에…청소년정책 현안·발전과제 논의

인천광역시청소년활동진흥센터는 지난달 30일 인천광역시 재외동포웰컴센터에서 ‘2026 인천광역시 청소년기관장 하반기 간담회’를 개최했다고 밝혔다.

이번 간담회에는 인천광역시 관계자를 비롯해 관내 청소년수련관, 청소년문화의집, 청소년단체, 청소년이용시설, 청소년성문화센터, 청소년진로센터, 청소년상담복지센터, 학교밖청소년지원센터, 청소년쉼터 등 32개 기관의 기관장이 참석했다.

간담회에서는 상반기 간담회 결과와 인천광역시청소년활동진흥센터의 주요 연계·협력사업을 공유하고, 청소년정책 특강을 통해 청소년활동과 청소년상담복지 분야의 주요 정책과 현안을 살펴봤다.

앞서 상반기 간담회에서는 한국청소년활동진흥원 권혁도 활동진흥본부장이 청소년활동 정책을 주제로 특강을 진행했다. 하반기에는 한국청소년상담복지개발원 노성덕 청소년안전망지원본부장이 청소년상담복지 분야의 정책과 현안을 주제로 특강을 진행했다.

이어 청소년활동, 청소년상담복지·보호복지 등 분야별 소그룹 회의를 진행했다. 참석자들은 청소년정책 현장에서 체감하는 주요 현안과 발전과제에 대해 의견을 나누고, 지역 청소년정책 발전을 위한 분야별 의제를 선정했다.

윤병철 인천광역시청소년활동진흥센터장은 “인천 청소년정책의 발전을 위해 다양한 의견을 내어주신 기관장님들께 감사드린다”며 “앞으로도 센터는 현장의 목소리를 바탕으로 기관 간 협력과 청소년정책 발전을 위해 노력하겠다”고 말했다.

한편 인천광역시청소년활동진흥센터는 「청소년활동 진흥법」 제7조에 따라 지역 내 청소년활동 진흥을 목적으로 설치된 국가청소년활동정책수행기관이다. 가천청소년봉사단·가천미래인재센터(총재 이길여)가 수탁해 운영하고 있다.

【Copyrightsⓒ베이비뉴스 pr@ibabynews.com】