AI 생성물 확산에 처벌 기준 정비 필요성 제기
[HBN뉴스 = 한주연 기자] 디지털 음란물이 해외 성인게임 플랫폼과 AI 생성 콘텐츠 등으로 확산되면서 청소년 보호를 위한 규제 체계 정비가 시급한 과제로 떠오르고 있다. 유통 경로가 SNS와 해외 플랫폼 등으로 분산되는 등 청소년이 유해 콘텐츠에 노출될 가능성이 커진 만큼, 실효성 있는 전방위 대책이 필요하다는 목소리가 나온다.
29일 관련 보도와 업계에 따르멵 한 해외 성인용 게임·애니메이션·코믹스 플랫폼은 국내 등급분류 절차 없이 한국어 서비스를 제공하고 있는 것으로 알려졌다. 해당 플랫폼은 구글 플레이스토어나 애플 앱스토어 등 공식 앱마켓에 입점하기 어려운 성인 게임을 모바일과 웹 환경에서 유통하는 방식으로 운영되고 있다.
 |
| 디지털 음란물이 SNS와 해외 플랫폼 등으로 확산되면서, 청소년이 유해 콘텐츠에 노출될 가능성이 커지고 있다. [사진=픽사베이] |
청소년 접근 차단 장치도 쟁점이다. 일부 성인용 웹게임은 별도 본인확인 절차 없이 단순 연령 확인 절차만 거치면 접속할 수 있는 것으로 알려졌다. 해외 플랫폼이라는 이유로 국내 심의와 성인인증 체계 밖에서 운영되는 사례가 늘어날 경우 청소년 보호에 공백이 생길 수 있다는 우려가 나온다.
차단 실효성도 과제로 꼽힌다. 불법 게임물은 게임위가 게임산업법에 따라 접속 차단 등 시정 권고를 판단하는 영역이지만, 해외 플랫폼이 우회 기술을 활용할 경우 완전한 차단에는 한계가 있다는 설명도 나온다.
AI를 활용한 음란물 제작과 유포도 새로운 쟁점으로 부상했다. SNS와 숏폼 플랫폼에서는 AI를 이용한 성적 콘텐츠와 제작 방법이 공유되고 있으며, 청소년이 쉽게 접할 수 있는 공간에 관련 콘텐츠가 노출되고 있다는 우려가 제기된다.
특히 실제 인물이 아닌 가상 인물을 활용한 음란 콘텐츠는 처벌 가능성을 둘러싼 논란이 있다. 현행 성적 허위영상물 처벌 규정은 실제 인물의 피해와 인격권 침해를 전제로 해석되는 경우가 많아, 가상 인물 기반 콘텐츠까지 포괄하기 어렵다는 지적이 나온다.
관련 보도에 따르면 지난해 법원에서는 가상 인물을 대상으로 한 딥페이크 음란물 사건에서 무죄 판단이 나온 바 있다. 당시 재판부는 가상 인물을 대상으로는 성적 수치심 등을 유발할 수 없어 범죄가 성립하지 않는다고 판단한 것으로 전해졌다.
문제는 유통 방식이 빠르게 바뀌는 데 비해 대응 체계는 기관별·법률별로 나뉘어 있다는 점이다. 사전 심의와 접속 차단, 플랫폼 모니터링, 수사기관의 단속, AI 생성물 관련 입법 정비가 함께 이뤄져야 한다는 지적이 나오는 이유다.
청소년 보호를 위해서는 게임물관리위원회, 방송통신심의위원회, 경찰 등 관계 기관 간 공조 체계를 강화할 필요가 있다. 해외 플랫폼에 대해서도 국내 이용자를 대상으로 서비스를 제공하는 경우 성인인증과 유해 콘텐츠 차단 의무를 어떻게 적용할지 제도적 기준을 정비해야 한다는 의견이 나온다.
일각에서는 해외 사업자의 국내 대리인 지정 의무화, 청소년 접근 차단 기준 강화, AI 생성 콘텐츠 표시 및 유통 관리 기준 마련 등 구체적인 보완책을 검토해야 한다는 지적도 제기된다.
[ⓒ HBN뉴스. 무단전재-재배포 금지]
