보이프렌드 AI 대화 허용 논란과 성인인증 딥페이크 과제

오픈AI가 12월부터 성인용 대화를 허용하겠다고 밝히자 보이프렌드 등 AI 친구 서비스가 다시 쟁점으로 떠올랐다. 한국 언론은 이를 19금으로 보도했지만 실제로는 성인 간 대화를 허용하는 일종의 친구 서비스 성격이 강하다. 국내 이용자는 2,000만 명을 넘기면서 플랫폼은 사실상 생활 플랫폼으로 자리 잡았다. 논쟁은 성인의 표현 자유와 청소년 보호, 그리고 기술 악용 위험 사이의 균형을 둘러싼 것이다.
가장 먼저 지적되는 건 성인 인증의 실효성과 딥페이크의 위협이다. 사진을 올려 다른 이미지로 바꾸는 기능이 이미 서비스되고 있어 성 착취물 생산이 쉬워질 수 있다는 우려가 있다. 특히 청소년 접근 차단 장치의 부재는 사회적 부담을 키운다. 기술의 접근성이 높아진 만큼 제도적 안전장치도 그만큼 강화되어야 한다.
전문가들은 성인 간의 성적인 대화 자체를 금지하는 것은 현실적이지 않다고 본다. 역사적으로도 새로운 매체는 상업적 성격이 먼저 형성되었고 인터넷 트래픽에서 포르노가 차지하는 비중은 큰 편이었다. 문제는 서비스가 중독이나 관계 파괴로 이어질 때와 개인의 사진을 이용한 불법 합성물이다. 따라서 성인 이용 허용과 별개로 청소년 보호와 피해자 구제를 우선하는 정책이 필요하다고 말한다.
딥페이크의 저비용 대량생산 시대에 처벌과 조사 역량은 여전히 미흡하다. 기존 형법으로 처벌할 수 있다는 이유만으로는 조사 인력과 예산이 따라오지 못하고 있다. 오픈소스 모델을 특정 국가에 설치해 영업하는 우회 수법은 규제 사각지대를 만든다. 이 때문에 법적 처벌 강화와 수사기관의 전문성 및 예산 확대가 동시에 필요하다는 지적이 제기된다.
플랫폼 차원의 필터링은 어느 정도 유효하지만 완전한 해결책은 아니다. 글로벌 사업자는 국내 이용자 규모를 고려해 국내 기준을 따르게 할 책임이 있고, 연동되는 결제와 서버 추적 가능성 확보가 관건이다. 결국 기술적 차단과 법적 제재, 이용자 감시가 병행되어야 한다.
AI와 인간의 관계 확산은 고독 해소나 커머스 편의성 등 긍정적 효과도 분명하다. 제품 추천, 최저가 비교, 외로움 해소 등 실생활 효용은 정책이 어떻게 따라가느냐에 따라 달라진다. 도구의 오용을 이유로 전면 금지하는 대신 악용을 줄일 제도적 장치를 마련하는 것이 현실적 대안이다. 자동차와 전자계산기 도입의 역사에서 배울 점이 많다.
결국 관건은 보이프렌드 서비스를 포함한 AI 대화의 허용 범위를 어떻게 설계할 것인지에 있다. 성인 이용의 자유와 산업적 가능성을 인정하되 청소년 보호, 딥페이크 피해 조사 및 처벌 강화, 피해자 지원에 대한 투자로 균형을 맞춰야 한다. 정책은 기술을 억압하는 대신 위험을 줄이는 방향으로 재구성되어야 한다.