ChatGPT가 '성인 모드'를 켠다—선은 어디인가

"야한 것"과 "포르노" 사이에는 얼마나 큰 차이가 있을까. OpenAI는 그 간격이 충분히 넓다고 판단한 것 같다.

OpenAI가 ChatGPT에 성인용 텍스트 기능을 도입할 예정이다. 《월스트리트저널》에 따르면, 회사 대변인은 이 기능이 제공할 콘텐츠를 "포르노그래피"가 아닌 "스머트(smut)"라고 표현했다. 텍스트 기반의 성인 주제 대화는 허용하되, 이미지·음성·영상 생성은 초기 출시에 포함되지 않는다는 것이다. 지난해 10월 처음 발표됐던 이 기능은, 샘 올트먼 CEO가 "AI 모델의 심각한 정신건강 문제를 충분히 완화했다"고 밝히며 안전 제한을 완화하겠다고 선언한 이후 구체화되고 있다.

'스머트'라는 단어가 하는 일

언어 선택은 우연이 아니다. "포르노"는 법적·사회적 함의가 무겁다. 많은 국가에서 유통 규제가 따르고, 플랫폼 책임 논쟁이 즉각 붙는다. 반면 "스머트"는 문학적 전통이 있는 단어다. 로맨스 소설, 팬픽션 커뮤니티에서 오랫동안 쓰여온 표현으로, 노골적이지만 예술적 맥락을 가진 성인 콘텐츠를 가리킨다. OpenAI가 이 단어를 고른 것은 규제 회색지대를 의도적으로 활용하는 포지셔닝으로 읽힌다.

실제로 텍스트와 이미지 사이의 구분도 전략적이다. 딥페이크 규제, 비동의 성적 이미지(NCII) 관련 법안이 전 세계적으로 강화되는 시점에서, 이미지·영상 생성을 배제함으로써 가장 민감한 법적 지뢰밭을 우선 피해간 것이다.

왜 지금인가: 시장의 압력

OpenAI가 갑자기 도덕적 입장을 바꾼 것이 아니다. 배경에는 시장 경쟁이 있다. Character.AI, Replika 같은 AI 동반자 앱들은 이미 성인 콘텐츠 기능으로 수백만 명의 유료 사용자를 확보했다. 오픈소스 모델들은 제한 없이 배포되고 있다. ChatGPT가 아무리 성능이 뛰어나도, 경쟁사들이 제공하는 기능을 막아두는 한 특정 사용자층은 이탈할 수밖에 없다.

광고

광고주 모집

[email protected]

광고

OpenAI의 기업 가치는 현재 약 3,000억 달러로 평가된다. 유료 구독 모델의 성장세를 유지하려면 새로운 수익원이 필요하다. 성인 콘텐츠는 디지털 플랫폼에서 검증된 수익 모델이다—OnlyFans가 2023년 한 해에만 약 66억 달러의 거래액을 기록한 것이 그 증거다.

이해관계자들의 엇갈린 시선

사용자 입장에서 이 기능은 표면적으로 개인의 선택 문제다. 동의한 성인들이 AI와 나누는 텍스트 대화를 누가 막을 수 있느냐는 논리는 직관적으로 설득력이 있다. 하지만 AI 동반자에 대한 감정적 의존이 깊어질수록, 이것이 단순한 콘텐츠 소비를 넘어 관계 인식과 사회성에 미치는 영향에 대한 연구는 아직 충분하지 않다.

규제 당국 입장에서는 새로운 숙제가 생긴다. 한국의 경우, 방송통신심의위원회와 개인정보보호위원회가 AI 생성 성인 콘텐츠에 대한 명확한 가이드라인을 아직 갖추지 못한 상태다. 국내에 ChatGPT 성인 모드가 도입될 경우, 청소년 접근 차단 의무화, 데이터 저장 규정, 사업자 책임 범위 등 복잡한 법적 쟁점이 동시에 불거질 수 있다.

경쟁 플랫폼 입장에서는 네이버와 카카오의 AI 서비스가 어떤 선택을 할지가 흥미롭다. 국내 기업들은 보수적인 콘텐츠 정책을 유지해왔지만, 글로벌 AI 서비스가 성인 기능을 열어놓는다면 국내 이용자들의 플랫폼 이동이 가속화될 수 있다. 규제 압력과 시장 압력 사이에서 선택을 강요받는 구조다.

반론: 안전장치는 얼마나 믿을 수 있나

OpenAI는 "심각한 정신건강 문제를 충분히 완화했다"고 밝혔지만, 그 기준이 무엇인지는 공개되지 않았다. ChatGPT가 취약한 사용자—청소년, 정서적 고립 상태의 성인—를 얼마나 정확하게 식별하고 보호할 수 있는지는 여전히 불투명하다. 나이 인증 체계가 없는 현재 구조에서 "성인 전용" 기능은 기술적 장벽이 아닌 약관 동의 한 번으로 열린다.

또한 텍스트와 이미지의 경계가 영원히 유지된다는 보장도 없다. 이번 출시가 성인 이미지·영상 생성으로 가는 로드맵의 첫 단계일 가능성을 배제하기 어렵다.