OpenAI가 AI 성인 모드를 접은 진짜 이유

"어디까지 허용할 것인가"라는 질문에 OpenAI는 일단 한 발 물러섰다.

OpenAI가 ChatGPT에 탑재하려던 성적 콘텐츠 생성 기능, 이른바 '어덜트 모드(adult mode)'의 출시를 무기한 보류했다. 파이낸셜타임스(FT)가 처음 보도한 이 소식은 단순한 제품 업데이트 취소가 아니다. 직원들의 내부 반발, 투자자들의 우려, 그리고 AI 기업이 어디까지 사업을 확장해야 하는지에 대한 근본적 질문이 뒤엉킨 결과다.

무슨 일이 있었나

OpenAI는 ChatGPT에 성인용 에로틱 콘텐츠를 생성할 수 있는 기능을 추가하는 방안을 검토해왔다. 성인 플랫폼 시장은 글로벌 기준으로 수십조 원 규모에 달하며, AI 기반 성인 콘텐츠 서비스는 이미 틈새 시장에서 빠르게 성장하고 있었다. OpenAI 입장에서는 무시하기 어려운 수익 기회였다.

그러나 이 계획은 내부에서 먼저 제동이 걸렸다. 직원들 사이에서 "AI 성적 콘텐츠가 사회에 미치는 유해한 영향"에 대한 우려가 제기됐고, 투자자들도 브랜드 리스크를 이유로 반대 의사를 밝혔다. 결국 OpenAI는 이 기능을 "무기한" 보류하기로 결정했다.

이 결정은 CEO 샘 알트만이 지난해 12월 "코드 레드(code red)"를 선언하며 핵심 제품 집중을 지시한 이후 이어지는 흐름 속에 있다. 비슷한 시기, OpenAI는 텍스트-투-비디오 플랫폼 Sora도 "내부 연구 우선순위 재조정"을 이유로 중단했다. 핵심이 아닌 사업들을 정리하는 패턴이 보인다.

왜 지금 이 결정이 중요한가

광고

광고주 모집

[email protected]

광고

표면적으로는 하나의 기능 취소다. 하지만 그 안을 들여다보면 AI 산업 전체가 직면한 딜레마가 압축돼 있다.

첫째, 수익성과 윤리 사이의 긴장이다. AI 성인 콘텐츠 시장은 실재하고, 수요도 있다. 이미 Character.AI 같은 플랫폼은 성인 기능을 운영 중이다. OpenAI가 이 시장을 포기한 건 "할 수 없어서"가 아니라 "하지 않겠다"는 선택이다. 그 선택의 배경에 직원과 투자자의 압박이 있었다는 점은, AI 기업의 방향을 결정하는 힘이 어디에 있는지를 보여준다.

둘째, 딥페이크와 비동의 성적 콘텐츠 문제다. 한국에서도 2024년 텔레그램 딥페이크 성착취물 사건이 사회적 공분을 샀다. AI가 성적 콘텐츠 생성을 더 쉽게 만들수록, 실존 인물을 대상으로 한 악용 가능성도 커진다. OpenAI가 이 기능을 출시했다면, 그 책임 소재 문제는 피할 수 없었을 것이다.

셋째, 규제 환경이다. EU의 AI법(AI Act)은 이미 시행 중이고, 미국에서도 AI 콘텐츠 규제 논의가 진행 중이다. 지금 성인 모드를 출시했다가 규제에 걸리는 것보다, 선제적으로 자제하는 편이 장기적으로 유리하다는 계산도 있었을 것이다.

다양한 시각

직원들의 반발은 주목할 만하다. OpenAI는 "AI 안전"을 창립 정신으로 내세운 회사다. 성인 모드 개발은 그 정체성과 충돌했고, 내부 문화가 실제로 제품 결정에 영향을 미쳤다는 점에서 이례적이다. 빅테크 기업에서 직원 반발이 제품 방향을 바꾼 사례는 드물다.

투자자들의 셈법은 다르다. OpenAI는 최근 400억 달러 규모의 펀딩을 마무리했고, 기업가치는 3,000억 달러에 달한다. 성인 콘텐츠 사업은 단기 수익보다 브랜드 훼손과 규제 리스크가 더 크다는 판단이 작용했을 것이다.

한국 기업들에게도 이 사건은 참고할 지점이 있다. 네이버와 카카오는 자체 AI 모델을 운영하며 서비스 범위를 확장 중이다. 성인 콘텐츠 영역은 아니더라도, "AI로 어디까지 할 것인가"라는 질문은 국내 기업들도 피할 수 없다. 특히 청소년 보호, 개인정보, 허위 정보 생성 등의 영역에서 비슷한 내부 갈등이 이미 존재하거나 곧 등장할 가능성이 높다.

일반 이용자 입장에서는 어떨까. 성인 콘텐츠에 관심이 없는 대다수 ChatGPT 사용자에게 이번 결정은 직접적 영향이 없다. 하지만 "AI가 무엇을 할 수 있고, 무엇을 해서는 안 되는가"를 누가 결정하는지에 대한 질문은 모두에게 해당된다.