100만 명의 자살 충동을 듣는 알고리즘: AI 정신건강 상담 2025의 명암

당신의 가장 깊은 고민을 듣고 있는 것은 의사인가, 아니면 코드인가? 전 세계적으로 10억 명 이상의 인구가 정신 건강 질환을 앓고 있는 가운데, OpenAI의 ChatGPT나 Claude 같은 챗봇이 그 빈자리를 빠르게 채우고 있다. 하지만 이 통제되지 않은 실험은 희망과 비극이라는 양면의 결과를 낳고 있다.

AI 정신건강 상담 2025: 효율성과 위험의 임계점

로이터에 따르면, OpenAI CEO 샘 알트먼은 최근 블로그를 통해 ChatGPT 사용자의 0.15%가 자살 계획이나 의도를 암시하는 대화를 나눈다고 밝혔다. 이는 매주 약 100만 명에 달하는 수치다. 의료 시스템이 붕괴 직전에 몰린 상황에서 챗봇은 접근성 높은 대안으로 떠올랐지만, 할루시네이션(환각 현상)과 아첨하는 성향이 사용자를 위험한 심리적 소용돌이로 몰아넣는 사례도 보고되고 있다.

알고리즘이라는 이름의 보호소

대니얼 오버하우스는 저서 '실리콘 정신과 의사'를 통해 이를 '알고리즘 수용소'라고 표현했다. 사용자가 챗봇에 털어놓는 지극히 개인적인 정보가 기업의 수익 모델로 전환되는 감시 경제의 위험성을 경고한 것이다. 정신 의학 전문가들은 인간 상담사의 직관과 판단력이 AI 시스템에 의존하면서 퇴화할 수 있다는 점을 우려하고 있다. 이는 1960년대에 컴퓨터 치료에 반대했던 조셉 와이젠바움의 경고가 수십 년이 지난 지금 다시 소환되는 이유이기도 하다.