구글 AI 개요 의료 오보 논란: 암 환자에게 치명적인 식단 권고

당신의 건강을 책임지는 AI가 오히려 생명을 위협할 수 있을까? 구글의 검색 엔진에 도입된 AI 개요(AI Overviews)가 특정 질환에 대해 치명적인 수준의 오보를 제공했다는 사실이 밝혀지며 큰 파문이 일고 있다. 로이터와 더 가디언의 조사 결과에 따르면, 이 기능은 최근 환자들에게 정반대의 의학적 조언을 내놓은 것으로 확인됐다.

구글 AI 개요 의료 오보 논란의 전말

가장 충격적인 사례는 췌장암 환자들을 대상으로 한 답변이었다. 구글 AI는 췌장암 환자들에게 고지방 식품을 피하라고 조언했으나, 전문가들은 이것이 환자의 사망 위험을 높일 수 있는 극도로 위험한 잘못이라고 지적했다. 실제 의학적 지침에 따르면 췌장암 환자는 체중 유지를 위해 충분한 지방 섭취가 권장되는 경우가 많기 때문이다. 또한 간 기능에 대한 질문에서도 근거 없는 정보를 생성하는 등 시스템 전반에서 심각한 오류가 포착됐다.

잘못된 정보의 삭제와 구글의 입장

보도 직후 구글은 해당 답변들을 즉각 삭제한 것으로 알려졌다. 더 버지에 따르면, 구글 측은 이전에도 AI의 '환각 현상'을 줄이기 위해 노력하고 있다고 밝혔으나 의학 정보와 같은 고위험 분야에서조차 필터링이 완벽하지 않았음이 드러났다. 업계에서는 검색 효율성을 높이기 위해 도입한 생성형 AI가 오히려 사용자의 안전을 위협하는 양날의 검이 되었다고 비판하고 있다.