구글 AI 개요 건강 정보 오류 논란, 환자 목숨 위협하는 검색 결과의 민낯

AI가 내린 진단 결과가 당신의 생명을 위협할 수 있다면 어떨까? 구글이 최근 자사의 AI 개요(AI Overviews) 기능에서 생성된 건강 정보 중 일부를 긴급 삭제했다. 가디언지의 조사 결과, 중증 환자들이 오해할 수 있는 치명적이고 부정확한 의료 정보가 검색 결과 상단에 노출된 것으로 드러났기 때문이다.

구글 AI 개요 건강 정보 오류의 실체

가디언에 따르면, 구글의 생성형 AI는 간 기능 혈액 검사 수치에 대한 질문에 문맥이 거세된 원데이터 테이블을 제시했다. 이 과정에서 ALT, AST 등 핵심 효소 수치가 환자의 나이, 성별, 인종에 따라 달라져야 함에도 불구하고 이를 무시한 채 일괄적인 기준을 제공했다. 전문가들은 실제 의료 기준과 다른 AI의 '정상' 정의가 심각한 간 질환을 앓는 환자로 하여금 자신의 상태를 오인하고 필요한 진료를 건너뛰게 만들 위험이 있다고 경고했다.

더욱 충격적인 사례는 췌장암 관련 답변이었다. 구글 AI는 췌장암 환자들에게 고지방 식품을 피하라고 권고했는데, 이는 체중 유지를 위해 충분한 영양 섭취를 권장하는 표준 의료 지침과 정면으로 배치되는 내용이었다. 이러한 잘못된 정보는 환자의 영양 상태를 악화시켜 치료 결과에 악영향을 미칠 수 있다는 분석이다.

반쪽짜리 대응에 그친 구글의 후속 조치

구글 측은 전문가들의 지적 이후 특정 쿼리에 대한 답변 기능을 차단했다. 하지만 조사가 진행된 이후에도 췌장암 권고안을 비롯한 여러 위험한 정보들이 여전히 노출되고 있는 것으로 알려졌다. 구글은 시스템 개선을 약속했으나, 생성형 AI의 근본적인 한계인 '할루시네이션(환각)' 현상을 의료와 같은 민감한 분야에서 어떻게 통제할 것인지에 대한 구체적인 대안은 제시하지 못했다.