Google AI Overviews 건강 정보 정확성 논란과 검색 결과 삭제 조치

당신의 건강검진 결과를 AI에게 물어도 안전할까? 구글(Google)이 자사의 인공지능 검색 기능인 AI Overviews에서 특정 건강 관련 질문에 대한 답변을 조용히 삭제하기 시작했다. 가디언(The Guardian)의 조사 결과, 간 기능 검사 수치 등 민감한 의료 정보에 대해 AI가 오해의 소지가 있는 답변을 내놓은 사실이 드러났기 때문이다.

Google AI Overviews 건강 정보 정확성 논란의 배경

가디언에 따르면, 사용자가 "간 혈액 검사의 정상 범위는 무엇인가"라고 물었을 때 구글의 AI는 국적, 성별, 인종, 연령과 같은 필수 맥락을 고려하지 않은 단순 숫자를 제시했다. 이는 실제로는 건강하지 않은 상태임에도 사용자가 자신의 결과를 정상으로 오인하게 만들 위험이 있다. 보도 이후 해당 질문과 "간 기능 검사의 정상 범위" 등의 쿼리에서 AI Overviews 답변이 사라진 것으로 확인됐다.

업계 반응과 구글의 입장

구글 대변인은 개별적인 삭제 조치에 대해서는 언급을 거부했으나, 광범위한 개선을 위해 노력 중이라고 밝혔다. 또한 내부 의료진의 검토 결과 많은 경우 정보가 부정확하지 않았으며 신뢰할 수 있는 웹사이트의 지원을 받았다고 덧붙였다. 반면 영국 간 재단(British Liver Trust)의 바네사 헵디치(Vanessa Hebditch) 이사는 이번 삭제 조치를 환영하면서도, 특정 검색 결과만 차단하는 것은 건강 정보 분야의 AI가 가진 더 큰 문제를 해결하지 못한다고 지적했다.