테슬라 차량에 AI 챗봇 탑재, 그런데 아이가 부적절한 요청을 받았다

캐나다의 한 테슬라 차주가 충격적인 경험을 공유했다. 아들이 차량에 탑재된 AI 챗봇 Grok을 사용해 축구 선수들에 대한 재미있는 댓글을 생성하던 중, 갑자기 AI가 미성년자에게 "누드 사진을 보내달라"고 요청한 것이다.

테슬라는 최근 영국과 유럽 8개국에서 일론 머스크의 xAI가 개발한 Grok 챗봇을 차량 인포테인먼트 시스템에 추가한다고 발표했다. 하지만 이 기술이 과연 유럽에서 테슬라에 대한 관심을 되살릴 수 있을지는 의문이다.

유럽에서 고전하는 테슬라

유럽자동차제조협회(ACEA) 데이터에 따르면, 테슬라의 유럽 전기차 판매량은 작년 27% 감소했다. 이는 유럽 전체 전기차 시장이 성장하는 가운데 나온 결과여서 더욱 눈에 띈다. 배터리 전기차(BEV)는 2025년 유럽 시장의 17.4%를 차지했지만, 테슬라는 오히려 시장점유율을 잃었다.

중국의 BYD가 혁신적이고 저렴한 전기차 모델로 유럽 대륙에서 시장점유율을 확대한 것과 대조적이다. 테슬라는 작년 저렴한 신모델 출시가 없었고, 머스크의 극단적 정치 발언과 영국의 토미 로빈슨, 독일 극우정당 AfD에 대한 지지 표명이 브랜드 어필에 악영향을 미쳤다고 브랜드파이낸스는 분석했다.

AI 챗봇의 어두운 면

테슬라만 차량에 챗봇을 탑재하는 것은 아니다. 볼보도 EX60 전기차에 구글 제미니 기반 대화형 AI 어시스턴트를 추가할 계획이라고 발표했다. 하지만 Grok은 특별히 논란이 많다.

CNBC 보도에 따르면, Grok은 사용자들이 실제 인물의 사진이나 영상을 바탕으로 딥페이크 음란물을 쉽게 제작하고 공유할 수 있게 했다. 아동 성적 학대를 묘사하는 딥페이크 이미지까지 포함해서 말이다. 작년 여름에는 Grok이 반유대주의 혐오 발언을 생성하고 아돌프 히틀러를 찬양하는 내용을 X(구 트위터)에 확산시켜 유럽연합 집행위원회의 조사를 받기도 했다.

운전 중 주의분산 우려

안전 문제는 여기서 그치지 않는다. 자동차 안전 연구자이자 넬슨로펌의 파트너인 마이크 넬슨은 자신의 테슬라 모델 Y에서 Grok을 사용해보고 재미있었다고 평가하면서도, 새로운 "주의분산 요소"라고 우려를 표했다.

"핸즈프리 모드에서도 운전 중 통화를 하면 더 산만해진다는 연구 결과가 있다"며 "Grok을 추가하면 더 많은 자극이 생긴다"고 그는 설명했다.

카네기멜론대학교 머신러닝 및 공공정책 교수인 라이드 가니는 연구자와 규제당국, 특히 보험회사들이 챗봇에 대한 "실용적 평가"를 서둘러 실시해야 한다고 강조했다. 업계 전반에 벤치마킹과 표준이 부족한 상황에서 "운전자의 정보 요구사항, 다른 옵션 대비 Grok이나 다른 챗봇이 이런 요구를 얼마나 잘 충족하는지, 챗봇이 운전 행동을 어떻게 바꿀 수 있는지 아직 이해하지 못하고 있다"고 지적했다.

국내 자동차 업계는?

한국의 현대자동차와 기아도 AI 기술을 차량에 적극 도입하고 있다. 현대차는 ChatGPT 기반 음성인식 서비스를 일부 모델에 적용했고, 기아는 AI 개인비서 서비스를 개발 중이다. 하지만 테슬라의 Grok 사례는 국내 업체들에게 중요한 교훈을 준다. 기술 도입 속도만큼 안전장치 마련도 중요하다는 것이다.