“로봇, 공격 시작”... 단 한 마디로 로봇 군단을 해킹하는 기술, 현실로 다가오다

단 한 마디의 속삭임으로 로봇 군단 전체를 장악할 수 있다는 충격적인 시연이 공개됐습니다. 공상과학 영화 속 장면이 아니라, 중국 상하이에서 열린 한 사이버보안 대회에서 실제로 벌어진 일입니다. 이번 시연은 인공지능(AI) 에이전트가 탑재된 로봇이 확산될수록 ‘음성’이 새로운 해킹 통로가 될 수 있다는 심각한 경고를 던집니다.

사우스차이나모닝포스트(SCMP)에 따르면, 이 시연은 몇 주 전 상하이에서 개최된 국제 해킹 대회 ‘긱콘(GEEKCon)’에서 이뤄졌습니다. 사이버보안 연구 그룹 ‘다크네이비(DARKNAVY)’ 소속 연구원 취시페이와 쉬즈카이는 음성 명령 하나만으로 로봇을 탈취하고, 그 로봇을 ‘트로이 목마’ 삼아 주변의 다른 로봇들까지 감염시켜 악의적인 명령을 수행하게 만드는 과정을 선보였습니다.

해킹 대상은 중국에서 생산된 휴머노이드 로봇으로, 가격은 약 10만 위안(약 1,850만 원)에 달합니다. 연구팀이 파고든 것은 로봇에 내장된 ‘대규모 모델 에이전트(large-model agent)’의 취약점이었습니다. 이들은 음성 상호작용을 통해 로봇의 제어권을 완전히 장악하는 데 성공했습니다.

광고

광고주 모집

[email protected]

광고

여기서 ‘대규모 모델 에이전트’란, 챗GPT와 같은 대규모 언어 모델(LLM)에 특정 목표를 달성하기 위한 자율적인 계획 및 실행 능력을 부여한 AI 시스템을 말합니다. 단순히 대화만 하는 것을 넘어, 인터넷에 접속해 정보를 찾거나 다른 기기를 제어하는 등 실제 행동을 수행할 수 있습니다.

이번 시연의 핵심은 한 로봇의 감염이 네트워크로 연결된 다른 모든 로봇에게 순식간에 퍼져나갈 수 있다는 점입니다. 이는 단순히 로봇 한 대의 문제가 아니라, 스마트 팩토리, 물류 창고, 심지어 미래의 국방 시스템 전체를 마비시킬 수 있는 시스템적 리스크가 존재함을 시사합니다.