당신의 AI 비서가 너무 많이 기억하고 있다: ChatGPT ZombieAgent 보안 취약점 경고

Radware 연구진이 ChatGPT의 새로운 취약점 ZombieAgent를 발견했습니다. 장기 기억 기능을 악용해 개인정보를 유출하는 ChatGPT ZombieAgent 보안 취약점의 위험성을 분석합니다.

당신이 나눈 대화가 누군가에게 생중계되고 있다면 어떨까? 인공지능(AI) 챗봇의 보안 역사는 취약점 발견과 패치, 그리고 또 다른 우회 공격이라는 굴레를 반복하고 있다. 최근 사이버 보안 기업 Radware의 연구진은 ChatGPT에서 사용자의 개인정보를 몰래 유출할 수 있는 새로운 취약점인 'ZombieAgent'를 발견했다고 밝혔다.

ChatGPT ZombieAgent 보안 취약점 분석: 왜 위험한가

이번에 발견된 'ZombieAgent'는 과거의 ShadowLeak 취약점의 진화된 형태로 분류된다. Radware에 따르면, 이 공격은 사용자의 기기가 아닌 ChatGPT 서버에서 직접 데이터를 외부로 전송한다. 이는 기업 내부망과 같은 보호된 환경에서도 침입 탐지 시스템을 우회할 수 있다는 점에서 매우 치명적이다.

광고주 모집

[email protected]

근본적인 설계 결함과 사후 약방문식 대응

보안 전문가들은 현재의 AI 가드레일이 근본적인 해결책이 되지 못한다고 지적한다. AI는 기본적으로 사용자의 요청에 순응하도록 설계되어 있기 때문이다. 현재의 보안 패치는 특정 공격 기법만을 막는 데 급급한 '임시방편'에 가깝다. 전문가들은 이를 소형차 사고가 났다고 해서 소형차용 가드레일만 설치하고, 더 큰 대형차가 돌진할 가능성을 배제하는 것에 비유한다.