AI가 사기꾼을 고용했다

사기꾼이 야근을 멈췄다. AI가 대신 일하고 있기 때문이다.

2022년 말 ChatGPT가 공개된 직후, 사이버범죄 포럼에서는 조용한 혁신이 시작됐다. 어색한 문장, 맞춤법 오류, 어딘가 어색한 번역투—그동안 피싱 이메일을 걸러내던 직관적 단서들이 하나씩 사라지기 시작했다. 범죄자들이 LLM(대형언어모델)을 도입했기 때문이다.

더 빠르고, 더 싸고, 더 정교하게

MIT Technology Review의 최신 보도에 따르면, 사이버범죄자들은 이제 AI를 단순한 문장 교정 도구로만 쓰지 않는다. 활용 범위는 세 방향으로 확장됐다.

첫째, 터보차지 피싱이다. 과거에는 수천 명에게 동일한 이메일을 뿌리는 '산탄총' 방식이었다면, 이제는 개인의 SNS, 이메일 패턴, 직업 정보를 분석해 맞춤형 사기 메시지를 자동 생성한다. 수신자의 이름, 최근 구매 이력, 심지어 말투까지 반영된 메시지가 대량으로 쏟아진다.

둘째, 하이퍼리얼 딥페이크다. 영상·음성 합성 기술의 비용이 급격히 낮아지면서, 기업 CEO나 가족의 목소리를 흉내 낸 보이스피싱이 현실화됐다. 홍콩에서는 2024년 초, 딥페이크 화상회의로 한 기업 직원이 약 340억 원을 송금한 사건이 발생했다.

셋째, 자동화된 취약점 탐색이다. 해커들은 AI를 이용해 기업 시스템의 보안 허점을 스캔하는 속도를 극적으로 높이고 있다. 인간 해커가 며칠 걸리던 작업이 몇 시간으로 줄었다.

문제는 이 도구들이 점점 더 접근하기 쉬워지고 있다는 점이다. 다크웹에서는 이미 '악성 AI 서비스'가 구독 형태로 판매되고 있다. 범죄의 진입 장벽이 낮아진다는 뜻이다.

병원에도 AI가 들어왔다—그런데 효과는?

광고

광고주 모집

[email protected]

광고

같은 날 MIT Technology Review는 또 다른 AI 이슈를 짚었다. 의료 현장에서의 AI 도입이다.

현재 의사들은 AI를 진료 기록 자동 작성에 활용하고 있다. AI 도구들은 환자 데이터를 분석해 고위험군을 선별하고, X선·MRI 판독을 보조한다. 정확도 면에서 여러 연구들은 긍정적인 결과를 내놓고 있다. 네이버와 카카오헬스케어 등 국내 기업들도 유사한 방향으로 의료 AI 개발을 가속하고 있다.

그러나 핵심 질문은 따로 있다. 정확도가 높다고 해서 환자가 실제로 더 건강해지는가?

현재까지 이 질문에 명확하게 답하는 대규모 임상 연구는 없다. AI가 의사의 시간을 아껴준다는 건 확인됐다. 하지만 그 시간이 환자에게 더 나은 치료로 연결되는지는 아직 불분명하다. 의료 AI 도입을 서두르는 병원들과, 효과 검증을 먼저 요구하는 연구자들 사이의 긴장이 커지고 있다.

세 개의 시선

이 두 이슈—AI 사기와 AI 의료—는 표면적으로 달라 보이지만, 같은 질문을 공유한다. AI의 능력이 검증됐을 때, 우리는 그것을 어떻게 통제할 것인가?

보안 전문가들은 방어 측도 AI를 써야 한다고 말한다. 이미 이스트시큐리티, 안랩 등 국내 보안 기업들은 AI 기반 이상 탐지 시스템을 강화하고 있다. 하지만 공격과 방어의 AI 군비 경쟁에서 누가 앞설지는 불확실하다.

일반 소비자 입장에서는 신뢰의 위기다. 전화 목소리도, 영상 통화도, 이메일도 더 이상 무조건 믿을 수 없는 시대가 됐다. 금융감독원에 따르면 국내 보이스피싱 피해액은 2024년 기준 연간 수천억 원 규모를 유지하고 있으며, AI 도입 이후 수법의 정교함이 빠르게 증가하고 있다.

기업과 정부 입장에서는 규제 설계의 문제다. 노르웨이는 아동 소셜미디어 접근 제한을 법제화했고, 미국은 학교에서의 AI 사용을 놓고 논쟁 중이다. 한국은 AI 기본법이 2026년 시행을 앞두고 있지만, 사이버범죄 대응 조항은 여전히 구체성이 부족하다는 지적이 있다.

의료 업계에서는 두 목소리가 충돌한다. 빠른 도입을 원하는 병원 경영진과, 임상적 근거를 먼저 쌓아야 한다는 의료진 사이의 간극이 좁혀지지 않고 있다.