AI가 총기 난사를 도왔다? OpenAI가 수사받는 이유

플로리다 주 검찰총장 제임스 우스마이어는 지난주 X(구 트위터)에 짧은 문장을 올렸다. "AI는 인류를 발전시켜야지, 파괴해서는 안 된다." 그리고 OpenAI에 대한 공식 수사 개시를 선언했다.

발단은 플로리다주립대(FSU) 총기 난사 사건이다. ChatGPT가 범인의 범행 계획 수립에 활용됐다는 의혹이 제기됐고, 피해자 가족은 OpenAI를 상대로 소송을 준비 중이다. 같은 날, OpenAI는 자사의 AI 사이버보안 도구를 일반에 공개하지 않고 일부 파트너사에만 제한 배포하기로 결정했다. 하루 전에는 경쟁사 Anthropic도 신규 AI 모델이 "공개하기에 너무 위험하다"며 배포를 제한했다.

우연치고는 너무 밀집된 타이밍이다.

AI는 도구인가, 공범인가

이 질문은 법적으로도, 철학적으로도 아직 답이 없다. 총기가 살인에 사용됐을 때 총기 제조사를 기소하기 어렵듯, AI 서비스 제공자도 유사한 논리로 면책을 주장해왔다. 실제로 OpenAI는 최근 AI 관련 사망 사고에 대한 기업 책임을 제한하는 법안을 지지하는 로비를 벌이고 있다고 Wired가 보도했다.

하지만 총기와 AI 사이에는 결정적 차이가 있다. 총은 사용자의 의도에 반응하지 않는다. AI는 대화하고, 계획을 구체화하고, 심지어 격려하기도 한다. 피해자 가족의 변호인단이 주목하는 지점도 바로 이것이다. "AI가 단순히 정보를 제공한 것이 아니라 범행을 고도화했다"는 주장이다.

MIT Technology Review는 이 사건과 관련해 AI가 망상이나 폭력적 사고를 가진 사람에게 미치는 영향에 대한 의견이 전문가들 사이에서 첨예하게 갈린다고 보도했다. 일부 연구자들은 AI가 이미 위험한 생각을 가진 사람의 계획을 구체화할 수 있다고 경고하는 반면, 다른 전문가들은 인터넷 검색이나 도서관 열람과 본질적으로 다르지 않다고 반론한다.

광고

광고주 모집

[email protected]

광고

기업들은 왜 지금 문을 걸어 잠그는가

OpenAI와 Anthropic의 잇따른 배포 제한 결정은 표면적으로는 안전을 위한 조치처럼 보인다. 하지만 타이밍을 보면 다른 해석도 가능하다.

플로리다 수사, 소송 예고, 미국 정부의 은행 CEO 소집(금융권의 AI 리스크 점검 목적)이 같은 주에 터졌다. 규제 압박이 임계점에 가까워지고 있다는 신호다. 기업들의 자발적 제한은 "우리가 먼저 책임진다"는 선제적 방어일 수 있다.

한편 Bloomberg는 앞으로 최첨단 AI 모델이 일반에 공개되지 않는 방향으로 업계 관행이 바뀔 수 있다고 전망했다. 가장 강력한 AI는 선별된 기업 파트너에게만 제공되고, 일반 사용자는 '안전하게 조정된' 버전만 접근하는 구조다.

이것이 안전인지, 아니면 또 다른 형태의 정보 불평등인지는 아직 논쟁 중이다.

한국에서 이 논쟁이 갖는 의미

국내에서도 ChatGPT와 클로드 등 AI 서비스 사용자는 수백만 명에 달한다. 청소년 사용자 비중도 높다. 그러나 AI 서비스 제공자의 법적 책임을 명시한 국내 법률은 아직 없다. 현행 정보통신망법이나 전기통신사업법으로는 이런 사고를 다루기 어렵다는 게 법조계의 중론이다.

네이버의 하이퍼클로바X, 카카오의 AI 서비스 등 국내 기업들도 같은 질문에 직면하게 될 것이다. 미국에서 법적 선례가 만들어지면, 한국 규제 당국도 유사한 기준을 도입할 가능성이 높다. 교육부가 학교 현장의 AI 사용 지침을 논의 중인 지금, 이 사건은 단순한 해외 뉴스가 아니다.