#프롬프트 인젝션
총 3개의 기사
TechKR
OpenAI의 선언: 프롬프트 인젝션은 영구 위협, 기업 65%는 무방비 상태
OpenAI가 프롬프트 인젝션 공격은 영구적인 위협이며 완벽한 해결이 불가능하다고 공식 인정했다. 그러나 벤처비트 조사에 따르면 기업의 65%는 관련 방어 체계가 부재한 것으로 나타났다.
TechKR
오픈AI의 고백: AI 에이전트, '영원히 해결 못 할' 보안 구멍 안고 간다
오픈AI가 AI 에이전트의 핵심 보안 취약점인 '프롬프트 인젝션'이 영원히 해결 불가능한 문제일 수 있다고 인정했습니다. AI 해커를 동원한 방어 전략과 전문가들의 경고를 심층 분석합니다.
TechKR
AI가 뚫은 방패, AI로 막는다…오픈AI, '자동 레드팀'으로 챗GPT 아틀라스 방어선 강화
오픈AI가 강화학습 기반의 '자동 레드팀'을 이용해 챗GPT 아틀라스의 프롬프트 인젝션 공격 방어 시스템을 강화합니다. AI가 AI의 취약점을 찾아내고 보완하는 새로운 보안 패러다임을 분석합니다.