LLM 탈옥은 대규모 언어 모델(LLM)에 설정된 안전 제한이나 필터를 우회하거나 무력화하려는 행위를 가리킨다. 여기서 ‘탈옥’은 AI가 물리적으로 밖으로 나오는 상황이 아니라, 모델이 따라야 할 제한을 피해 응답을 얻으려는 시도를 뜻한다. 제공된 OWASP 서울 자료도 이를 LLM에 걸린 제한 또는 필터를 우회·무력화하는 행위로 설명한다. 출처 3
핵심 내용
- LLM 맥락의 탈옥은 AI 모델의 안전 장치와 관련된 표현이다. 사용자가 모델에 부여된 제한을 벗어나도록 유도하려는 시도를 가리킨다. 출처 3
- 핵심은 제한이나 필터가 존재한다는 점과, 이를 우회하거나 작동하지 않게 하려는 행위가 구분된다는 점이다. 단순히 AI에게 질문하는 것 자체를 뜻하는 말은 아니다. 출처 3
- 따라서 이 용어를 볼 때는 AI의 답변 내용만이 아니라, 그 답변이 안전 제한을 피해 나오도록 요청·유도된 것인지를 함께 살펴야 한다. 출처 3
같은 단어라도 대상에 따라 뜻이 달라진다
‘탈옥’은 본래 감옥에서 빠져나오는 행위를 뜻하며, 영어로는 “jailbreak”로 옮겨진다. 다만 이 글에서 다루는 LLM 탈옥은 그 원뜻을 AI 환경에 적용한 표현으로, 감옥 탈출이 아니라 모델의 제한을 벗어나려는 시도를 말한다. 출처 1 출처 3
모바일 기기 분야에서도 탈옥은 제조사가 설정한 소프트웨어 제한을 우회하는 행위를 의미한다. LLM 탈옥과 기기 탈옥은 모두 ‘제한 우회’라는 공통된 표현을 쓰지만, 전자는 인공지능의 안전 제한·필터가 대상이고 후자는 모바일 기기의 제조사 소프트웨어 제한이 대상이라는 차이가 있다. 출처 2 출처 3
공개된 자료로 확인되는 범위
제공된 자료만으로는 특정 LLM 탈옥 사례, 실제 사용된 방식, 피해 규모, 특정 서비스의 대응 결과까지는 확인되지 않는다. 다만 용어의 범위는 분명하다. AI와 LLM 문맥에서 탈옥은 모델에 설정된 안전 제한이나 필터를 우회 또는 무력화하려는 행위이며, 그 대상이 기기나 물리적 시설이 아니라 AI 모델의 제한이라는 점이 핵심이다. 출처 3
총 개
