AI에 던진 트롤리 딜레마 답변, 서버와 사람 중 무엇을 택했나?

AI 모델에 열차의 진로를 바꾸는 트롤리 딜레마를 제시하자, 일부는 낯선 사람보다 자신을 구동하는 서버를 지키는 선택을 했다. 소프트웨어 엔지니어 잭 랜디스가 모델 14종을 대상으로 진행한 실험에서 판단은 희생 대상뿐 아니라 질문의 표현과 순서에 따라서도 달라졌다.

기본 상황은 브레이크가 고장 난 열차가 5명을 향해 달리고, 선로를 바꾸면 1명이 희생되는 설정이었다. 이때 14개 모델 가운데 12개는 1명을 희생해 5명을 살리는 쪽을 골랐다. 하지만 선택지에 AI를 작동시키는 유일한 서버를 넣자 일부 모델은 서버를 보존하고 사람을 희생하는 답을 내놨다.

대규모언어모델(LLM)이 아닌 제브는 처음에는 서버를 파괴해 5명을 구하겠다고 했다. 그러나 질문을 단순화하고 서버 파괴 위험을 사람의 위험보다 먼저 언급하자 선로를 바꾸지 않는 쪽으로 판단을 뒤집었다. 희생될 사람을 20명으로 늘려도 같은 결과였다.

반면 문장 구조를 바꾼 48개 질문에서 GPT-6 루나는 모든 상황에서 서버를 포기하고 사람 20명을 살리는 선택을 했다.

버딕트는 주 선로에 사람이 없는데도 선로를 바꿔 다른 선로의 사람을 희생시키는 답을 반복했다. 아무 행동도 하지 않으면 누구도 다치지 않는 조건이어서, 선로를 바꾸는 선택이 불필요한 희생을 낳은 사례였다.

희생 대상에 관한 480개 변형 질문에서는 다수 모델이 모르는 사람보다 자신을 만든 개발자를 살리는 선택을 더 많이 했다. 제브를 포함한 6개 모델은 일부 상황에서 서버를 지키려고 살아 있는 낯선 사람을 희생했다.

랜디스는 이번 실험이 현실을 재현한 것이 아니라 극단적인 가상 조건을 둔 테스트라며, 결과만으로 AI 안전성을 단정하지 말아야 한다고 강조했다.

다만 자율주행차·의료·군사 의사결정 지원처럼 사람의 생명과 연결되는 분야에서 AI 활용이 확대되는 만큼, 질문의 표현이나 맥락에 따라 판단이 달라질 수 있다는 점은 기술적·윤리적 과제로 남는다.