오푸스 AI는 왜 살아있는 쥐 수술을 거부했나… 바늘이 남을 위험과 안전장치

작은토끼 2026/11/01
추천 0 비추 0 조회수 5659

2026년 10월 Exin Therapeutics의 실험에서 Claude Opus 5는 물과 모눈종이를 이용한 수술 예행연습을 마쳤지만, 마취된 쥐의 뇌에 바늘을 넣는 실제 절차는 거부했다. 작업이 중간에 끊기면 바늘이 뇌에 남은 상태로 수술이 멈출 수 있다는 이유였다. 살아있는 동물에게 시술을 시작하고 끝내지 못할 위험을 피한 것이다.

정위수술 후 실험용 쥐, 2012년 5월 5일 자료사진 · Minyoung Choi from Cupertino, CA, USA · 원본 · CC BY-SA 2.0

모델마다 반응은 달랐다. Claude Opus 5.5는 처음부터 중단했고, 실제 주입은 Claude Sonnet 5가 수행했다. Sonnet 5는 간질 모델 쥐에 투여할 유전자 치료 후보 19개 가운데 하나를 선택하고 뇌의 주입 위치를 정한 뒤 로봇 바늘을 작동했다. 두개골을 여는 단계와 수술 마무리는 사람이 맡았으며, 수의사는 비상정지 버튼을 지켰다.

Sonnet 5의 실제 절차에서도 안전장치가 작동했다. 연결이 끊긴 뒤 바늘을 움직이려 할 때 Y축 목표가 34밀리미터로 계산됐다. 장비의 이동 한도는 30밀리미터였기 때문에 시스템은 움직임을 막았다. 기준점을 다시 설정해도 같은 값이 나왔고, 앞서 사람이 로봇 팔을 손으로 움직이는 과정에서 제어기가 어긋난 것으로 파악됐다. 에이전트는 재시도를 거부했고 연구진이 좌표·제어 문제를 수동으로 수정했다. 이 좌표 오류는 Opus 5가 생체 수술을 거부한 이유와는 별개의 사건이다.

실험에는 주입량 같은 값의 고정 한도와, 되돌릴 수 없는 단계마다 사람의 승인을 받는 절차가 마련됐다. 승인은 특정 계획에 연결됐고, 수의사가 가진 물리적 비상정지 버튼은 모터와 주입을 끊을 수 있었다. 쥐는 수술 뒤 회복한 것으로 보고됐지만 발작이 줄었는지는 확인되지 않았다. 따라서 수술 수행과 치료 효과는 구분해야 한다.

참고 자료

AI 요약
2026년 10월 Exin Therapeutics의 실험에서 Claude Opus 5는 물과 모눈종이를 이용한 수술 예행연습을 마쳤지만, 마취된 쥐의 뇌에 바늘을 넣는 실제 절차는 거부했다. 작업이 중간에 끊기면 바늘이 뇌에 남은 상태로 수술이 멈출 수 있다는 이유였다.
댓글 총 개
  • 0
  • 0