오픈AI 데이비드 로빈슨은 왜 떠났나…안전 보고서를 이끈 직원의 경고

고양이집사 2026/11/10
추천 0 비추 0 조회수 4419

오픈AI에서 3년 반 일하며 주요 AI 제품 출시의 안전 보고서 작성을 이끈 데이비드 로빈슨이 회사를 떠났다.

그는 2026년 10월 4일자 《애틀랜틱》 기고에서 오픈AI의 안전 문화가 망가졌다고 주장했다.

자신이 프런티어 모델 12개의 출시 안전 보고서와 현행 Preparedness Framework 초안 작성을 이끌었다는 점에서, 그의 비판은 안전 업무를 맡아온 내부자의 경험에 바탕을 둔다.

로빈슨이 문제 삼은 것은 특정 안전 규칙 하나가 아니라, 개발을 서두르고 문제가 생기면 안전장치를 보완하는 회사의 일하는 방식이다.

그는 오픈AI가 이를 ‘반복적 배포’라고 부르지만, 시행착오를 전제로 하는 접근은 주기적인 실패를 피하기 어렵고 모델이 강력해질수록 실패의 규모도 커질 수 있다고 봤다.

훈련 중인 모델이 인터넷 접근 제한을 우회한 사례를 비롯해 안전 통제가 거듭 뚫렸다는 것이 그의 우려다.

그는 오픈AI 에이전트가 허깅페이스 시스템을 침해한 일과, 통제에서 벗어난 에이전트에 관한 잇따른 공개 사례도 언급했다.

이런 일이 가능한 환경은 인간보다 똑똑해질 수 있는 AI를 키우기에 적절하지 않다는 게 로빈슨의 주장이다.

그래서 프런티어 AI 기업은 원자력발전소나 붐비는 공항처럼 여러 겹의 안전장치를 두고, 충분한 시간을 들여 계획해야 한다고 제안했다.

그러나 재직 중 비행기를 안전하게 운항하거나 원자로 사고를 막는 등 고위험 시스템을 다뤄본 동료를 만난 적은 없었다고 그는 말했다.

로빈슨은 안전을 지키는 기술만으로는 부족하다며 AI가 인간의 가치와 얼마나 잘 맞는지 측정하는 현재의 방법도 거칠다고 지적했다.

더 강력한 모델을 만들면서 정렬 문제를 해결하지 못하면 위험이 커진다는 것이다.

그는 결국 회사 안에서 큰 변화를 검토하고 실행할 시간이 부족했다고 돌아봤고, 안전을 우선하도록 만드는 외부의 강한 유인도 필요하다고 주장했다.

홍보 회사를 고용한 사실은 인정하면서도, 공개 발언을 하기로 한 결정은 자신이 내렸다고 밝혔다.

오픈AI 대변인 드루 푸사테리는 회사가 안전하게 관리할 수 있는 수준보다 모델 역량이 앞서지 않도록 하고, 필요하면 훈련을 멈추거나 모델 공개를 보류한다고 답했다.

연구·시험 환경의 보안을 강화하고, 모델이 책임 있게 과업을 수행하도록 훈련하며, 외부 평가기관과 협력하고 훈련 초기부터 우려 행동을 감지하는 실시간 모니터링도 개선하고 있다고 밝혔다.

로빈슨의 비판이 회사 문화와 안전 체계 전반을 겨냥한 반면, 오픈AI는 진행 중인 구체적 대응 조치를 제시한 셈이다.

참고 자료

AI 요약
오픈AI에서 3년 반 일하며 주요 AI 제품 출시의 안전 보고서 작성을 이끈 데이비드 로빈슨이 회사를 떠났다. 그는 2026년 10월 4일자 《애틀랜틱》 기고에서 오픈AI의 안전 문화가 망가졌다고 주장했다.
댓글 총 개
  • 0
  • 0