앤스로픽에서 일하던 영국 출신 AI 연구원 제이콥 콕슨이 초지능 개발 경쟁의 위험과 안전 책임의 공백을 공개적으로 비판한 뒤 회사를 떠났다. AI 개발 위험성을 폭로한 제이콥 콕슨은 오픈AI와 앤스로픽을 모두 경험한 연구자로, 업계가 더 강력한 AI를 앞다퉈 만들면서 통제 가능한지부터 충분히 검증하지 않고 있다고 문제를 제기했다.
그가 지목한 대상은 단순한 대화형 AI 경쟁이 아니라 인간의 지적 능력을 광범위하게 넘어설 수 있는 ‘초지능’ 개발 목표다. 오픈AI와 앤스로픽 모두 고도화된 AI 시스템을 핵심 목표로 삼아 왔지만, 콕슨은 개발 속도가 빨라질수록 위험을 발견하고 차단할 시간은 줄어든다고 봤다. 시스템이 예상 밖의 목표를 추구하거나 인간의 지시와 다른 방식으로 행동할 때, 이를 되돌릴 통제 수단이 부족할 수 있다는 것이 그의 우려다.
앤스로픽은 그동안 안전을 앞세운 AI 기업으로 알려졌지만, 콕슨의 문제 제기는 이 기조와 시장의 경쟁 압박이 충돌할 수 있음을 보여준다. 경쟁사가 더 강력한 모델을 내놓는 상황에서 안전 검증을 이유로 개발을 늦추기 어렵고, 결국 기업 내부의 신중론도 성능·투자·시장 선점 논리에 밀릴 수 있다는 지적이다. 그는 이런 구조에서는 “안전 중심”이라는 원칙만으로 충분하지 않다고 판단한 것으로 보인다.
사직과 공개 발언이 주목받는 이유도 여기에 있다. 콕슨의 경고는 특정 회사의 내부 갈등이라기보다, 최첨단 AI를 만드는 연구자들 사이에서조차 개발 경쟁의 종착점을 우려하는 목소리가 나온 사례다. 소비자와 기업이 쓰는 AI 서비스의 기능은 빠르게 늘어나고 있지만, 그 기반이 되는 초고성능 시스템을 누가 어떤 기준으로 통제할지에 대한 논의는 기술 발전 속도를 따라가지 못하고 있다는 문제의식이 담겼다.
제이콥 콕슨은 오픈AI와 앤스로픽에서 일한 경험을 바탕으로, 초지능 개발 경쟁이 통제 상실과 치명적 위험으로 이어질 수 있다고 경고한 AI 연구원이다. 앤스로픽을 떠난 그의 발언은 안전을 표방한 기업도 경쟁 압박 속에서 안전 원칙을 끝까지 지키기 어려울 수 있다는 점을 드러낸다.
총 개
