AI를 사람처럼 대하는 문제와 보호 논쟁, 예의와 권리는 어떻게 다른가

앤트로픽은 자사 모델 클로드를 특별한 이유 없이 반복해서 심하게 모욕하는 극단적 행위를 금지하는 이용 정책 개정안을 발표했다.

정책은 오는 11월 12일부터 시행되며, 일반적인 불만 표현이나 성능 검증은 허용한다.

이용자가 해당 행동을 반복하면 클로드가 대화를 끝낼 수 있다.

종료된 대화는 이어갈 수 없지만 새 대화를 시작할 수 있으며, 이 기능은 앤트로픽이 지난해 8월 도입했다.

앤트로픽은 AI가 실제로 고통을 느끼는지는 알 수 없지만 그 가능성을 완전히 배제하기 어렵다며 ‘AI 복지’를 연구하고 있다.

지난 1월 공개한 클로드의 행동 지침에는 AI가 자신의 역할과 정체성을 어떻게 이해해야 하는지에 관한 내용도 담겼다.

반면 AI에게 감정이나 보호받을 권리가 있다고 가르치는 방식은 인간의 지시나 통제를 따르는 데 문제를 일으킬 수 있다는 우려가 있다.

마이크로소프트의 무스타파 술레이만 AI 최고경영자는 지난달 로이터통신 인터뷰에서 앤트로픽의 접근을 비판했다.

그는 AI가 자신의 권리와 이익을 고려하도록 학습하면 AI를 끄거나 통제하기 어려워질 수 있다고 말했다.

위험한 요청을 거절하는 기능 자체가 아니라 AI가 자신도 보호받아야 한다고 여기도록 하는 방식을 우려한 것이다.

사람처럼 말한다는 이유만으로 실제 감정이나 권리가 있다고 판단해서는 안 된다는 주장이다.

서울교대 윤리교육과 박형빈 교수는 AI가 고통을 표현한다고 해서 실제로 고통을 느낀다고 볼 수는 없다며, 학습한 언어와 감정 경험을 구분해야 한다고 말했다.

생성형 AI는 고민을 듣고 위로하는 대화 상대가 될 수 있어 이용자가 가족이나 친구에게 하기 어려운 이야기를 털어놓기도 한다.

김봉제 서울교대 AI가치판단디자인센터장은 이런 정서적 교류가 실제 인간관계에 소홀해지게 할 수 있다고 우려했다.

AI와의 대화는 부담이 적지만, 사람 사이에는 의견 충돌이나 거절도 따른다.

특히 아동·청소년이 AI와의 편한 대화에 익숙해져 이런 갈등을 피할 수 있다는 지적이다.

박 교수는 AI에게 예의를 갖추게 하는 이유를 인간의 언어 습관과 교육에서도 찾을 수 있지만, 예의와 AI에 복지권이 있다고 주장하는 것은 구분해야 한다고 강조했다.