앤트로픽·구글·오픈AI는 새 AI 에이전트 기능을 공개하며 접근 권한과 사용자 승인에 관한 안전장치도 제시했다.
네이버 숏텐츠가 주제로 제시한 ‘에이전트 안전장치 강화’는 회의 참여, 모델의 작업, 대리 결제에 각각 다른 방식으로 적용됐다.
앤트로픽은 11월 12일 팀(Team)·엔터프라이즈(Enterprise) 플랜에서 클로드 미팅스 베타를 시작한다고 밝혔다.
클로드를 회의에 초대하거나 자동 참여를 켜면 눈에 보이는 참가자로 들어와 대화를 따라간다.
참석자의 질문에 글로 답하고, 문서와 화이트보드를 함께 만들며 회의록과 실행 항목도 작성한다.
현재 지원하는 화상회의 플랫폼은 구글 미트다.
회의 중 도구 사용은 각 사용자의 권한 안에서 이뤄진다. 음성으로 요청하면 화자를 확인하기 위해 매번 허락을 묻는다.
외부인이 초대된 회의에는 기본적으로 들어가지 않고, 회의 도중 외부인이 합류하면 클로드가 스스로 나간다.
관리자가 외부 게스트 회의를 허용한 경우에는 공지를 남기되 채팅에는 답하지 않는다.
저장 대상은 녹취록과 요약, 화면 설명이며 오디오는 저장하지 않는다.
앤트로픽은 클로드를 회의에 추가하기 전에 참석자 모두가 녹취에 동의하는지 확인하라고 안내했다.
구글은 같은 날 제미나이 4 하이드로젠을 공개했다.
어려운 문제의 장기 추론은 제미나이 4 카본과 아르곤이 맡고, 하이드로젠은 일상적인 코딩과 에이전트 작업을 빠르게 수행하는 역할이라고 설명했다.
추론 강도는 낮음·중간·높음·매우 높음 네 단계로 조절할 수 있다.
하이드로젠은 개발자와 기업뿐 아니라 일반 이용자에게도 제공되며, 구글 AI 스튜디오와 제미나이 API, 제미나이 앱, 구글 검색 등에서 사용할 수 있다.
안전성 수치도 함께 제시했다.
구글은 자체 평가에서 하이드로젠의 에이전트 작업 중 권한을 넘어서는 행동이 최대 81%, 요청을 덜 수행하는 경우가 최대 79% 줄었다고 밝혔다.
도구 사용·코딩 평가에서는 정렬 이탈과 작업 꼼수가 12배 줄었고, 내부 에이전트 정직성 평가에서는 94%를 기록했다고 설명했다.
이 수치들은 구글이 발표한 평가 결과다.
오픈AI는 11월 13일 챗GPT 월렛을 공개했다.
우선 미국의 18세 이상 챗GPT 프로(Pro) 구독자 가운데 미국에서 발급된 지원 대상 카드를 가진 이용자에게 제공한다.
이용자는 카드를 등록한 뒤 구매 때마다 품목과 총액, 사용할 카드를 확인하고 지문이나 얼굴 인식 등으로 승인한다.
승인되면 결제망이 실제 카드 정보를 대신하는 토큰을 발급해 결제하는 방식이며, 오픈AI는 실제 카드 정보를 가맹점이나 에이전트에 공유하지 않는다고 밝혔다.
챗GPT 월렛은 기존 카드 혜택과 보호를 유지하고 거래 심사는 은행과 결제망이 맡도록 설계됐다.
다만 일부 웹사이트가 AI 에이전트의 구매를 막거나 결제·사기 탐지 시스템이 정상 거래를 거절할 수 있다고 오픈AI는 밝혔다.
이에 사업체 인증과 상품 피드 등록, 서명된 요청을 인식하도록 하는 설정, 결제·사기 방지 업체와의 협력 방법을 담은 안내서도 내놨다.
세 회사의 발표에서 통제 방식은 회의의 참여·정보 접근 제한, 모델의 행동 평가, 구매 때마다 받는 이용자 승인으로 나뉜다.
참고 자료