네이버 AI 안전성 보고서, 위험 분류와 답변 평가는 어떻게 하나

네이버는 2026년 9월 16일 첫 ‘AI Safety Progress Report’를 발간하고 자체 AI 안전성 체계를 서비스에 적용한 사례를 공개했다.

보고서 발간 배경으로는 AI 에이전트와 여러 모델·도구의 결합으로 사회적 영향이 복잡해진 점, 2026년 1월 인공지능기본법 시행으로 기업의 자체 위험 관리가 중요해진 점을 들었다.

보고서의 기반인 ‘ASF 2.0’은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 포괄하는 안전성 관리 체계다.

네이버는 이를 통해 AI 서비스의 설계·개발부터 출시와 운영까지 안전성을 체계적으로 관리하는 것을 목표로 한다고 밝혔다.

‘CHEC 2.0’은 ASF 2.0에 기반한 실행 체계로, 보고서에는 두 체계가 실제 서비스에 적용된 사례가 담겼다.

위험 분류·식별 체계 ‘N-ARTI’는 법률적·사회적·산업적 사례를 바탕으로 AI 서비스의 위험을 110개 세부 항목으로 나눈다.

서비스별 특성을 반영하면서도 전사적으로 일관된 안전 기준을 적용하기 위한 것이다.

네이버는 이를 토대로 생성형 AI 답변이 사전에 정한 안전 기준을 벗어나지 않도록 관리하는 가드레일을 구축할 수 있다고 설명했다.

답변 평가는 별도 도구인 ‘N-ASET’이 맡는다.

이 도구는 응답에 유해한 내용이 있는지뿐 아니라 이용자의 질문에 적절히 답했는지도 살핀다.

필요한 면책 문구나 전문가 안내가 포함됐는지도 평가해 안전성과 사용성을 함께 고려한다.

보고서에는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 표시·고지한 사례가 담겼다.

2026년 6월 출시된 AI탭은 CHEC 2.0을 바탕으로 설계부터 출시까지 안전성을 점검한 사례로 소개됐다.

네이버는 앞으로 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등과 협력을 확대해 AI 위험을 파악하고 예방·완화하기 위한 연구와 실천을 이어가겠다고 밝혔다.