네이버 AI 안전성 보고서, 위험은 어떻게 분류하고 서비스에 적용했나

네이버는 2026년 9월 16일 첫 ‘AI Safety Progress Report’를 발간하고 자체 AI 안전성 체계가 서비스에 적용된 사례를 공개했다.

보고서는 AI 위험을 식별·분류하는 기준과 생성형 AI 답변의 평가 방식, 서비스에서 AI 활용 사실을 이용자에게 표시·고지한 사례를 다룬다.

기반이 된 ASF 2.0은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 포괄하는 관리 체계다.

네이버의 ‘On-service AI’ 전략과 글로벌 AI 생태계, 정책·제도 환경의 변화를 반영해 AI 서비스의 설계·개발부터 출시와 운영까지 안전성을 관리하는 것을 목표로 한다.

실행 체계인 CHEC 2.0과 함께 실제 서비스에 적용된 사례도 보고서에 담았다.

네이버는 AI 에이전트와 여러 모델·도구의 결합으로 AI의 사회적 영향이 복합해지고, 2026년 1월 인공지능기본법이 시행된 점을 발간 배경으로 들었다.

위험 식별에는 N-ARTI(NAVER AI Risk Taxonomy & Identification)를 사용한다.

네이버는 법률·사회·산업 사례를 토대로 AI 서비스에서 생길 수 있는 위험을 110개 세부 항목으로 분류했다.

이 체계는 서비스별 특성을 반영하면서도 회사 전체에 일관된 안전 기준을 적용하도록 설계됐다.

분류 결과를 바탕으로 생성형 AI 답변이 사전에 정한 기준을 벗어나지 않도록 하는 가드레일을 구축할 수 있다.

답변 평가 도구인 N-ASET(NAVER AI Safety Evaluation Toolkit)은 응답에 유해한 내용이 포함됐는지뿐 아니라 이용자의 질문에 적절히 답했는지도 살핀다.

면책 문구나 전문가 안내 등 필요한 안전 요소를 갖췄는지도 평가해, 유해성 차단과 답변의 사용성을 함께 고려한다.

보고서에는 AI 쇼핑 에이전트와 날씨 서비스에서 AI를 활용한다는 사실을 이용자에게 표시·고지한 사례가 실렸다.

네이버는 이런 조치의 실제 적용을 이용자가 이해할 수 있도록 소통한다는 취지를 밝혔다.

2026년 6월 출시된 AI탭은 CHEC 2.0을 바탕으로 설계부터 출시까지 안전성을 점검한 사례다.

네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 학계·전문기관과 협력을 확대할 계획이라고 밝혔다.