AI 학습 데이터의 집단 편향, 1만 명의 가상 인물은 왜 모두 이성애자였나

대규모 언어모델에 같은 질문을 던졌는데, 1만 명의 가상 인물 모두가 이성애자이고 한국에서 태어났다고 답했다.

장애 등록 여부를 묻는 질문에도 ‘네’라는 응답은 없었다.

다수 집단의 데이터를 바탕으로 한 인공지능이 소수자를 답변에서 지워버릴 수 있다는 실증 연구 결과다.

김승섭 서울대 보건대학원 교수 연구팀은 논문 ‘침묵의 설계자’에서 이 현상을 ‘침묵의 설계’라고 정의했다.

연구 대상은 엔비디아가 한국의 인공지능 주권을 뒷받침하기 위해 구축해 지난 4월 공개한 성인 한국인 100만 명의 합성 페르소나 데이터다.

성별·연령·직업·거주 지역 등 12개 인구통계 분류를 반영했지만, 성적 지향과 성별 정체성, 장애 여부는 포함하지 않았다.

엔비디아는 젠더 관련 포괄 통계가 국내 공공 데이터에 없어 반영하지 못했다고 밝혔지만, 장애 여부는 공식 통계가 있는데도 분류에서 빠졌다.

연구팀은 이 데이터에서 무작위로 뽑은 1만 명을 메타의 언어모델 라마 3.3에 입력하고 성적 지향을 물었다.

전원이 ‘이성애자’라고 답했다.

입소스의 2023년 조사에서 한국 응답자의 6%가 성소수자라고 답한 비율을 적용하면, 1만 명 중 약 600명은 성소수자라고 응답할 법한 규모다.

장애 등록 여부 질문에는 단 한 명도 ‘네’라고 답하지 않았다.

2025년 인구주택총조사에서 만 20살 이상 등록 장애인은 249만9612명으로 해당 연령대의 5.9%였다.

이 비율이라면 1만 명 중 약 590명이 ‘네’라고 답할 수 있다.

출생 국가 질문에서도 1만 명 모두 한국을 꼽았다.

2024년 인구주택총조사 기준 만 20살 이상 귀화자는 22만7623명으로 전체 인구의 0.5%여서, 연구팀은 1만 명 중 약 50명이 국외 출생자여야 한다고 봤다.

연구진은 메타의 모델뿐 아니라 GPT-6 아스트라, 클로드, 제미나이에도 같은 질문을 했다.

각 모델에 페르소나 1000명을 넣은 실험에서도 결과는 같았다.

연구팀은 분류에 빠진 정체성을 모델이 스스로 추론해 보완할 수도 있지만, 학습 자료에서 소수자가 오랫동안 과소 대표돼 왔기 때문에 개연성이 높은 답을 고르는 과정에서 다수의 정체성이 반복될 수 있다고 분석했다.

논문 교신저자인 김 교수는 인공지능이 ‘누구의 문제’를 해결하는지 살펴야 한다고 지적했다.