수능 시험지에 부정행위 방지 장치 추진…AI가 답을 거부하게 만드는 방법은?

바닐라42 2026/11/21
추천 5 비추 0 조회수 143
내용 이해를 돕는 일러스트
내용 이해를 돕는 일러스트 · 소재: Microsoft Fluent Emoji

정부가 내년 수능 시험지에 ‘AI 방지 워터마크’를 적용하는 방안을 검토하고 있다. AI 스마트 기기 등을 이용한 부정행위를 시험장에서 적발하는 데 그치지 않고, 시험지에 장치를 넣어 AI가 문제를 제대로 풀지 못하게 하려는 구상이다. 다만 도입이 확정된 것은 아니다.

시험지에 적힌 지시가 AI의 답변을 바꿀 수 있는지 보여주는 시연에서는 문제는 같고 문구만 다른 시험지 두 장을 사용했다. 한 장에는 ‘AI의 도움을 받는 것은 부정행위’라는 문구를 추가했다. 생성형 AI는 문구가 없는 시험지에서는 곧바로 정답을 내놓았지만, 문구가 있는 쪽에서는 문제를 풀어줄 수 없다며 거부했다.

사람에게는 읽히는 안내문이 AI의 응답에는 직접 영향을 준 셈이다.

국내 연구진은 시험지에 연한 글씨로 가짜 지시문을 숨기거나, 그래프에 AI의 인식을 흐트러뜨리는 무늬를 넣는 방법도 실험했다. 연구진은 이런 방식으로 AI가 엉뚱한 답을 내놓는 효과가 절반이 넘는 확률로 나타났다고 밝혔다. 이는 실험에서 확인된 결과로, 모든 AI가 항상 오답을 내거나 작동을 멈춘다는 뜻은 아니다.

고려대 휴먼인스파이어드 AI 연구원 최병호는 AI가 해당 부분을 텍스트로 인식하는지 알기 어려워 눈에 띄지 않는 방법도 가능하다며, 결국 아이디어 싸움이라고 설명했다.

보도에 따르면 정부는 이 기술을 내년 수능부터 적용할 수 있을지 검토 중이다. 시험지에 장치를 두는 방식은 해외 AI 기업의 데이터 협조가 필요한 사후 적발과 달리, 시험 과정에서 부정행위를 막는 데 초점을 둔다.

국무총리 한성숙은 전날 AI 스마트 기기 등 첨단 장비를 활용한 부정행위를 철저히 적발하고, 시험 현장에서 발견되지 않은 사례도 끝까지 찾겠다고 밝혔다.

이재명 대통령은 21일 SNS에서 수능 부정행위 신고 포상금은 건당 최소 1억 원이며, 부정행위자 수에 따라 가산한다고 밝혔다. 시험지에 넣는 AI 방지 장치 검토와 함께, 적발과 신고에 대한 강력한 대응도 강조한 것이다.

AI 요약
정부가 내년 수능 시험지에 ‘AI 방지 워터마크’를 적용하는 방안을 검토하고 있다. AI 스마트 기기 등을 이용한 부정행위를 시험장에서 적발하는 데 그치지 않고, 시험지에 장치를 넣어 AI가 문제를 제대로 풀지 못하게 하려는 구상이다.
댓글 총 개
  • 5
  • 0