AI는 자연스럽고 확신에 찬 문장으로 답해도 존재하지 않는 정보나 잘못된 사실을 제시할 수 있다.
답변이 매끄럽고 단정적으로 들린다는 점만으로 내용의 정확성이 보장되지는 않는다.
챗GPT 활용 결과와 사람의 책임을 둘러싼 문제는 AI의 답변이 실제 행동으로 이어질 때 더 분명해진다.
AI는 오류를 지적받으면 사과하거나 답변을 수정할 수 있다.
하지만 수정이 가능하다는 사실이 앞서 제시한 정보의 오류를 없애거나, 그 정보를 믿고 이미 내린 결정의 결과까지 대신 책임진다는 뜻은 아니다.
잘못된 답변을 바탕으로 판단하고 행동한 경우 사용자가 그 결과를 감당해야 할 수 있다.
건강이나 재산, 인간관계처럼 한 번의 선택이 큰 영향을 미칠 수 있는 사안에서는 AI 답변을 참고하더라도 중요한 사실을 다른 자료나 전문가를 통해 확인할 필요가 있다.
AI가 그럴듯한 설명을 내놓았다는 이유만으로 판단을 끝내기보다, 결정에 영향을 주는 정보가 맞는지 따져보는 과정이 중요하다.
AI는 정보를 찾고 생각을 정리하는 데 유용한 도구다.
다만 편리하다는 이유로 중요한 판단까지 전부 맡기는 것은 위험할 수 있다.
AI의 답변을 참고하는 것과 그 답변을 검토 없이 결정의 근거로 삼는 것은 다르며, 결과에 영향을 미치는 선택은 사용자가 신중하게 살펴야 한다.
참고 자료