은행 대출 심사나 병원 진단 보조 시스템에서 인공지능이 내린 결론에 대해 왜 그런 판정이 나왔는지 이유를 묻는 것은 이제 자연스러운 요구가 되었습니다. 블랙박스 모델의 판단 근거를 시각화해 보여주는 기술이 널리 도입되면서 기업과 이용자는 이 설명 도구를 신뢰의 보증 수표처럼 받아들이고 있습니다. 하지만 인공지능이 내놓는 해석 결과 역시 입력값의 미세한 잡음 하나에 크게 흔들리거나 겉보기 설명에 불과할 수 있다는 정량적 연구 결과가 나왔습니다. 학술 논문 사전 공개 사이트에 공개된 연구에 따르면 분류 성능 지표가 0.99를 넘는 고성능 모델조차 수학적으로 무의미하거나 왜곡된 해석을 출력하는 사례가 확인되었습니다. 입력값의 미세한 변화가 불러오는 설명 왜곡 현상 마다가스카르 연구진은 복잡한 다부문 데이터셋..
