XAI-RAI-HITL 통합 구조를 활용한 신용평가 시스템의 공정성 개선과 설명가능성 확보에 관한 연구

Abstract

본 연구는 인공지능(AI) 기반 신용평가 시스템에서 발생하는 편향과 불투명성 문제를 해결하기 위하여, 설명가능한 인공지능(XAI)과 책임 있는 인공지능(RAI), 그리고 인간 개입(HITL)을 통합한 평가 구조를 제안하였다. 우선 XAI 단계에서는 SHAP(Shapley Additive Explanations) 기법을 적용하여 변수별 기여도를 도출하고, 모델의 판단 근거를 시각적으로 제시함으로써 예측 과정의 설명가능성을 확보하였다. 이후 RAI 단계에서는 공정성 지표인 Equal OpportunityDifference(EOD)와 Disparate Impact(DI)를 활용하여 성능과 공정성 간 균형을 검토하였으며, 그룹별 임계값 보정(post-processing)을 통해 EOD를 감소시켜 공정성을 개선하였다. 마지막으로 HITL 단계에서는 예측 확률이 0.40~0.60 범위의 경계 사례(gray zone)에 대해 인간 심사자가 직접 검토 및 교정하는 시나리오를 시뮬레이션하였다. 연구 결과, XAI기반 설명력을 RAI와 HITL 구조에 통합하여 결합함으로써, 예측 성능의 손실 없이 공정성과 설명가능성을 동시에 확보할 수 있음을 확인하였다. 이는 신용평가와 같은 고위험 영역에서 알고리즘의 결정 과정을 투명하게 만들고, 인간의 개입을 통해 윤리적 통제력을 확보할 수 있는 현실적 접근임을 시사한다. 본 연구는 설명가능성(XAI)과 책임성 및 공정성(RAI), 인간 개입(HITL)을 통합적으로 고려한 신용평가 시스템의 설계방향을 제시함으로써, 고위험 영역의 AI 의사결정에서 인간 중심의 책임형(Responsible) 인공지능 구현을 위한 실질적 근거를 제공하기 위해 연구하였다.