[XAI] XAI (eXplainable AI, 설명가능 인공지능 ) 란 무엇인가?
XAI는 설명가능한 인공지능을 이야기한다.
설명가능한 인공지능(Explainable AI, XAI)은 판단에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 인공지능을 일컫는다. 특정한 판단에 대해 알고리즘의 설계자조차도 그 이유를 설명할 수 없는 '블랙박스' 인공지능과 대비되는 개념이다. 불확실성을 해소하여 인공지능에 대한 신뢰성을 높일 수 있게 된다. DARPA(미국 국방성 산하 국방위고등연구계획국)는 약 800억원의 예산을 투입하여 '유리박스(Glass-Box)'를 목표로 한 프로젝트를 진행하고 있다.(위키피디아)
인공지능은 여러분야에서 머신러닝의 발전과 함께 높은 활용성을 발휘하고 있다. 또한 다양한 산업과 서비스에서 인공지능을 활용하면서 우리의 삶 깊숙이 녹아들고 있다. 이러한 인공지능의 활용의 정점은 어느 분야에서든 의사결정에 얼마나 영향을 미치는가 이며, 그 의사결정에 활용된 인공지능의 결과가 사람이 이해할 수 있는 형태나 방식으로 설명이 가능한가는 중요한 문제이다.
인공지능은 1950년대부터 연구가 시작되었고 지속적으로 발전해왔다. 기존의 앙상블러닝을 필두로 하는 머신러닝이나 딥러닝은 예측의 정확도나 정밀도가 뛰어나다. 때문에 전통적으로 사용해온 통계적 예측을 뛰어넘는 방법론으로 자리 잡았다. 하지만 높은 정확도와 정밀도를 가지고 있음에도 불구하고 결과가 어떻게 도출되는가에 대한 판단 근거와 어떠한 원인으로 발생하는지에 대한 원리를 설명하지 못한다면 해당 분야의 의사결정에 도움을 줄 수 없다.
이러한 문제점을 보유한 기존의 인공지능에 대하여,
심층설명학습(learning deep explanation), 해석가능 모델(More interpretable model), 귀납적 모델(Model Induction), 히트맵(heat map)의 방법론들을 사용하여 설명이 가능한 AI가 연구되고 있고, 또 다양한 알고리즘이 개발되어 적용되고 있다. 이러한 XAI(설명가능 인공지능)을 통해서 AI모형과 도메인의 인력들간의 의사소통이 가능해지고 모형에 대한 신뢰를 높일 수 있다.[1]
참조:
[1] 설명가능한 인공지능(explainable AI, XAI)의 필요성과 연구 동향 (동향보고서)
KOSEN - 설명가능한 인공지능(explainable AI, XAI)의 필요성과 연구 동향