불과 몇년전에 처음 AI를 심도있게 공부하던 때, KT AI Future Lab 랩장님이신 배순민 상무님과 대화할 기회가 있었습니다. 여러가지 조언을 들으면서, 그 중에 가장 인상 깊었던 내용의 요점은
“AI를 만든 사람도 AI가 어떻게 답할지는 모른다.”
라는 것입니다." 그 당시에는 아하 그렇구나라고 다소 불편한 앙금으로 마음속에 담아두었었는데, 최근 기사(아래)가 또 나오면서, 인간의 뉴런을 모방한 현재 AI 기술이 이제는 AI를 파악하기 위한 AI MRI 등의 Explainable AI 개발의 필요성을 얘기하고 있네요.
관련 기사 :