[유레카] 인과관계와 상관성 / 구본권

인간의 이성적 사유는 인과관계를 기본으로 하는데, 인공지능은 인과적 사고를 위협한다. 대니얼 카너먼은 <생각에 관한 생각>에서 인류는 위험한 환경에서 제한된 정보로 빠르게 결정해야 하는 일을 많이 경험하면서 인과적 사유를 발달시켰다고 본다. 인과성을 파악하게 되면 부분을 보고 전체를, 미래를 예상할 수 있어 경제적 사유와 판단을 가능하게 해준다.

스마트폰과 만물인터넷은 알고리즘으로 작동하는 빅데이터 세상이다. 빅데이터와 알고리즘은 인과성보다 상관성의 가치를 강조한다. 빅토어 마이어쇤베르거는 <빅데이터가 만드는 세상>에서 방대한 데이터를 확보하면 인과성 규명 없이 충분히 유용한 상관성을 얻어낼 수 있다고 주장한다. 빅데이터 분석은 이유가 아닌 결론을 묻는 방식으로 세계를 이해하게 해줄 것이라는 주장이다. <와이어드> 편집장 크리스 앤더슨도 “데이터 홍수로 과학적 방법은 구식이 됐다”며 “순수한 상관성이라는 통계적 분석이 이론을 대체한다”고 말했다.

1990년대 미국 피츠버그대학병원에서는 10~11%에 이르는 폐렴환자 사망률을 낮추기 위해 신경망 기반 기계학습 연구를 했다. 다양한 정보를 입력한 뒤 폐렴환자 사망률을 조사했는데 천식 증상이 나타나면 증세가 호전된다는 결론이 도출됐다. 폐렴에서 천식이 나타나면 위중해진 것이기 때문에 집중진료를 한 결과다. 인과관계를 제대로 설명하지 못한 상태로 상관성에 의존할 경우의 위험성을 보여준 연구다.

알파고는 자신이 둔 돌과 포석에 대해 설명할 수 없지만, 어떤 인간보다 효율적이고 완벽한 수를 구사했다. 우리는 승률과 효율성을 위해 인과적 설명을 결여한 인공지능에 더 의존할 가능성이 높다. 인공지능 연구에서 설명 가능한 알고리즘 개발이 가장 큰 걸림돌이자 도전적 과제로 여겨지고 있다.

구본권 사람과디지털연구소장 [e-mail]