자동 감정 탐지 시스템을 사용한 면접으로 면접자의 감정 인식을 분석하고 이를 통해 정직성이나 업무 열정 등 성격 특질을 파악해 점수를 매긴다. 뿐만 아니라 내 목소리를 인식하고 일거수 일투족을 살피기까지 한다.

기사와 광고 등에서 접한 AI는 우리에게 그동안 무언가에 접목시켜 생활을 보다 편리하게 해주는 것으로, 정말이지 ‘인공’과 ‘지능’ 그 자체였으며 현대 과학과 첨단 기술의 정점으로 인식시켜왔다.

책은 그 관점을 뒤집는다. 저자는 ‘AI는 자율적이지도 합리적이지도 않으며 방대하고 집약적인 훈련 없이는 아무것도 분간하지 못하는 존재’라고 설명한다. 마이크로소프트 연구소 선임 수석 연구소이자 뉴욕대 AI 나우 연구소를 공동 설립한 저자 케이트 크로퍼드는 20여년간 인공지능의 사회적 의미를 연구온 AI전문가로서 이를 단언한다.

‘민주적 주변’의 저자 프레드 터너는 책의 추천사에서 “당신이 오로지 AI를 빅데이터와 기계학습의 문제로 치부한다면 이 책은 AI는 자연세계, 정치, 역사, 때로는 아름다움의 문제라고 설명하고 있다”고 말했다.

AI는 개인정보 유출과 감시 자본주의라는 심각한 문제와 더불어 윤리적, 방법론적, 인식론적 우려를 갖게 한다. 결국 인공지능은 자율적이지도 합리적이지도 않다. 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 훈련 없이는 아무것도 분간하지 못한다.

인공지능이 어떻게 권력 구조의 역할을 하며 하부 구조와 자본, 노동을 결합하는지 알고 대안을 마련하는 것은 우리의 현재와 미래에 직결돼 있다. 산업적 추출과 차별이 아닌 정의와 평등을 향해 새로운 길을 걸어가야 한다. <소소의책·2만1000원>

/김다인 기자 kdi@kwangju.co.kr