AI 버블이 온다
아르빈드 나라야난·사야시 카푸르 지음｜강미경 옮김｜ 윌북｜420쪽｜2만4800원
많은 미국 주정부에서 재판 전 피고인 구속 여부를 결정하는 데 예측형 AI를 투입한다. AI는 인간과 달리 편견이 없기 때문에 공정하다는 것이다. 피고인이 추가 범행을 저지를지, 공판 기일에 법정에 출석할지가 예측의 주안점이다. 예측형 AI는 “비슷한 특징을 보이는 사람들은 미래에 비슷하게 행동할 것”이란 전제를 품고 있다. 그런데 한 탐사 보도 전문 매체의 조사 결과, 추가 범행 의사가 없는 피고인도 과거에 추가 범행을 저지른 이들과 유사하다는 이유로 얼마든지 구속될 수 있었다.
프린스턴대학교 정보기술정책센터 소속 컴퓨터과학자인 저자들은 “인간은 예측 불허한 존재란 점을 AI 개발자들이 놓쳤다”고 지적한다. AI가 만능이라 생각하는 건 ‘뱀 기름’을 만병통치약이라 여기는 것과 똑같다며 ‘AI 거품’을 경계한다. 아무리 AI가 발달하더라도 최종 결정은 인간의 판단에 맡겨야 한다는 사실을 상기시키는 책이다.