기술적 배경부터 AI의 명과 암까지
미래 사회를 위한 인공지능 A to Z 가이드
일상생활 곳곳에 인공지능(artificial intelligence, AI)이 사용되지 않는 곳을 찾아보기가 어려울 만큼 AI 기술은 성공적으로 우리 생활에 안착했다. 우리는 행정, 의료, 교통 등 여러 분야에서 그 결과물을 사용하며 편리함을 누린다. 그러나 AI가 불러오는 문제들도 적지 않다. AI로 만들어 낸 페이크 동영상으로 심각한 범죄가 일어나기도 하고, 미국에서는 재범률을 판단하는 AI가 흑인의 재범률을 실제보다 높게 예측해 문제가 되었다. AI는 완벽하거나 ‘똑똑’하기만 한 기술이 아니다. 개발자를 비롯한 관계자뿐 아니라 일반 사용자 역시 반드시 AI라는 기술을 이해하고 그 명과 암을 인식할 필요가 있다.
이 책은 AI와 함께하는 사회를 살아가는 독자들을 위한 단 한 권의 가이드다. AI의 기술적인 배경과 역사, 나아가 AI가 불러오는 사회적 문제와 대안까지 담았다. 도쿄 대학 미래 비전 연구 센터 준교수, 인공지능학회 윤리 위원회 위원을 역임하고 있는 저자 에마 아리사는 AI와 사회에 관한 예리한 통찰을 바탕으로 우리가 AI에 관해 이해해야 할 내용들을 간결하게 전달한다. 사용자도 개발자도 이 시스템을 구성하는 행위자라는 관점을 바탕으로, AI와 관련해 세계적으로 어떤 논의가 진행되고 있는지, 이 기술이 사회를 어떻게 바꾸며 또 어떤 문제점이 있는지 알아보자. 세상에 관한 이해력이 훌쩍 자라날 것이다.
AI가 발생시키는 사회적 과제에 어떻게 대처할까?
AI라는 렌즈로 들여다보는 우리 사회의 문제와 편견
이 책은 AI와 사회가 적극적으로 상호 작용하는 관계임을 강조한다. AI는 기존 데이터를 기반으로 인식·예측·생성한다. 그런데 이 데이터는 미래가 아닌 ‘과거’의 인간 활동을 통해 만들어진 것일 수밖에 없다. AI의 인식 및 예측에 편향이 존재할 수밖에 없는 이유다. 따라서 AI의 맹점을 사람이 잘 파악하고 이에 기술적으로, 사회적으로 대처하는 것이 중요하다.
기술적인 대처로는, AI가 시중에 나와 운용되는 중에도 상황에 맞게 수시로 AI를 업데이트하는 것이 있다. AI의 판단을 무비판적으로 따르지 않도록 AI에 설명 가능성을 도입하는 것도 중요하다. 사람의 생명이 걸린 교통이나 의료 시스템에도 AI가 상용화될 가능성이 크므로, 환경 변화에 유연하게 대응하고 예측하지 못한 상황에도 대응할 수 있는 견고성을 높이는 것이 관건이다. 사회적으로는 우리의 무의식적인 편견을 깨닫고 다양한 이들을 AI 논의에 끌어들여 AI의 편향을 줄여야 한다. 나아가 AI가 내놓는 결과를 여러 전문가와 함께 모니터링하고 오류를 수정할 수 있어야 한다.
이 책에 따르면 AI는 인간 사회 편견을 그대로 반영하는 거울이다. 이는 AI 시스템의 맹점이기도 하다. 그러나 반대로 생각하면 AI를 통해 거꾸로 우리 사회의 편견을 깨달을 수도 있다. AI와의 상호 작용을 통해 인간 사회를 더 나은 방향으로 만들어갈 방법을 탐구해 보자.
개발자와 사용자가 함께 구축해 나갈 AI 거버넌스
사회 구성원으로서 우리가 할 수 있는 일은 무엇일까?
AI를 개발하고 사용자에게 제공하기까지 수많은 이들이 관여한다. 관계자가 늘어날수록 각자의 책임 범위가 모호해지기에, 각자 어떤 역할을 맡아야 하고 훗날 사건 사고가 일어났을 때 어떤 책임을 질지 검토해야 한다. 예컨대 AI 모델은 정밀도와 견고성 부분을 책임져야 하고, 서비스 제공자는 공정성과 사생활 보호를 보장해야 한다. 이용자와 소비자 역시 AI를 올바르게 사용해야 하고, 기본적인 문해력을 갖출 필요가 있다.
AI가 상용화되는 것은 사회 전체의 변화다. 그 변화를 받아들여야 하는 상황에서 개발자를 비롯한 관계자도, 사용자도 이 기술에 관해 더 잘 이해해야 부작용을 최대한 줄일 수 있을 것이다. 우리는 AI에 많은 기대를 걸지만 그것이 단지 기술일 뿐이라는 사실을 잊지 말아야 한다. 결국 사회가 어떤 방향으로 나아가야 할지 비전은 인간이 세워야 한다. 이 책의 설명을 차근차근 따라가다 보면, AI 기술과 사회가 어떤 목적을 가지고 나아가야 할지 각자의 관점을 가질 수 있을 것이다. 다양한 사람들과 그 관점을 나눠 보고 미래에 관한 진지한 이야기를 나눌 수 있기를 바란다.
