여론이 통제 능력을 지녔기에 사회적 갈등이 있을 때마다 해소 방안으로 여론을 수용해야 한다는 주장이 만연한다. 그러나 여론은 갈등 해소에 도움이 되기보다는 오히려 갈등을 고조시키는 경우가 많다. 여론은 실체가 아니라 인식에 따라 결정되기에 정치 세력과 갈등 당사자들은 서로들 자기에게 유리한 의견을 여론이라 주장하기 때문이다.
-01_“여론의 개념과 변화 과정” 중에서
알고리즘에 영향을 미치는 세력이나 개발자는 AI를 통해 사회 구성원을 일부나마 통제할 수 있다. AI를 통한 통제는 합의나 계약에 따라 이뤄지지 않는다. 통제당하는 이가 인식하지 못한 상태에서 은밀하게 이뤄진다. 따라서 AI 저널리즘에 전적으로 의존한다면, 여론은 구성원 상호 간에 공개적 토론을 통해 견제와 균형을 추구하는 과정을 거쳐 도출되는 게 아니라 은밀한 알고리즘을 통한 통제에 의해서일 가능성이 크다.
-03_“언론의 대체자로서의 AI” 중에서
다른 사람의 감정도 개인의 의견과 사회적 행동에 영향을 미치는데, AI의 도움을 받은 콘텐츠는 이를 담아내는 데는 한계를 지닌다. AI는 증오와 분노, 좌절과 절망, 자신감과 희망 같은 감정을 전달하는 데 익숙하지 않다. 물론, 앞으로 학습 방식을 바꾸면 이런 감정도 글과 말을 통해 표현할 수 있게 될지 모르겠다. 그러나 사람이 아니라 기계가 드러내는 감정에 다른 사람이 얼마나 동조할지가 의문이다.
-06_“의견 작성자로서의 AI” 중에서
걸러내지 못하면 거짓 정보는 인식, 태도, 의견, 나아가서는 투표와 같은 행동에 영향을 미친다. 잘못된 정보가 잘못된 여론으로 이어지거나 잘못된 투표로 이어지는 것이다. 그런데 이제 이런 정보를 생성하고 유통하는데 탁월한 재능을 지닌 AI가 나타났다. AI가 학습하는 원자료가 거짓이라면 AI가 생성하는 정보도 가짜가 된다.
-09_“선거 훼방자로서의 AI” 중에서