17억 개의 CCTV를 통해서 관찰되는 영상 정보를 사람들이 앉아서 일일이 다 검증하는 일은 가능해 보이지 않는다. 수많은 정보를 실시간으로 처리하기 위해서는 AI를 이용할 수밖에 없다. 중국이 AI 부문에서 미국의 선두 자리에 도전하고 있는 상황인데 안면 인식 기술 측면에서는 이미 앞선 것으로 보인다.
-01_“파놉티콘의 진화: 중국” 중에서
세계 대부분의 국가들이 정도의 차이는 있어도 디지털 전환 상황으로 들어가고 있다. 각 국가의 발전 속도와 디지털 전환의 속도는 대략 비례 관계에 있는 것으로 보인다. 대체로 선진국일수록 국가 기반 시설들이 점점 더 긴밀하게 인터넷 통신망으로 연결되고 있다. 매우 효과적인 사이버 공격을 한다면 국가 기반 시설을 마비시키거나 파괴하는 일도 가능한 세상이 됐다.
-04_“독재 정권의 해킹 공격” 중에서
실시간 감청 작업을 수행하는 인공지능 프로그램인 프리즘은 ‘폭탄’, ‘테러’, ‘자폭’, ‘공격’ 등 의심스러운 단어가 일정 빈도 이상 사용되면 해당 감시 대상자의 통신 내용 전체를 기록·수집해서 분석한다. 2024년 3월에 있었던 모스크바 공연장 테러를 미국이 미리 알고 러시아 당국에 통지한 바 있다.
이는 프리즘이 세계 구석구석 모두 감시하고 있었기에 가능한 일이었을 것이다. 또한 테러범들이 타지키스탄 사람들이었기 때문에 해당 언어를 할 수 있어야 감청이 가능했던 일이기도 하다. 인공지능 프리즘은 전 세계 모든 언어를 이해하는 수준인 것으로 보인다. 이미 챗(Chat)GPT와 같은 민간 개발 인공지능의 능력을 훨씬 뛰어넘는 수준이라고 보는 것이 맞다.
-06_“세상 모두를 감시하는 NSA” 중에서
그래서인지 미국에서는 유명한 정치인에 대한 딥페이크 가짜 뉴스 영상들이 제법 잘 돌아다닌다. 도널드 트럼프 전 대통령의 ‘성추문 입막음’ 의혹에 대한 공판이 예정되어 있는 상황에서 경찰이 그를 체포하는 영상이 인터넷에서 확산됐다. 영상이 그럴듯해서 사실인가 확인해 봐야 할 정도였다.
-09_“가짜 뉴스 AI” 중에서