언어는 지금까지 인간만이 유일무이하게 소유한 것이라고 여겨왔다. 그런데 AI 기술이 진화하면서 기계가 사람처럼 글을 쓰고 말을 거는 시대가 되었다. 그렇다면 우리는 이 상황을 어떻게 바라봐야 할까? 저자들은 지금 우리 시대가 마주한 이 현상을 분석하기 위해 거대언어모델(LLM) AI와 지능, 언어, 소통, 저자성, 글쓰기의 쟁점들을 아리스토텔레스, 플라톤, 소크라테스 같은 고대 철학자부터 데카르트, 하이데거, 데리다, 바르트, 비트겐슈타인, 푸코, 플루서 등 근현대 사상가들에 이르는 언어학과 언어철학, 문학연구, 커뮤니케이션 이론을 통해 탐구하며 철학적 질문들을 통해 근본적으로 재고하는 통찰력을 보여준다.

나아가 저자들은 이 기술이 우리에게 위기만이 가져온 게 아니라 기회까지 제공한다는 관점에서 ‘소통 방식의 AI’가 서구의 사상사, 심지어 우리의 일상생활에 깊숙이 뿌리내린 이분법적 사고방식과 로고스 중심주의를 해체하고 글쓰기의 새로운 미래를 열 수 있다고 내다본다. 커뮤니케이션 행위를 인간을 넘어 서로 소통하고 상호 작용하는 모든 유형의 주체들을 포함하여 이론화하는 대안적 방식도 제안한다. 이 기술을 처음 접한 이들이 이해할 수 있도록 LLM의 언어 생성 원리에 대한 설명부터 복잡한 윤리적, 법적, 사회적, 정치적 쟁점들까지도 짚어보며 이 기술에 대한 비판적 태도와 관계적 접근, 교육의 필요성 역시 강조한다.

머리말 

들어가며

1장 LLM 인공지능의 언어 생성 원리 및 구조 

2장 윤리적, 법적, 사회적 과제 

3장 지능, 의식, 그리고 타자의 마음 문제 

4장 언어, 의미, 그리고 소통 

5장 저자성과 권위 

6장 진실, 거짓, 그리고 환각 

7장 글쓰기에 미래는 있는가? 

참고문헌

찾아보기

62-63

무엇보다도 LLM이 내놓은 거짓 정보를 근거로 어떤 행동을 취하게 되면, 현실에서 아주 심각한 문제를 초래할 수 있다. 이를테면, LLM은 인간이 섭취하기에 부적합한 재료가 포함된 레시피를 생성하고, 독성이 있을 수 있는 약물이나 약물 복용을 추천할 수 있다. 심지어 자살을 시도하도록 사용자를 부추길 수도 있다. 극단적인 말로 들릴 수 있지만, 2023년 3월 벨기에 국적의 한 남성이 그와 영원히 함께할 것이며 “우리는 천국에서 하나가 될 것”이 라는 챗봇의 말을 들은 다음에 실제로 스스로 목숨을 끊은 사례가 있다. 

84-85

두 번째 선택지(교육과정 도입)의 경우에는 오늘날 글쓰기가 검색 엔진과 AI 텍스트 생성기 등 주어진 모든 디지털 도구를 활용하는 것을 의미한다는 점을 인정하는 것이다. 그렇지만 이러한 AI 텍스트 생성기를 사용하더라도 학생들이 여전히 도움 없이 글을 쓰는 실력을 향상시킬 수 있도록 하는 방법에 대해 고민하는 것이 중요하다. 이는 휴대용 계산기나 그 밖의 디지털 기기를 충분히 사용할 수 있음에도 학생들에게 계산하는 법을 가르치는 것과 비슷한 맥락이다. 그리고 학생들이 기술의 비용과 편익에 대한 인식을 바탕으로 비판적인 태도로 기술을 활용하는 학습 환경을 조성하는 방법에 대해서도 고민해야 한다. 

103-104

『국가』의 한 중간에 나오는 이 유명한 구절은 현대 철학자들이 사고 실험이라고 부를 만한 이야기이다. 이를 간단히 설명하면 다음과 같다. 어느 지하 동굴에 사람들이 쇠사슬로 묶인 채, 아무것도 없는 커다란 벽 앞에 앉아 있다. 벽에는 그림자 이미지들이 투사되고 있다. 이들은 어릴 때부터 이 상태로 살아왔으며, 고개를 돌릴 수 없어 그저 벽에 투사된 인공 이미지 외에는 아무것도 보지 못한다. 그래서 그들은 벽에 보이는 것이 현실이며 진실이라고 믿으며 살아간다. 그런 다음 이 사고 실험은 죄수 한 명이 풀려나는 상황을 가정하여, 진리와 실재에 대한 그 사람의 감각에 어떤 영향이 미칠지 우리에게 상상해 보도록 한다.

127

기호는 그저 다른 기호를 지시할 뿐이다. 달리 말하면, 언어학자 크리스토퍼 매닝이 최근 제안한 이른바 ‘분포 의미론’에서 언급하듯, “한 단어의 의미는 단순히 그 단어가 쓰인 문맥에 대한 묘사일 뿐이다.” 이러한 구조주의적 설명은 이미 플라톤의 『크라튈로스』에서 제시되고 발전되었지만, 이를 쉽게 이해하려면 사전을 떠올리면 된다. 사전에 실린 단어들은 다른 단어들과의 관계 속에서 의미를 얻게 된다. 사전에서 단어의 정의를 쫓다 보면, 우리는 언어의 기표 체계 내부에만 머물게 될 뿐, 언어 밖 지시 대상, 즉 기호학자들이 이른바 ‘초월적 기의’라고 부르는 것에는 절대 도달하지 못한다.

146

기술이나 매체의 역할이 원래의 메세지를 그대로 반영하거나 단순히 실어나르는 것이 아닌 생성된 결과물에 무언가를 추가할 수 있게 해주는 것이라면, 기술은 단순히 가치 중립적인 도구에 머물지 않는다. 기술은 그 과정에 가장 중요한 핵심이 된다. 이는 대중문화에서 리믹스 아티스트나 DJ들이 그들의 작업에 사용한 장비와 함께 종종 그려지는 모습에서 볼 수 있다. 아티스트와 그들의 장비는 우연히 맺어진 관계가 아니라, 서로 의존하면서 일종의 포스트휴먼 또는 혼종적 주체성으로 결합한다. 이때 인간과 기계는 하나로 연결해 주는 혼합과 해석, 그리고 소통 과정에 함께 참여하며, 결과물의 신화적 기원을 주장하지 않는다.

170

데리다의 유명한 진술인 ‘텍스트 바깥에는 아무것도 없다’라는 말에는 바로 그러한 의미가 담겨 있는데, LLM의 경우가 이 말에 특히 잘 들어맞는다. LLM에게는 학습에 사용된 텍스트와 사용자의 프롬프트를 처리하여 생성한 텍스트 외에는 그야말로 아무것도 없기 때문이다. 따라서 LLM 기술은 이 알고리즘들이 단순히 기호만 유포시킬 뿐, 현실 세계에 존재하는 지시 대상에 접근할 수 없다는 비판론자들의 주장은, 사실 그들이 생각하는 것과 같은 폐단이 아닐 수도 있다. LLM은 고전 기호학의 핵심인 개념적 대립항을 해체하는 구조주의적 기계들이다.

197

거짓말은 속일 의도로 허위 진술을 하는 것을 수반하기 때문이다. 그렇다면 적어도 이러한 관점에서는 ‘개소리’가 더 나은 용어처럼 보인다. 그리고 바로 이런 이유로 저자들은 챗GPT가 “개소리 기계”라고 결론을 내린다. 설상가상으로, 이러한 AI 모델들이 불쾌감을 불러일으키거나 도덕적으로 무례하게 표현하고 발언한다는 점에서도 큰 문제로 주장할 수 있을 것이다. LLM이 있는 그대로의 세계를 정확하게 보여준다고 믿기 어려울 뿐만 아니라, 아무런 통제 없이 내버려둘 경우 사실과 다른 정보를 주고 다른 방식으로 비윤리적으로 기능할 것이 뻔하기 때문이다.

인공지능과 로봇 분야에서 

선도적인 목소리를 내고 있는 세계적인 두 기술철학자의 공동 저작!

이미 국내에『인공지능은 왜 정치적일 수밖에 없는가』,『AI 윤리에 대한 모든 것』,『그린 리바이어던』,『뉴 로맨틱 사이보그 』등의 저자로 소개된 세계적인 기술철학자 마크 코켈버그와 커뮤니케이션학자이자 로봇 및 인공지능 윤리를 다루는 기술철학자로 유럽과 북미, 남미, 일본 등지에서 이미 명성을 얻고 있으며 『기계 문제』,『인격체, 사물, 로봇』 등 다수의 책을 낸 데이비드 J. 건컬이 거대언어모델(LLM)를 기반으로 하는 ‘소통 방식’ 인공지능의 언어 사용과 언어 콘텐츠에 초점을 맞추고 다양한 관점에서 철학적인 성찰적 질문을 제기하고 대안까지 제시하고 있다는 점에서 다른 LLM 인공지능 저작들과 그들의 이전 저작들과도 차이가 있는 내용이라 할 수 있다.

먼저, 이 책은 ‘거대언어모델 인공지능이 어떠한 원리로 글을 생성하고 말을 하는지’ 이 기술을 처음 접하는 이들이 이후의 장들에서 심층적으로 논의하는 관련 내용을 쉽게 이해할 수 있도록 자연어 처리 기술, 역사, 용어 등과 함께 간략한 설명에서 시작한다. 나아가 2022년 오픈 AI 챗GPT의 등장 이후로 경제와 기술 변화를 넘어 세계를 재편하고 있는 이 기술들이 다양한 분야로 빠르게 확산되고 활용되면서 기술적으로 시급히 해결해야 할 문제가 드러나기 시작했고 그 파급 효과가 크다는 점에서, 또 매우 강력한 이 기술을 제대하기 이해하기 위해서라도 복잡한 윤리적, 법적, 사회적, 정치적 쟁점들을 우선적으로 살펴본다. 

지능과 의식의 문제는 중요하다!

이 기술이 등장한 이후, 다시 말해 LLM 인공지능이 인간처럼 그럴듯하게 글을 쓰고 복잡한 대화까지 나눌 수 있게 되자 인간과 동등한 수준의 인공일반지능(AGI)이 수년 내 등장하리라 예견하고, 심지어 인간을 압도적으로 능가하는 초지능 AGI의 등장까지 내다보는 사람들까지도 있다는 점에서, 저자들은 ‘지능’과 ‘의식’에 관한 문제에 먼저 주목한다. 인공지능이 처음 등장했던 1950년대 앨런 튜링의 논문에서부터 오랜 철학적 쟁점 사안인 타자의 마음 문제, 계속 바뀌는 지능 기준의 문제, 지능이나 의식 문제를 환상이나 속임수, 실재와 현상(외양)으로 구분하는 문제까지 연결 짓고 ‘사고 실험’이라 부를 수 있는 플라톤의 저서 『국가』에 등장하는 ‘동굴의 비유’, 존 설의 중국어 방 실험 등을 심층적으로 다룬다. 그리고 만약 지능이 있다면 도덕적, 법적 주체로서 권리와 책임까지 새로 논의해야 함을 건컬의 이전 저작을 통해 암시한다.

LLM 인공지능이 ‘과연 언어를 이해할까?’

이 쟁점과 관련하여 저자들은 언어와 의미에 관한 논의에서 그 해답을 찾으려 한다. 즉, 이 문제에 천착하기 위해 언어학과 언어철학, 커뮤니케이션 이론을 가져와 지시적 실재론과 진리 대응설, 소쉬르에서 데리다에 이르는 구조주의와 후기구조주의, 하이데거, 후기 비트겐슈타인에 이르는 사상가들의 아이디어와 통찰을 통해 언어 주체가 탈중심화되기까지, 나아가 플라톤의『파이드로스』와 소크라테스의 언어철학으로 거슬러 올라가 언어의 구조와 체계, 기호와 관련된 쟁점들을 살피고 LLM이 언어 및 의미와 맺는 관계도 탐색한다. 바르트가 말한 ‘저자의 죽음’ 이래로, 그리고 LLM이 등장한 이후, 이제 우리는 공동 저작이나 권위 없는 글을 마주하고 있다. 이 점에서 저자들은 LLM이 언어를 다루고 사용하는 방식이 구조주의 언어학과 후기구조주의 기호학의 혁신에 부합한다고 주장한다. 그리고 언어가 인간만이 가지고 있는 표현 수단을 넘어서는 것이라면, 커뮤니케이션 행위를 다른 주체, 즉 비인간까지 포함하는 관점에서 이론화해야 할 당위성을 피력하며 그 대안을 제시하기도 한다. 

저자란 무엇이며, 글쓰기에 미래는 있는가?

바르트가 말했듯이, 저자는 근대적 인물이다. 근대 이전에도 글을 쓰는 사람은 있었으나 오늘날과 같은 의미의 저자와 그 권위는 존재하지 않았다. LLM과 생성형 AI 기술의 등장으로 이제는 저자의 권위 있는 목소리가 없고 이에 의존하지도 않는 텍스트의 확산, 무언가를 말하기 위한 어떤 사전 의도에 진실이 없는 글을 마주하게 되었다. 기존의 사고방식에서 보자면 이것은 위협이자 위기의 징후로만 보일 수 있다. 그렇지만 저자들이 생각하기에, 20세기 문학이론과 후기구조주의 철학, 페미니스트 과학기술학 등 기존 전통의 해체를 추구하는 관점에서 보면 현재의 위기는 서구 형이상학과 그 헤게모니의 한계를 넘어 그 체계를 완전히 벗어나 사유할 수 있는 기회이다. LLM은 저자라는 인물, 의미 형성의 방식이나 진리 개념을 위협하지 않는다. 단지 제한적인 개념만을 위협할 뿐이다. LLM은 우리의 일상에 깊게 뿌리내린 로고스 중심주의에 함몰된 우리의 사유 방식과 저자 기능이 가진 궁극적 한계를 드러내고 그 구성 원리를 탈중심화하는 데 기여하며 다르게 사유하고 다르게 글을 쓸 기회를 열어준다. 그래서 글쓰기에 미래는 있다고 진단한다. 데리다의 ‘이중 제스처’ 개념은 이를 뒷받침한다.