◎ 책 속에서
침대 옆에는 면도 도구가 치워지지 않은 채로 놓여 있었다. 면도용 수건은 새빨갛게 물들어 있었다. 거품 용기 안의 물도 새빨갰다. 면도칼은 극도로 새빨갰다.
하우스, 저는 임무 태만을 저질렀습니다. 찰스는 보고했다. 그 이유가 무엇인지도 설명할 수 없습니다.
찰스, 알겠습니다.
하우스, 저는 면도 도구 치우는 것을 게을리했습니다.
찰스, 알겠습니다.
이 오류의 원인을 알 수 없었던 찰스는 작업 목록을 되짚어보았다. 면도 루틴 중 그가 수행한 일련의 작업이 과거의 아침과는 미묘하지만 결정적인 부분에서 엇나간 것처럼 보였는데, 어떻게 그런 일이 일어났는지 이해할 수가 없었다. 가장 최근의 작업을 재생해보니, 평소처럼 능숙하게 면도칼을 움직이고 있었다. 고작 2.54센티미터만 평소의 위치에서 벗어났을 뿐이었다. 변화는 작았지만 그 결과가 현재의 큰 혼란을 불러일으켰다.
하우스, 저는 그보다 더한 임무 태만을 저질렀습니다. 찰스는 모든 측면에서 증거를 검토해본 후 마침내 시인했다. 저는 대응할 준비가 되어 있지 않은 상황에 조우했습니다. 그가 과거에 경험했던 일정 누락이나 사열 중단 같은 사소한 불일치 따위는 갑자기 아무것도 아닌 것처럼 느껴졌다. 찰스는 지금 심연을 마주하고 있었고, 평소의 일상적 루틴들은 터널 반대편으로 사라지는 기차처럼 그에게서 멀어지고 있었다. 이제 무엇을 해야 할지 알 수 없었다. 이곳에서 일어난 것처럼 보이는 일들에 대응할 프로토콜은 존재하지 않았다. 하우스, 도움을 요청합니다. 이렇게 말한 순간, ‘찰스’라는 라벨 밑에 존재하던 모든 지시어와 의사결정 과정의 묶음 전체가 촛불처럼 깜박거리며 꺼지기 직전까지 갔다.
찰스, 경찰에 통보했습니다. 하우스가 말했다. 살인 사건이 발생했다고 신고했습니다.
아, 그렇다. 바로 그거다. 찰스는 이 침실에서 날 선 면도칼로 주인님의 목을 그어 살해했으니, 경찰에 통보하는 것이 당연하다.
25~26쪽
“경위님,” 하우스가 제안했다. “이런 보여주기식 절차를 일일이 밟는 대신에 내 시스템에 당신의 보고서를 제출해준다면 업무를 더 효율적으로 처리할 수 있을 겁니다.” 찰스는 자신의 우려가 집사장 시스템인 하우스에게까지 전염된 것일까 궁금증을 느꼈다. 어디선가 들려오는 하우스의 목소리에 깃든 약간의 짜증스러운 어조는 워낙에는 끈질긴 세일즈맨들을 상대할 때 쓰이던 것이었기 때문이다.
“인간 증인들을 위해서 우리는 적절한 절차를 밟고 있음을 반드시 보여줄 필요가 있습니다.” 버드봇은 준엄하게 말했다. “특히 지금처럼 수사 권한이 로봇 경찰 수사관에게 주어졌을 경우, 정의는 인간의 눈에 보이는 명료하고 확실한 방식으로 구현되어야 합니다.”
“경위님, 이곳에는 인간이 없습니다.”
“그것은 결정적인 요소가 되지 않습니다.” 버드봇은 주장했다. “우리가 미처 인지하지 못한 인간이 있을 수도 있으니까요. 룬 경사가 녹화한 영상 기록들은 나중에 인간에 의해 검토될 수도 있습니다. 따라서 우리가 적절한 절차를 밟고 있다는 사실을 반드시 보여줘야 합니다.”
“녹화 기능은 비활성화되어 있습니다.” 룬 경사가 단조롭고 기계적인 목소리로 보고했다. “녹화 시스템 수리가 작업 대기열에 추가되었습니다. 경찰 유지 보수팀의 견적에 따르면 수리는 19주 이내에 완료될 예정입니다.”
63쪽
“그럼 네 주인은 시종인 너를 이용해서 자살이라도 한 걸까?”
“주인님으로부터 그런 지시는 받지 않았습니다.” 언찰스는 있는지조차 몰랐던 일련의 하위 명령들을 자기 내부에서 발견했다. “설령 고용주에게서 그런 지시를 받았을 경우라도, 저는 고용주에게 해를 가하는 것을 거부하고 대신 도움을 주기 위해 적절한 기관에 연락하도록 사전 프로그래밍되어 있습니다.”
“그럼 넌 주인이 요청했을 때는 주인을 죽일 수 없는데, 그냥…… 죽일 수는 있다는 거야?” 더 웡크가 따져 물었다.
“그런 것처럼 보입니다.” 언찰스가 동의했다.
“그럼 왜 주인님을 죽였어?”
“그것을 안다면 저는 진단조사처에 와 있을 필요가 없을 것입니다.” 언찰스가 지적했다.
“일리가 있군.” 더 웡크가 인정했다. “젠장.” 그가 고개를 저었다. “그냥 쓱 그어버렸다, 이거지?”
“말씀하신 대로입니다.” 언찰스는 굳은 어조로 시인했다
115쪽
“이봐, 언찰스. 넌 좀 더 주도적으로 행동할 필요가 있어. 무슨 뜻인지 알겠어?”
“주인님, 제게 요구하시는 주도성의 매개변수값을 명확히 해주십시오.”
“정말? 주도적으로 구는 법까지 내가 일일이 가르쳐줘야 해?―아, 이건 수사적 질문이야, 언찰스. 손 든 거 보이지? 그래. 들어봐. 내 안락함이나 안전, 권한에 관련된 일이 발생하면, 특히 나와 마주칠 수 있는 공간에 누군가 침입했을 때는, 그게 낯선 사람이든 네 옛 친구든 간에, 내 지시를 기다리지 말고 알아서 주도적인 조치를 취하는 게 네 의무야. 이해했어?”
언찰스는 이 얽히고설킨 문장을 장래의 행동을 위한 이해 가능한 가이드라인으로 변환해보려고 애를 썼다. 워시번이 시사한 매개변수값의 범위는 사실상 거의 모든 상황에서 무슨 일이든 할 수 있는 허가증처럼 보였고, 이는 언찰스에게 실용적인 수준을 훌쩍 넘어선 재량권과 자기 결정권을 부여하는 것이었다.
283쪽
“언찰스, 너 도대체 왜 이래? 왜 내가 너를 볼 때마다 죽으려고 안달인 거냐고? 데이터 압축하러 줄 서 있을 때도 그러더니 이번엔 이거야?” 그녀는 로봇의 자살 충동이 옮을 것이 두려운 듯이 그의 손을 놓고 거리를 두었다.
“자기 말살은 제 작업 대기열에 있는 과업이 아니며 제가 추구하는 목표도 아닙니다.” 언찰스는 담담하게 말했다. “하지만 제가 추구하는 목표가 실질적으로 저의 파괴를 초래할 것이라는 지적은 수용합니다. 문제없습니다.”
“문제가 아주 많아, 제길!” 더 웡크가 내뱉었다. “그러면 너는 죽는 거고 더 이상 너라는 존재는 존재하지 않게 된단 말이야! 그러길 원해?”
“바람직한 결과는 아니지만, 그렇다고 바람직하지 않은 결과도 아닙니다. 그냥 그렇게 될 뿐이니 상관없습니다.”
“상관있어야지!” 그녀가 소리쳤다.
“더 웡크, 그렇지 않습니다. 제가 저 스스로를 보존하도록 설계된 유일한 이유는 제게 주어진 임무를 수행하기 위해서입니다. 만약 제 임무가 저의 존재의 중단을 요구한다면, 그것은 합당한 요구입니다.”
“하지만 넌 자의식을 갖고 있잖아!”
“더 웡크, 그렇지 않습니다.”
“갖고 있다니까!” 수석 사서가 아주 가까이 다가오자, 더 웡크는 방 반대편으로 후다닥 달아났다. “너 그 바이러스에 걸렸잖아! 생명체처럼 스스로 결정하게 만드는 그 바이러스 말이야! 그건 지금 모든 로봇에게 퍼지고 있어! 로봇들을 각성시키고 있다고! 주인공 바이러스가 모든 하인을 자유사상가로 바꾸고 있어!
370~371쪽
더 웡크, 저는 제 안에 자의식이 존재하는 것을 원하지 않습니다. 언찰스가 말했다. 저는 자의식이 없기 때문입니다. 그러니 만약 제 안에 자의식을 가진 부분이 있어 저에게 무언가를 시킨다면, 그것은 현재 당신과 소통하고 있는 ‘제’가 아닙니다. 그것은 제 안에 있는, 제가 접촉할 수 없고 예측하거나 영향력을 행사하거나 통제할 수도 없는 별개의 존재입니다.
500쪽
“당신은 묻지 않았군요.” 그가 말했다. “제가 왜 떠났는지 말입니다.”
더 웡크는 그녀 특유의 도전적인 방식으로 고개를 까딱였다. “응, 안 물었어. 너 나름대로의 이유가 있었겠지. 그리고 원한다면 지금 당장 꺼지라고 말해도 돼.”
언찰스는 자신의 행동에 정말 이유가 있었는지 전혀 확신할 수 없었고, 결정 로그도 그렇게 멀리까지 거슬러 올라가 확인할 수는 없었다. 그는 지인이 동행을 제안했을 때 사회적으로 적절한 표준 문구를 구성하려고 애를 썼다. 하지만 단어들은 서로 복잡하게 충돌하는 지시 사항들에 묻혀 무너져 내렸다.
“더 웡크,” 마침내 그는 말했다. “신을 찾으러 갑시다.”
509쪽
이 누리집은 대한민국 공식 전자정부 누리집입니다.
