챗GPT의 문장 생성부터 GPS의 위치 측정, 유튜브의 추천 알고리즘까지

세상을 움직이는 6가지 핵심 기술 뒤에 숨겨진 수학의 원리를 꿰뚫다

우리는 매일 스마트폰으로 정보를 검색하고, AI가 추천해 주는 상품을 구매하며, 내비게이션의 안내를 받아 목적지로 이동합니다. 하지만 정작 이 편리한 기술들이 ‘어떻게’ 작동하는지 정확히 알고 있는 사람은 얼마나 될까요? 많은 사람이 인공지능을 마법 같은 블랙박스로 여기지만, 그 뚜껑을 열어보면 정교하게 맞물려 돌아가는 ‘수학’이라는 부품들이 존재합니다.

『AI를 움직이는 수학 이야기』는 코드를 한 줄도 작성하지 않고도 최첨단 기술의 본질을 이해하고 싶은 이들을 위한 가장 친절하고 명쾌한 안내서입니다. ‘어떻게 구현하는가’에 치중한 기존의 기술 서적들과 달리, 이 책은 ‘왜 그렇게 작동하는가’에 집중합니다.

■ 검색부터 상대성 이론까지, 일상 속 기술을 수학으로 해부하다 

이 책은 우리가 매일 접하는 정보 검색, 상품 추천, 이미지 분류, 문장 생성, 음성 분석, 위치 측정, 6가지 주제를 통해 현대 기술의 근간이 되는 수학적 모델을 설명합니다. 중·고등학교 수준의 기초 수학에서 시작해 미적분, 선형 대수, 푸리에 변환, 상대성 이론까지 나아가며, 기술 속에 숨어 있는 수학의 아름다움을 증명해 냅니다. 

• 구글 검색은 어떤 원리로 내가 원하는 문서를 찾아낼까? → 벡터와 행렬
• 유튜브와 쇼핑몰은 어떻게 내 취향을 귀신같이 알아맞힐까? → 코사인 유사도와 미분
• 챗GPT는 어떻게 자연스러운 문장을 만들어 낼까? → 확률과 행렬 연산
• GPS는 어떻게 내 위치를 정확히 알아낼까? → 삼각 함수와 상대성 이론

■ 공식 암기가 아닌 ‘흐름’을 읽는 수학 수업 

수학이 어렵게 느껴지는 이유는 맥락 없이 공식부터 외워야 했기 때문입니다. 하지만 이 책은 실제 기술과 서비스가 작동하는 원리를 먼저 이야기하고, 그 문제를 해결하기 위해 수학이 ‘필요한 순간’에 공식을 소개합니다. 또한 복잡한 수식의 중간 계산 과정을 생략하지 않고 꼼꼼하게 보여 줌으로써, 수학을 포기했던 독자라도 논리의 흐름을 놓치지 않고 끝까지 따라갈 수 있도록 배려했습니다.

■ AI 시대의 생존 무기! ‘수학적 사고력’ 기르기

제4차 산업혁명 시대, 기술은 하루가 다르게 변하지만 그 기저에 있는 수학적 원리는 변하지 않습니다. 단순히 도구를 사용하는 ‘소비자’에 머물지 않고, 기술의 원리를 이해하고 응용하는 ‘생산자’가 되기 위해서는 수학적 사고력이 필수입니다.

이 책은 학교에서 배우는 수학이 세상에 어떻게 쓰이는지 궁금한 학생들, 기술적 교양을 쌓고 싶은 모든 현대인, AI 기술의 원리를 깊이 있게 이해하고 싶은 개발자와 엔지니어, 기술의 가능성과 한계를 명확히 파악해야 하는 기획자와 경영진에게 강력히 추천합니다.

이제 막연한 두려움을 거두고, AI라는 거인의 어깨 위에 올라타 세상을 더 넓고 깊게 바라볼 차례입니다. 이 책이 여러분에게 그 단단한 디딤돌이 되어 줄 것입니다.

CHAPTER 01 정보 검색에 활용되는 수학

_1.1 들어가며

_1.2 웹 검색을 위한 수학적 모델의 기초

_1.3 정밀도와 재현율: 검색 결과의 좋고 나쁨 평가하기

_1.4 합의 기호 Σ: 사용자 행동의 평균값을 수학적 모델로 표현하기

_1.5 벡터화: 색인어를 수치화하기

       Column: 자연어 처리에 사용되는 벡터화 기법

       Lesson: 벡터와 행렬

_1.6 비례와 로그: 색인어의 등장 빈도를 수학적 모델로 표현하기

       Lesson: 로그의 성질

_1.7 반비례와 로그: 색인어의 희귀도를 수학적 모델로 표현하기

_1.8 TF-IDF 모델: 문서의 랭킹을 수학적 모델로 표현하기

_1.9 이 장의 핵심 내용

       Column: 한걸음 더: 검색 증강 생성(RAG)

CHAPTER 02 상품 추천을 가능하게 하는 수학

_2.1 들어가며

_2.2 평가 행렬: 상품 평가를 수학적으로 표현하기

_2.3 협업 필터링과 행렬 인수 분해: 평가값을 예측하는 수학적 모델

       Column: 콘텐츠 기반 필터링

_2.4 내적의 정리와 코사인 유사도: 사용자 간 유사도로 예측값 추정하기

_2.5 삼각 함수: 코사인 유사도 이해하기

       Lesson: 내적의 기하학적 해석

_2.6 다차원 확장: 코사인 유사도를 여러 상품에 적용하기

_2.7 중심화: 코사인 유사도 응용하기

_2.8 지시 함수: 코사인 유사도 계산하기

_2.9 결손값을 예측하는 수학적 모델의 설계와 실행

_2.10 상품 간 유사도로 예측값 추정하기

_2.11 세런디피티: 사용자의 시선에서 수학적 모델 다시 바라보기

_2.12 행렬 인수 분해: 문제 해결을 위해 수학적 모델 변경하기

       Lesson: 행렬의 곱셈

_2.13 잔차 행렬과 오차: 평가값 추정을 최적화 문제로 재해석하기

_2.14 손실 함수: 최적화 문제 풀기

       Column: 하이퍼파라미터

_2.15 최소 제곱법과 미분, 편미분: 손실 함수 최적화하기

       Lesson: 미분

       Lesson: 미분, 편미분의 계산

_2.16 편미분과 합의 기호: 계산 결과를 통합한 수학적 모델 도출하기

_2.17 경사 하강법: 예측값 추정하기

_2.18 경사 하강법의 계산 예시

_2.19 협업 필터링과 행렬 인수 분해: 수학적 모델의 차이 살펴보기

_2.20 이 장의 핵심 내용

CHAPTER 03 이미지 분류에 활용되는 수학

_3.1 들어가며

_3.2 CNN: 딥러닝 모델로 이미지 분류 구현하기

_3.3 CNN이 이미지 데이터를 처리하는 방식

_3.4 합성곱층과 풀링층: CNN 구조 이해하기

_3.5 가중치 파라미터와 편향: 이미지 데이터로 CNN의 처리 방식 이해하기

       Column: 파라미터와 편향

_3.6 소프트맥스 함수: 확률 예측으로 이미지를 분류하는 방법

       Column: AI 모델의 블랙박스화

_3.7 오차 최소화: 이미지 분류 성능 향상하기

_3.8 로그 우도 함수: 손실 함수 정의하기

_3.9 합성 함수: 출력층 파라미터의 영향 범위 고찰하기

       Lesson: 합성 함수의 미분

_3.10 편미분: 출력층 파라미터로 손실 함수 최적화하기

       Lesson: 자연 상수

_3.11 출력층 파라미터로 손실 함수의 편미분 결과 도출하기

_3.12 합성 함수: 합성곱층 파라미터의 영향 범위 고찰하기

_3.13 합성곱층 파라미터로 손실 함수의 편미분 결과 도출하기

_3.14 수학적 모델로 이해하는 오차 역전파

_3.15 이 장의 핵심 내용

CHAPTER 04 문장을 생성하는 데 필요한 수학

_4.1 들어가며

_4.2 트랜스포머: 대규모 언어 모델을 실현하는 수학적 모델

_4.3 확률적 예측 모델로 출력 생성하기

_4.4 단어 임베딩: 입력 데이터를 적합한 형식으로 변환하기

_4.5 위치 인코딩: 단어의 순서에 관한 정보 추가하기

_4.6 멀티 헤드 어텐션: 트랜스포머의 핵심

_4.7 행렬의 곱셈과 전치 행렬: 헤드 내부의 계산 방식 이해하기

_4.8 위치 인코딩의 중요성

_4.9 소프트맥스 함수: 행렬의 곱셈 결과 스케일링하기

_4.10 모든 헤드의 계산 결과 결합하기

_4.11 모든 토큰 요소 정규화하기

_4.12 활성화 함수: 정확도를 향상하는 방법

_4.13 자기회귀 방식으로 출력 생성하기

_4.14 마스킹된 멀티 헤드 어텐션: 참조 토큰 범위 제어하기

_4.15 교차 어텐션: 인코더에서 처리된 정보 통합하기

_4.16 확률 예측에 기반한 출력 생성

_4.17 이 장의 핵심 내용

       Column: 한걸음 더: 트랜스포머를 통합한 최신 AI 사례

CHAPTER 05 음성 분석을 위한 수학

_5.1 들어가며

_5.2 푸리에 해석으로 살펴보는 수학적 모델

_5.3 삼각 함수: 단순한 파형을 주기 함수로 표현하기

_5.4 주파수와 각주파수: 주기 함수의 특징 알아보기

_5.5 푸리에 급수 전개와 급수 전개: 복잡한 파형을 여러 개의 주기 함수로 표현하기

_5.6 sin x의 매클로린 전개: 삼각 함수를 근사적으로 표현하기

       Lesson: 삼각 함수의 미분

_5.7 cos x의 매클로린 전개: 오일러 공식 도출 준비 1

_5.8 지수 함수 ex의 매클로린 전개: 오일러 공식 도출 준비 2

_5.9 오일러 공식 도출하기

       Column: 데카르트, 뉴턴, 라이프니츠, 오일러

_5.10 푸리에 급수 전개: 복잡한 파형을 여러 주기 함수로 표현하기

       Lesson: 삼각 함수의 합성

_5.11 정적분: 푸리에 계수 a0 도출하기

       Lesson: 적분 1

       Lesson: 적분 2

_5.12 푸리에 계수 자세히 알아보기: 경우 나누기

_5.13 푸리에 계수 자세히 알아보기: m ≠ n의 경우

_5.14 푸리에 계수 자세히 알아보기: m = n의 경우

       Lesson: 직교성

_5.15 푸리에 계수 an, bn 도출하기

       Column: 수학적으로 생각한다는 것

_5.16 오일러 공식을 사용한 복소 푸리에 급수 전개

       Lesson: 허수와 복소수

_5.17 복소 푸리에 계수 구하기

_5.18 표준화와 양자화: 아날로그 데이터를 디지털로 변환하기

_5.19 이산 푸리에 변환: 음성 데이터를 수학적 모델로 표현하기

_5.20 이산 푸리에 변환으로 음성 해석하기

_5.21 이 장의 핵심 내용

       Column: 음성 인식과 AI

CHAPTER 06 위치 측정에 활용되는 수학

_6.1 들어가며

_6.2 시간×속도: 위성과 수신기 사이의 거리 계산하기

_6.3 연립방정식: 수신기의 위치를 기하학적으로 해석하기

_6.4 전미분과 합성 함수의 미분: 연립방정식 세우기

_6.5 축차 근사법: 연립방정식 풀기

_6.6 뉴턴 역학: 위성의 위치를 수학적 모델로 표현하기

_6.7 만유인력의 법칙과 운동 방정식: 위성의 운동을 수학적 모델로 표현하기

_6.8 위치 벡터, 속도 벡터, 가속도 벡터: 위성의 운동 방정식

_6.9 극좌표계: 위성의 운동을 쉽게 표현하기 위한 좌표 공간

_6.10 삼각 함수의 미분과 곱의 미분: 위성의 위치를 수학적 모델로 표현하기

_6.11 계수 비교: 위성의 운동에 관한 관계식 도출하기

_6.12 상미분 방정식: 위성의 위치를 나타내는 방정식 도출하기

       Lesson: 2차 선형 미분 방정식, 단진동 미분 방정식

_6.13 극방정식과 이심률: 위성의 운동을 타원으로 표현하는 방법

       Lesson: 타원의 방정식과 극방정식

_6.14 타원의 방정식: 위성의 위치를 수학적 모델로 표현하기

_6.15 케플러 궤도의 여섯 가지 요소: 궤도면과 타원의 모양으로 위성의 위치 예측하기

_6.16 위성의 위치 측정을 방해하는 요소

_6.17 특수 상대성 이론과 일반 상대성 이론: 시간 지연으로 인해 발생하는 오차

       Column: 절대 시간과 상대 시간

_6.18 로런츠 인자: 특수 상대성 이론으로 이해하는 시간 지연

_6.19 아인슈타인 방정식과 슈바르츠실트 해: 일반 상대성 이론으로 이해하는 시간 지연

_6.20 슈바르츠실트 해로 이해하는 시간 지연

_6.21 이 장의 핵심 내용

APPENDIX 1 상대성 이론의 수학적 기초

들어가며

맥스웰 방정식에서 도출한 파동 방정식과 빛의 속도

갈릴레이의 상대성 원리와 관성계

갈릴레이 변환과 합성 속도

갈릴레이 변환을 파동 방정식에 적용하기

아인슈타인의 특수 상대성 원리와 광속 불변의 원리

로런츠 변환의 도출

로런츠 변환을 전자기파에 적용하기

특수 상대성 원리에 기반한 합성 속도

특수 상대성 원리에 기반한 시간 지연

일반 상대성 이론과 아인슈타인 방정식

아인슈타인 텐서의 구조

계량 텐서

시공간 간격과 불변량

고유 시간

균일한 중력장에서 시공간의 휘어짐을 나타내는 방법

실제 중력장에서 시공간의 휘어짐을 나타내는 방법

등가 원리

   Lesson: 중력 퍼텐셜

아인슈타인 방정식

마치며

APPENDIX 2 푸리에 변환 도출하기

들어가며

비주기 함수에 대응하는 수학적 모델로 확장하기

주기를 무한으로 확장해서 비주기 함수에 대응하기

   Lesson: 적분 3

복소 푸리에 급수 전개에서 푸리에 변환 도출하기

마치며

인공지능 관련 업무를 수행하는 데 수학적 소양이 반드시 필요한가에 대해서는 개개인의 의견이 다르겠지만, 근간을 이루는 기술을 깊이 이해할수록 학습자 스스로 수학적 소양에 대한 필요성을 느끼게 됩니다. 특히 다양한 분야에 적용되는 인공지능 기술의 성능을 개선하기 위해서는, 그 원리를 구성하는 수학에 대한 이해 없이는 안 될 만큼 중요성이 더욱 커지고 있습니다.

이 책은 흔히 인공지능 전문서에서 다루는 코드 기반 설명이 아니라, 수식과 증명을 토대로 대표적인 알고리즘의 핵심 이론을 설명합니다. 처음에는 다소 어렵게 느껴질 수 있으나, 책에서 소개된 다양한 주제에 활용되는 수학적 이론을 직접 따라가며 읽다 보면 어느덧 그 근간 기술의 원리를 자연스럽게 이해하고 있을 것입니다.

강찬석, LG전자 소프트웨어 엔지니어(AI 스페셜리스트)

베타리딩을 하면서 막연하게 느껴졌던 AI 추론과 GPS 계산이 실제로 어떤 수식과 과정으로 표현되는지 감을 잡을 수 있었습니다. 많은 사람이 ‘AI는 블랙박스’라고 말하지만, 완전히 설명 불가능한 영역만은 아니라는 점도 새롭게 깨달았습니다. 필요하다면 수학적으로 풀어 이해할 수 있다는 사실이 오히려 큰 용기가 되었습니다.

수학이 이렇게 현실의 기술 문제를 직접적으로 다루는 데 활용된다는 것을 이제야 알게 되어, 학창 시절 행렬이나 미적분을 더 열심히 배웠다면 어땠을까 하는 아쉬움도 듭니다. 그래도 이 책을 여러 번 읽다 보면, 앞으로는 논문도 어느 정도 이해할 수 있지 않을까 조심스러운 기대를 품게 되었습니다.

변수영, 카카오 소프트웨어 개발자

이 책은 우리가 매일 사용하는 검색, 추천, 이미지 인식, 생성형 AI, 음성 분석, GPS 같은 기술의 ‘보이지 않는 기반’으로서 수학이 어떻게 작동하는지 친절하고 체계적으로 보여 주는 안내서입니다. 실제 기술과 서비스를 출발점으로 삼아, 벡터·행렬·확률·통계 같은 개념이 왜 핵심이 되는지 ‘서비스 → 수학적 모델 → 구현’의 흐름 속에서 자연스럽게 설명합니다. 원서를 읽은 많은 독자가 수학이 학교 수업을 넘어 실제 기술의 언어라는 감각을 되찾았으며, 수학이 낯설거나 어려웠던 사람들에게도 용기와 통찰을 주었다는 평가가 이어지고 있습니다. 또한 수학에 익숙하지 않은 사람이라도 쉽게 시작할 수 있도록 구성되어 있어, ‘수학 = 먼 이론’이 아니라 ‘수학 = 현실을 움직이는 도구’라는 인식을 새롭게 심어 줍니다.

이 책은 단순히 공식을 외우는 것이 아니라, AI 시대에 필요한 기초 체력인 수학적 사고력, 논리적 모델 이해력, 문제 해결 방식을 단단히 다지는 교본입니다. 앞으로 새로운 기술이나 도구가 나오더라도, 그 안에 숨어 있는 원리를 빠르게 파악하고 비판적으로 활용할 수 있는 튼튼한 토대가 되어 줄 것입니다. 만약 지금 AI·데이터·서비스 개발에 관심이 있거나, 단순한 도구 사용을 넘어 ‘원리를 이해하고, 스스로 설계하며, 사고력을 키우고 싶은 분’이라면, 이 책은 매우 뜻깊은 출발점이 될 것입니다.

이문환, LG CNS AI Professional

『AI를 움직이는 수학 이야기』라는 제목만 보고 AI에 활용되는 수학만 다룰 것이라 예상했다가 깜짝 놀랐습니다. 비교적 이해하기 쉬운 기본 데이터 처리에 사용되는 수학부터 이미지/음성, GPS 위성 측정에 활용되는 수학, 나아가 상대성 이론까지 아우르는 수학 책이라니요. 수학 전문가는 아니지만 수학을 즐기는 엔지니어로서, 심심할 때마다 꺼내 여러 번 곱씹어 볼 수 있는 알찬 책이 이렇게 번역되어 무척 기쁩니다. 쉽지 않은 분야이기에 설명이 아무리 친절해도 어렵게 느껴질 수 있지만, 정말 성실하게 설명해 주는 책입니다. AI뿐만 아니라 우리가 마주치는 각종 데이터들이 필수로 거치는 아름다운 수학 원리를 알고 싶은 분들께 강력히 추천드립니다.

이원, TDK | SoftEye Staff Engineer

AI를 연구하거나 머신러닝 모델을 개발하는 분이라면 반드시 짚고 넘어가야 할 수학적 기반을 명쾌하고 실용적으로 정리한 책입니다. 복잡한 이론을 직관적으로 풀어내는 설명력이 돋보이며, 실제 프로젝트에서 해당 공식들이 어떻게 활용되는지 구체적으로 보여 줍니다. 이론적 깊이와 실무 적용력을 함께 갖춘 드문 책입니다.

임수민, (주)베리워즈 플랫폼 개발 팀 이사

AI의 작동 방식을 기본적인 수학 개념을 사용해 설명한 책입니다. 직장인이 된 이후 이렇게 많은 공식을 본 것은 처음이지만, 초중반의 내용은 학창 시절의 기억을 되살리고 AI의 도움을 받으면 충분히 이해 가능한 수준입니다. 하지만 너무 쉽게만 생각하지는 말기 바랍니다. AI 전문가가 되기 위해 시간을 들인다면 충분히 극복할 수 있는, 도전적이면서도 의미 있는 내용들이 담겨 있습니다.

홍상의, 프리랜서

인공지능을 이루고 있는 근간의 모든 것은 수학입니다. AI 모델은 미분, 적분, 선형 대수, 코사인 유사도, 행렬 같은 수학 개념을 기반으로 만들어지고 코드로 구현됩니다. 이 책은 이러한 개념을 상세히 설명하며 AI에서 어떻게 사용되는지를 명확하게 보여 줍니다. CNN, 트랜스포머 등의 기본적인 동작 원리를 파악하고 이를 통해 더 좋은 모델을 만들고 싶은 분들께 좋은 참고서가 될 것입니다.

홍준용, 한국산업은행 AI 플랫폼 팀