우리가 주목해야 할 것은
엔비디아의 기술이 아니라
엔비디아가 일하는 방식이다!

국내 최초로 소개하는
엔비디아와 젠슨 황의 성공 원칙

★★★★★ 실리콘밸리에서 한국 기업이 참고해야 할 단 하나의 기업_김태용 EO 대표
★★★★★ 리더십, 혁신, 그리고 기술 진화에 대한 깊은 통찰_손재권 더밀크 대표
★★★★★ 변화를 향한 새로운 자극과 동기가 되어주는 책_황성현 코코네스쿨 대표

세계 최고의 인재들이 “가장 일하고 싶어 하는” 회사. 실리콘밸리 엔지니어들이 꿈꾸는 “끝까지 함께하고 싶은” 회사. 그리고 주차장에 가장 많은 슈퍼카가 주차되어 있는 회사. 가장 늦은 시간까지 회의실 불이 꺼지지 않는, 세상에서 가장 작은 대기업 ‘엔비디아’를 수식하는 문장들이다.
우리가 하루가 다르게 치솟는 엔비디아의 주가에 주목하는 사이에도 엔비디아는 AI 시대를 지배하기 위한 발걸음을 늦추지 않는다. 그리고 젠슨 황의 리더십, 엔비디아의 조직 문화와 일하는 방식은 다양한 갈등 속에서 동력을 상실해가고 있는 한국의 기업들에게 변화를 향한 새로운 자극과 동기가 되어줄 것이 분명하다. 엔비디아가 전설이 되어가는 과정을 조밀하고 생생하게 기록한 이 책이 변화의 길 위에 선 이들에게 세밀한 지도가 되어줄 것이다.

▶ 추천사

실리콘밸리에서 한국 기업이 참고할 만한 기업을 딱 하나만 꼽으라면 단연 엔비디아다.
8년 전부터 실리콘밸리를 취업하면서 가장 많이 들었던 이야기가 ‘실리콘밸리도 얼마 못 간다’였다. 하지만 보란 듯이 생성형 AI 시대를 열고, 모든 부분에서 전 세계의 부를 쓸어 담고 있으며, 성장의 기울기는 계속 가팔라졌다. 애플, 알파벳, 아마존, 메타, 테슬라, 넷플릭스 등 실리콘밸리의 혁신 기업의 성장의 비밀을 전하는 일을 하면서 내가 하는 이야기가 한국 기업에게 적용 가능하고 실질적인 도움이 되는지 항상 의문이었다. 우리나라는 해고가 거의 불가능하고, 기초과학과 기술력도 차이가 크며, 자본력과 기업가 정신의 역사도 크게 다르기 때문이다. 늘 우리가 배울만한 기업이 어디일까 찾아다녔고, 엔비디아 임직원들과 만나서 이야기를 나누던 중 바로 이곳이 우리가 참고할 회사라는 생각을 했다.
엔비디아는 미국의 비주류인 대만의 이민자 젠슨 황에 의해 세워졌다. 1993년에 설립되어 30년이 넘었으며, 한국 기업처럼 고용 안정성을 제공한다. 안 좋은 일이 있어서 몇 개월째 퍼포먼스를 잘 못 내는 직원에 대해 해고해야 되지 않냐고 한 직원이 타운홀 미팅 때 젠슨 황에게 묻자, 그러면 그런 상태의 사람에게 맞는 일을 주는 것이 본인의 기조이고 해고는 고려하지 않는다고 답했다고 한다. 다른 직원의 이야기에 따르면 한국의 중견 기업 사장들처럼 아직도 많은 의사결정을 세밀하게 직접 내리는 경우가 많고, 임원들끼리는 웬만해서는 젠슨과 같은 자리에 있을 때 소통해 소수만 아는 비밀을 최대한 없게끔 한다고 한다. 책에 나온 ‘이 회사가 마지막 회사이길 바라는 마음’으로 회사를 다니는 사람들이 많다. 누군가 깊게 취재해서 써줬으면 하는 엔비디아의 혁신 매커니즘에 관한 책을 한국인의 시각으로 풀어낸 이 책을 기쁜 마음으로 순식간에 읽었다.
평생 없을 것 같던 삼성 위기론이 오가는 시대에 살고 있다. 또 몇 년 안에 기업가치 조 단위를 찍었다는 헤드라인으로 수많은 스타트업들이 생겨나고 없어지고 있다. 어느 정도 성장한 IT 회사들은 수십, 수백 개의 계열사를 만들어 작은 재벌을 만들고 내수 시장에서 경쟁하고 있다. 이 책은 우리가 어떻게 우리끼리 경쟁하지 않고 장기적으로 경쟁력 있고 건강한 회사를 만들 수 있는지, 한국의 경영자들이 한국 기업을 대상으로 적용 가능한 수많은 프레임워크들을 제안한다. 큰 꿈을 꾸는 경영자들과 비관주의에 빠진 임직원들 모두에게 이 책을 추천하고, 함께 나아갈 수 있는 힌트를 얻을 수 있길 바란다._김태용 EO 대표

지난 10년간 젠슨 황 CEO의 여정과 성과를 지켜봐왔고, 직접 인터뷰도 했었다. 엔비디아 사옥에도 수없이 가보고 취재했다. 그의 뛰어난 리더십과 비전을 꼭 알려야겠다고 생각했다. 그런 상황에서 출간된 이 책은 엔비디아라는 강력한 기업의 여정을 통해 리더십, 혁신, 그리고 기술 진화에 대한 깊은 통찰을 제공하는 뛰어난 책이다. 젠슨 황과 엔비디아의 실체적 진실을 알고 싶은 한국의 비즈니스 커뮤니티와 투자자들이 꼭 읽어야 할 책이다._손재권 더밀크 대표

과거 10여 년간 MS, 구글, 메타 등의 회사들의 활약이 두드러져 보였지만, 실제 세상의 변화를 이끌고 있는 원동력은 엔비디아의 기술력과 혁신이라 해도 과언이 아니다. 그중에서도 가장 저평가되어 있던 것이 엔비디아의 CEO 젠슨 황의 리더십이다. 이 책은 다양한 갈등 속에서 동력을 상실해가고 있는 한국의 기업들에게 변화를 향한 새로운 자극과 동기가 되어줄 것으로 확신한다. 일독을 권한다._황성현 가천대학교 코코네스쿨 교수

프롤로그
엔비디아의 주요 타임라인

1장 왜 엔비디아인가_Why NVIDIA
모든 것을 시뮬레이션하라 / 큰 그림을 향한 빌드업 / 장벽 깨기: 제1원리 사고법 / 미션이 보스다 / 하나의 구조, 하나의 팀

2장 지적 정직함_NVIDIA’s Keyword
혁신의 출발점은 ‘지적 정직함’ / 실패에서 배우고, 또 실패하고 배우라 / 메타인지 능력: 무엇을 알고 무엇을 모르는가

3장 기술 중심의 리더십_Huang’s Leadership
일은 까다롭게, 소통은 투명하게 / 위계 없애기 / 정보는 막힘없이 흘러야 한다 / 이야기는 간결하게, 우선순위 먼저! / 좋은 리더를 넘어

4장 황의 법칙_Huang’s Law
무어의 법칙에서 황의 법칙으로 / 빛의 속도로 대응하라: 절대속도 / 엔비디아의 성공을 이끈 ‘창업자 모드’

5장 뉴 카테고리를 창출하라_NVIDIA’s Core
눈앞의 시장에 집착하지 마라 / 핵심 가치가 미래를 만든다 / 뉴 카테고리: 새로운 시장을 창출하라

6장 메이드 인 엔비디아_NVIDIA Revolution
‘AI 가속기’ 시대가 열리다 / 카니발라이제이션: 어제의 나를 넘어서라 / 플랫폼 엔비디아 / 거대한 GPU 생태계를 창조하다

에필로그
감사의 글
참고문헌

흥미로운 점은 이 레이 트레이싱 기술이 엔비디아의 새로운 성장 무기가 된 자율주행 기술 부문의 폭풍 성장에도 큰 역할을 미쳤다는 것이다. 자체 첨단 운전자 보조 시스템인 ‘오토 파일럿’을 기반으로 실제 테슬라 차량의 주행 데이터를 밀도 있게 보유한 테슬라와는 다르게 엔비디아는 자체 차량 데이터를 갖고 있지 못하다. 그럼에도 엔비디아가 짧은 시간 내에 빠르게 자율주행 기술을 고도화할 수 있었던 것은 레이 트레이싱 기술을 이용해 인공지능도 깜빡 속을 정도로 실제 차량 주행 그래픽과 영상을 만들어 차량용 AI를 학습시킨 데 있다. 차량 주행에 따른 그림자의 음영과 방향 이미지를 실시간으로 렌더링해 영상화하면서 수많은 학습 자료를 만들어 AI의 성능을 고도로 향상시켰다는 점에서 엔비디아의 ‘빌드업’ 역량을 재확인할 수 있다._26쪽

“세계에서 가장 작은 대기업”이라는 젠슨 황의 말은 매우 일리가 있다. 여기에 빼놓을 수 없는 것은 높은 생산성이다. 엔비디아의 직원 1인당 생산성도 압도적이다. 2024년 1월 기준 직원 1인당 매출은 200만 달러를 돌파했다. 인당 생산성이 높기로 유명한 실리콘밸리에서도 이 수치는 전무후무한 수준이다. 테크 업계 전체로 시야를 넓혀 봐도 엔비디아가 극한의 효율성을 추구하고 있다는 것이 드러나는 부분이다._38쪽

젠슨 황이 직접 조직 구조를 묘사한 바를 참고하면, 엔비디아가 구축한 조직은 엔비디아의 핵심 제품인 ‘컴퓨팅 스택’과 유사하다. 가장 아랫단에는 설계도가 있고, 그다음에는 엔비디아의 칩이 있다. 그 위에 소프트웨어가 올라간다. 그리고 그 위에는 서로 다른 기능을 하는 각 모듈이 있는데, 이 모듈들의 하나하나를 이루는 것은 바로 사람이다. 각 모듈의 기능이 잘 돌아갈 수 있도록 하는 데 가장 많은 지식을 갖고 있고, 가장 적합한 사람이 ‘PIC(주 책임자)’가 되는 구조다. 계층 구조를 넘어서 PIC들을 일종의 허브로 삼아 모든 부서와 역할이 연결되어 협업하는 신경망처럼 작동할 수 있게 한다. 각 칩마다 기반이 되는 설계도를 하나로 통일해 이를 조직 구축 방식에도 반영한 것이다._55쪽

사실 많은 피드백의 경우 상대가 어떻게 받아들일지 예상할 수 없는 데서 오는 불안과 자칫 선의로 한 피드백이 곡해되거나 거절을 받을 수 있다는 두려움이 장벽으로 작용한다. 이는 개개인의 입장에서는 큰 손실이 아니지만, 조직 차원에서는 애초에 직원들의 집단 지성으로 바로 잡을 수 있었던 일을 크게 키웠다는 점에서 막대한 비용이 될 수 있다. ‘지적 정직함’을 공동의 양심으로 삼은 엔비디아는 개개인이 오랜 기간 쌓아야 할 신뢰를 조직 차원에서 빠르게 형성함으로써 수많은 잠재적 손실을 예방할 수 있게 됐다. 직원 개인들도 타인의 열린 자세와 선의를 믿고 피드백을 일종의 ‘품앗이’처럼 행한다._72쪽

기업 규모에 관계없이 조직이 변화에 민첩하게 대응하고 적응력을 높이는 것이 ‘위계 줄이기’의 최대 목표다. 엔비디아 본사에는 경영진을 위한 별도의 건물이 없다. 젠슨 황 역시 정해진 사무실에 머무르며 일하기보다는 상황에 따라 여러 회의실 가운데 하나를 골라 활용하는 유목민 스타일을 선호한다. 이는 엔비디아가 최고의 기업 반열에 오른 지금도 고수하는 원칙이다.
이렇듯 젠슨 황이 유연한 조직 문화를 지향하고, 수십 명에게 직접 보고를 받는 번거로운 일을 자처하는 이유는 단 하나다. 불필요한 보고 단계, 즉 위계를 줄이기 위함이다. 실제로 젠슨 황의 보고 체계에 따라 기업을 운영한 후 조직도상으로 3~4개에 달하는 위계가 줄어드는 것 이상의 효과를 거두었다._115쪽

제품을 제작할 때 설계, 엔지니어링 등 공정의 앞 단계에 포진한 직원들이 절대적인 속도를 요구받아 모든 가정을 원점에서 재검토하면서 최적화를 위한 ‘간극’을 줄여간다. 이후 품질 관리, 패키징 등 후속 단계의 공정을 담당하는 직원들은 엔비디아의 시간표가 무리 없이 돌아갈 수 있도록 하는 데 모든 역량을 발휘한다. 제품을 최종적으로 선보이기로 한 데드라인이 있다면 후공정에 드는 시간은 뒤로 갈수록 촉박해지는 것이 사실이다. 하지만 이 때문에 시간표를 늦추는 일이 발생하지 않도록 미리 계획하고 여러 가지 대안을 준비하는 것도 이들이 SOL(빛의 속도)을 실행하는 방식이다._174쪽

경쟁사들이 엔비디아의 주력 제품의 성능을 따라잡기 위해 총력을 기울이고 있을 때, 엔비디아는 한 발 더 나아가 시장을 넓히면서 계속해서 ‘영토 개척’에 나서고 있다. 게임에서 앞서는 동시에 새로운 게임의 판을 짜면서 우위를 굳혀 나가는 방식이다. 새로운 방식으로, 새로운 제품에 접근하면서, 새로운 고객층을 공략해 어제의 시장보다 오늘의 시장 규모를 키운다. 대표적인 것이 AI 가속기를 넘어 ‘AI 플랫폼’이 되겠다는 구상이다._252쪽

최악의 시작, 극적인 반등,
그리고 현재 진행형의 압도적 성공
당신이 처음으로 만나는
엔비디아의 진면목

시대를 풍미한 기업들에게는 그들의 스타일이 있다. 그리고 그들의 스타일은 다음 아이콘이 등장하기 전까지 전 세계 기업과 개인들이 일하는 방식에 거대한 영향을 끼쳤다. 아마존과 애플, 구글이 대표적이다. AI 시대로의 진입과 동시에 가장 핫한 아이콘으로 떠오른 기업은 바로 엔비디아다. 구성원이 3만 명이 채 안 되는 “세상에서 가장 작은 대기업”에 열광하는 이유는 무엇일까? 그리고 우리는 엔비디아로부터 어떤 영감을 얻을 수 있을까?
실리콘밸리 특파원으로 활동하며 2년여 간 수많은 빅테크와 기술 구루들을 단독으로 취재해온 저자는 치밀하게 추적한 엔비디아의 성공 원칙을 《더 라스트 컴퍼니》를 통해 국내 최초로 소개하며 진화의 동력을 잃어버린 한국의 기업과 개인들을 위한 특별한 인사이트를 제공한다. 2024년 주가 성장률 200%를 기록하며 일부 전문가들만 주목하던 회사에서 모두의 입에 오르내리는 회사가 된 엔비디아는 하루아침에 성공에 이르지 않았다. 저자는 PC 시대에 데뷔하자마자 성장에 한계를 경험했고, 수차례의 우여곡절을 겪었으며, 정체됐던 모바일 시대를 지나 AI 시대 본격적인 진가를 발휘하고 있는 이 회사가 처음부터 실리콘밸리의 슈퍼스타로 등극했던 애플, 구글, 메타와는 완전히 다른 방식으로 진화와 혁신을 거듭해왔다는 것을 분명히 한다.

엔비디아의 특별한 조직 문화는
젠슨 황이 문제를 바라보고 해결하는 방식에서 출발한다!
반도체 제국의 수장
젠슨 황의 말에서 발견한 6개의 인사이트

최근 우리나라 대표 글로벌 기업 삼성전자가 반도체 부문 실적 부진으로 전례 없는 위기를 겪고 있다. 삼성 내부뿐만 아니라 업계 전문가들도 경쟁력 부족의 이유로 ‘문화’를 꼽는다. 비단 삼성만의 문제는 아닐 것이다. 회자되고 있는 보고서 문제는 조직 문화, 특히 소통 실패의 가장 극단적 사례일 뿐이다. 
무려 60여 명의 임원으로부터 직접 보고를 받는 젠슨 황의 파격은 그래서 한국의 기업들에게 시사하는 바가 크다. 특히 저자는 엔비디아의 ‘지적 정직함’에 주목한다. “우리에게 ‘지적 정직함’이란 ‘자기비판’적이 능력이 있다는 것을 의미한다. 우리가 실수를 저질렀다는 것을 인식할 수 있는 능력이 있다는 것을 의미한다. (중략) 끊임없이 위협받고 있다는 것을 인식하는 태도가 중요하다.” 솔직함과 개방성, 투명성을 중시하는 젠슨 황은 돌려 말하지 않는다. 예민한 주제에 대해서도 주저하거나 피하지 않고 열려 있는 태도로 솔직하게 접근한다. 엔비디아가 계속해서 방향을 전환하며 최적의 요구를 만족하는 제품을 만들 수 있었던 것은 젠슨 황의 이러한 태도로부터 비롯된다.
또한 젠슨 황의 파격을 완성하는 소통의 핵심은 ‘일대일 보고’가 없다는 것이다. 데이터의 오염을 막고 위계를 없애기 위한 이 같은 노력은 ‘지적 정직함’과 함께 시너지를 발휘하며 대체 불가능한 절대 강자의 자리를 공고히 하고 있다.
총 6개의 장을 통해 분석한 엔비디아는 당신이 한 번도 보지 못한 모습들을 보여주며 반도체 제국의 자격을 증명한다. 하나의 아키텍처, 하나의 팀으로 움직이는 엔비디아는 정보 전달에 방해가 되는 모든 요소를 제거했고, 그 결과 임원부터 인턴까지 모든 직원들이 젠슨 황의 생각과 비전을 주기적으로 ‘동기화’하며 저마다 같은 정도의 지식으로 의사결정을 내리고 있다. 이를 바탕으로 엔비디아는 매번 새로운 혁신을 만들어내고, 이전에 구축한 ‘메이드 인 엔비디아’조차 과감히 넘어서고 있다. 그들이 만드는 칩만큼이나 정밀하고 효과적인 성공 원칙을 담은 이 책이 기존의 성공마저 까마득하게 뛰어넘는 혁신의 발판이 되어줄 것이다.