코드루덴스

인공지능: 디스토피아인가, 유토피아인가?
By 비노드 코슬라 2024년 9월 20일에 에 게시됨
https://www.khoslaventures.com/ai-dystopia-or-utopia/

1. I소개
저는 40년 동안 파괴적 혁신에 전념하고 연구해 왔습니다. 저는 마이크로프로세서에서 시작하여 제가 공동 창립자로 있던 Sun Microsystems가 개척한 분산 컴퓨팅과 개인용 컴퓨터라는 두 가지 핵심적인 발전을 가져온 획기적인 변화를 일으켰습니다. 그리고 1996년에는 브라우저가 등장하면서 또 한 번의 획기적인 변화를 맞이했습니다. 저는 최초의 중요한 브라우저인 넷스케이프에 투자하고 주니퍼를 인큐베이팅하는 팀의 일원이었으며, 많은 주요 통신 회사들이 무심코 무시했던 인터넷의 기본 TCP/IP 백본 기술을 위한 토대를 마련했습니다. 이 시기가 바로 인터넷 혁명의 여명기였으며, 이 시기에 Facebook은 Amazon과 Google과 같은 초기 거대 기업에 전략적으로 투자했습니다. 인터넷 혁명의 막대한 영향력은 그 자체로 말해줍니다. 그리고 2007년, 아이폰이 등장하면서 모바일 플랫폼 시대가 열렸습니다. 새로운 플랫폼이 등장할 때마다 대규모 애플리케이션 혁신과 새로운 아이디어가 폭발적으로 증가했습니다.

정도의 차이가 종류의 차이가 되는 시점이 있습니다. AI는 이전의 기술 단계적 변화와는 그 종류가 다를 가능성이 높습니다. 마이크로프로세서, 인터넷, 휴대폰은 인간의 두뇌가 활용할 수 있는 도구로서 우리 삶의 많은 부분을 개선했습니다. 하지만 인간의 두뇌 자체를 증식시키지는 못했습니다. 반면 AI는 증기기관과 모터의 출현으로 근력이 증폭된 것처럼 인간의 두뇌를 증폭하고 증식시킵니다;

이러한 엔진이 등장하기 전에는 지렛대나 도르래 같은 수동적인 장치와 동물에 의존했습니다. 에너지를 얻기 위해 음식을 섭취하고 노동을 통해 에너지를 소비했습니다. 엔진의 발명으로 우리 몸이 아닌 석유, 증기, 석탄에서 에너지를 변환할 수 있게 되면서 인간은 외부의 비생물학적 에너지를 사용하여 생산량을 늘릴 수 있게 되었습니다. 이러한 전환은 인간의 조건을 획기적으로 개선했습니다.

AI는 이러한 엔진과 지적 유사성을 지니고 있지만 더 큰 영향력을 발휘할 가능성이 높습니다. 전문성, 사고력, 지식을 배가시킬 수 있는 AI의 능력은 향후 10년 동안 인간의 두뇌 능력을 크게 뛰어넘을 수 있음을 의미합니다. 우리는 인류를 위해 봉사할 수 있는 두뇌 능력이 거의 무한대로 확장되는 시점에 와 있습니다.

인공 지능은 전례 없는 풍요로운 미래를 약속합니다. 무한한 잠재력에 대한 믿음은 저와 같은 기술 낙관주의자뿐만 아니라 '가능성'은 단순히 나타나는 것이 아니라 반드시 실현되어야 한다는 것을 아는 기업가들을 움직이게 합니다. AI의 잠재력에 대한 꿈은 방대하지만, 이를 향한 여정은 복잡하며, 단기적으로는 희소성 이후의 사회로의 전환이 실향민들에게 고통스러울 수 있습니다. 이러한 후유증을 완화하는 것은 가능하며, 이는 합리적인 정책에서 비롯되어야 합니다. 향후 0~10년, 10~25년, 25~50년의 기간은 각각 근본적으로 달라질 것입니다. 인간의 지능을 훨씬 능가하는 기술 역량과 분야별 사회 보급률로 인해 변화의 속도는 예측하거나 예상하기 어려울 것입니다;

미래가 디스토피아적인지 유토피아적인지에 대한 현재의 혼란을 가중시키는 것은 수반되는 실패와 함께 시각을 왜곡하는 현재의 AI 과대광고 사이클입니다. 대부분의 AI 벤처는 재정적 손실로 끝날 것입니다. 하지만 세상을 바꾸는 소수의 기업들에 의해 총체적으로는 손실보다 더 많은 돈이 벌어질 것입니다. 저를 가장 흥분시키는 것은 AI의 수익 규모가 아니라 세상의 흐름을 바꾸고 사회 인프라를 더 나은 방향으로 재창조할 수 있는 잠재력입니다.

//-----------------------------------------------------------------------------
2. AI에 대한 디스토피아적 관점
비관론자와 파멸론자들은 경제와 사회 두 가지 측면에서 디스토피아적 미래를 그립니다. 각각의 우려에 대해 저는 이러한 두려움이 대부분 근거가 없고, 근시안적이고, 불안하며, 실제로 해로운 이유를 설명합니다. 또한 이러한 우려는 사회적 선택을 통해 해결할 수 있습니다. 둠머들의 디스토피아는 제가 보기에 잘못된 위험/보상 산술을 나타냅니다. 저는 AI에 위험이 없는 것은 아니라는 것을 잘 알고 있습니다. AI의 위험은 실재하지만 관리할 수 있습니다. 현재 논쟁에서 <데이터-dl-uid="48">파멸론자들은 가장 명백한 위험인 사악한 '국가' 또는 다른 악의적 행위자에게 AI 경쟁에서 패배하여 서방에 AI가 위험해지는 것이 아니라 작은 '나쁜 지각 있는 AI' 위험에 초점을 맞추고 있습니다. 아이러니하게도 민주주의를 약화시키고 사회를 조작할 수 있는 AI의 능력을 두려워하는 사람들이야말로 이 위험을 가장 두려워해야 합니다! 이것이 바로 우리가 중국에 질 수 없는 이유이며, 모든 인류를 위해 AI를 적극적으로 활용해야 하는 이유입니다. 중국은 파멸론자들의 악몽이 현실로 다가오는 가장 빠른 길입니다. 세계에서 가장 강력한 기술의 공평한 분배를 위해 시진핑과 그의 푸틴 같은 측근들을 믿을 준비가 되셨나요? 그것은 디스토피아적일 것입니다.

A. 일자리 상실과 경제적 불평등
경제 디스토피아에서는 부는 점점 더 상위층에 집중되는 반면 지적 노동과 육체 노동은 평가절하되고, 광범위한 일자리 상실과 디플레이션은 경제와 구매력을 파괴하며, 불평등이 심화됩니다. 특히 강력한 정책 없이 표류하는 민주주의에서 AI는 소수의 엘리트만 번영하고 나머지는 경제적 불안정에 직면하는 세상을 만들 수 있습니다. 하지만 소득 재분배, 최저 생활 수준(아마도 UBI?), 향후 25년간 민주주의에 기반한 전략적 입법 등 현명한 개입을 통해 이를 방지할 수 있습니다. 저는 자본주의가 민주주의와 유권자의 허락에 의한 것이기 때문에 이러한 개입이 가능하다고 믿습니다. 우리가 이 단계적 전환을 올바르게 처리한다면 인공지능은 충분한 부를 창출할 것이고, 인공지능이 없는 세상보다 모두가 더 나은 삶을 살게 될 것입니다.

전 세계 인구의 고령화와 젊은 근로자의 감소를 고려하면 AI는 필수적인 요소가 되었습니다. 올바른 정책으로 전환을 원활하게 하고 주 3일 근무제를 도입할 수도 있습니다. GDP 성장률이 2%에서 5%로 상승하면 노르웨이와 같은 특정 주와 국가의 번영을 촉진한 석유 기금처럼 '전환 기금'을 조성할 수 있는 풍요로움을 얻게 될 것입니다. 이러한 경제적 가능성에 대해서는 섹션 4에서 자세히 설명합니다.

B. 사회적 통제와 조작
사회적으로 반대하는 사람들은 AI가 만연한 감시를 시작으로 인간성을 훼손하는 세상을 보고 있습니다. 하지만 이러한 결과는 피할 수 없습니다. 국가별로 시행되는 법률에 따라 AI가 우리 삶에 통합되는 방식이 결정될 것입니다. 민주주의 사회에서는 이러한 선택은 집단적 선택이 될 것입니다. 저 역시 범죄가 적은 사회를 위해 일부 자유를 기꺼이 포기할 수 있지만, 그렇다고 전체주의를 수용하는 것은 아닙니다. (그리고 AI를 사용하면 범죄의 이유도 줄어들 수 있다는 사실을 잊지 마세요.) AI의 법적 사용에 제약을 가할 의향이 있다면 우려론자들이 예측하는 디스토피아적 비전에 굴복하지 않으면서도 AI의 발전으로부터 혜택을 받는 합리적인 균형을 이룰 수 있습니다;

또 다른 우려로는 AI가 표적 선전이나 딥페이크 기술을 통해 여론을 조작하고 정보를 통제하며 선거에 영향을 미치는 데 이용될 수 있다는 점입니다. 실제로 우리는 이미 2024년 미국 대선에서 러시아의 선거 개입을 목격했으며, 더 강력한 AI가 등장하면 상황이 훨씬 더 악화될 수 있습니다. 이는 민주주의를 훼손하고 진실을 분별하기 어려운 사회를 만들 수 있습니다. 그러나 조작과 통제에 대한 우려는 독재적인 단일 AI 군주가 존재한다는 가정에 근거하고 있는데, 이는 터무니없는 주장일 뿐입니다. 오히려 각기 다른 이해관계에 따라 다양한 AI가 등장하여 권력과 영향력이 통합되는 것을 막을 수 있을 것입니다;

C. AI 시스템에서의 인간 주체성 상실과 윤리적 고려 사항
의료, 사법, 거버넌스와 같은 분야에서 중요한 결정을 내리는 AI에 대한 우려는 특히 현재 시스템에 숨겨진 편견을 고려할 때 타당합니다. 하지만 이러한 편견은 인간에게서 비롯된 것이며, AI는 이를 인식하고 수정할 수 있는 기회를 제공합니다. 예를 들어, 인간 의사는 수술비를 받으면 더 많은 수술을 하는 경향이 있으며 편견이 없다고 주장하기 어렵습니다. AI는 편견 없는 진료를 제공할 수 있는 유일한 방법입니다. AI는 편견을 드러내고 이를 바로잡을 것입니다. 이는 아래에서 자세히 설명하겠지만 풍요롭고 공평한 세상을 만들 것입니다.

제 생각에는 인간이 AI의 의사 결정 권한을 취소할 수 있는 권한을 유지하여 AI가 견제받지 않는 힘이 아니라 인간의 합의에 따른 '기관'으로 남을 수 있도록 할 것입니다. 지각이 있는 악의적인 AI의 유령은 위험하지만 우리가 완화할 수 있는 위험입니다.

AI가 업무를 재편하고 궁극적으로 의료, 사법, 거버넌스 분야에서 인간의 지성과 판단을 뛰어넘는 결정을 내리면서 우리는 인간의 목적을 재정의하고 현재의 결과를 개선할 수 있는 기회에 직면해 있습니다. 오늘날 우리는 6세부터 학교에서 취업을 위한 교육을 받도록 프로그램화되어 있으며, 이는 결국 자아의 많은 부분을 지향하게 됩니다. 하지만 25년 뒤에는 이러한 절박한 명령이 없다면 아이들에게 탐구하고, 상상하고, 발견하고, 실험하도록 가르칠 수 있을 것입니다. 생존을 위한 직업으로부터 사람들을 해방시키면 인간됨의 의미를 재정의하여 우리의 '인간다움'을 높이고 목표의 다양성을 확대할 수 있으며, 직업과 같은 '목적'이 아니라 자신의 장점을 위한 지적 추구를 추구할 수 있도록 더 광범위한 교육이 필요할 수 있습니다.

궁극적으로 '인간다움'은 생존의 굴레에서 벗어나 이러한 동기를 추구할 수 있는 자유로움으로 정의될 것입니다. 무엇보다도 자원에 대한 경쟁이 줄어든 세상에서는 더 많은 사람들이 외부의 압력보다는 내적 동기에 의해 움직이게 되기를 바랍니다. 사회와 개인은 개인적으로 어떤 기술을 활용하고 어디에 시간을 보내고 싶은지 선택할 수 있는 능력을 갖게 될 것입니다. 인공지능을 활용하지 않고 개인적인 결정을 내리는 것을 좋아하는 사람이라면 당연히 보조 조종사 없이도 자유롭게 활동할 수 있을 것입니다. 우리에게 강요되는 것은 아무것도 없을 것입니다. AI는 지배자가 아니라 우리의 필요와 요구를 충족시키기 위한 도구가 될 것입니다. 작게 보면 미국의 아미쉬는 스스로의 선택에 따라 기술을 포기합니다. 이러한 커뮤니티는 수천 개가 있을 수 있습니다;

위와 같이 AI에 대한 의존이 인간의 윤리적, 도덕적 기준을 약화시킬 수 있다는 우려가 있습니다. AI 시스템이 윤리적 고려 사항보다 효율성을 우선시하도록 프로그래밍되면 해롭거나 부당한 결정을 내릴 수 있습니다. 하지만 이는 기계가 아닌 인간이 내리는 사회적 선택입니다. 우리가 잘못하면 그 책임은 고스란히 우리가 져야 할 것입니다;

비관론자들이 기계가 인간의 가치, 윤리, 감정에 대한 미묘한 이해가 부족하기 때문에 윤리적, 도덕적 타락을 우려할 때, 저는 인간이 책임자가 될 때 훨씬 더 큰 위험이 있다고 말하고 싶습니다. 조율도 중요하지만, 그룹을 조율하고 결정을 내릴 때도 마찬가지라고 할 수 있습니다. 먼저 같은 생각을 하는 것이 중요합니다. AI가 우리의 지시를 이해하고 따를 수 있을 만큼 강력하거나 그렇지 않거나 둘 중 하나입니다. 두 가지 모두를 가질 수는 없습니다. 완전히 독립적인 AI는 아래에 언급된 다른 더 큰 위험을 초래할 수 있지만, 우리의 지시를 이해하지 못하는 '충분히 똑똑한 AI'는 그 중 하나가 아닙니다.

D. 창의성과 비판적 사고의 상실
인간의 창의성과 비판적 사고의 침식에 대한 우려와 관련하여, 이는 AI 세상을 보는 편협한 시각이라고 생각합니다. 비평가들은 AI 알고리즘이 사용자에게 좁은 범위의 에코 챔버 아이디어를 제공함으로써 문화적 동질화를 우려합니다. 이들은 AI에 지나치게 의존하게 되면 사람들이 기계에 의존해 결정을 내리게 되면서 인간의 창의성, 문제 해결 능력, 비판적 사고가 약화될 수 있다고 우려합니다.

하지만 음악적 재능이 전혀 없는 저 같은 사람도 딸의 결혼식을 위해 쓴 연설문의 메시지를 전달하기 위해 맞춤형 노래를 만들 수 있는 세상을 상상해 봅니다. 실화입니다. 저에게는 큰 의미가 있었습니다. AI를 통해 우리는 현재의 한계와 역량을 넘어 창의력을 확장할 수 있습니다. 그리고 위대한 예술가, 화가, 공연자들은 이러한 도구를 더 많이 활용할 수 있을 것입니다. 저는 AI 시스템이 창의적인 작업을 더 잘할 수도 있고, 곧 감정과 공감을 표현할 수도 있으며, 그렇게 함으로써 인간을 보완할 수 있다는 점에서 인간성의 상실이 아니라 오히려 인간성의 증강과 확장이라고 봅니다.

E. AI 자율성, 실존적 위험, 패권 & 중국
가장 극단적인 견해로는 AI가 통제 불능이 되어 인간을 멸종시킬 수 있다고 경고하는 사람들이 있습니다. '지각이 있고 독립적이며 악의적인 AI'의 위험은 아마도 AI가 초래할 수 있는 가장 큰 위협이며, 우리가 심각하게 받아들여야 할 문제일 것입니다. AI가 인간의 통제를 빠르게 뛰어넘는 '하드 테이크오프'라는 개념은 현실이며 경계가 필요하지만, 이러한 위험을 AI가 인류에게 제공하는 막대한 혜택 또는 적대적인 국가에 의해 초래될 수 있는 위험과 비교하여 평가하는 것이 중요합니다.

'AI의 대부'로 널리 알려진 요슈아 벤지오와 제프리 힌튼은 이러한 우려를 반향합니다. 벤지오와 함께 힌튼은 악의적인 행위자나 조직에 의해 오용되는 AI의 치명적인 위험에 대해 경종을 울렸습니다. AI가 자기 복제를 통해 자신의 생존을 보호하고, 인간의 개입에 영향을 받지 않는 시스템을 구축하거나 디지털 인프라의 취약점을 악용할 수 있는 잠재력은 민주주의를 불안정하게 만들 뿐만 아니라 전 인류를 전복시킬 수 있습니다. 이러한 우려는 AI 자체뿐만 아니라 이러한 강력한 도구가 널리 보급되어 악의적인 의도를 가진 사람들의 손에 넘어갈 수 있는 접근성에 대한 우려이기도 합니다. 벤지오는 AI 개발을 규제하고 오용을 방지하며 인류를 보호하기 위한 대응책을 개발하기 위한 국제적 협력을 옹호합니다. 저는 AI의 사용이 명백한 바이오 무기나 핵무기와 달리 검증할 수 없는 상황에서 국제 조약은 무의미하다고 주장합니다. 맥스 테그마크도 마찬가지로 '통제 문제'에 중점을 두고 있지만, 이마저도 AI 안전 연구의 발전으로 해결되고 있습니다. OpenAI의 인간 피드백을 통한 강화 학습(RLHF) 연구와 같은 노력과 AI 해석 가능성에 대한 광범위한 연구가 증가하면서 이 분야는 보다 투명하고 제어 가능한 시스템을 향해 나아가고 있습니다. 미국 AI 안전 연구소의 AI 안전 책임자인 폴 크리스티아노는 정렬 문제가 실제로 존재하지만 해결 불가능한 것은 아니며 기술적 솔루션과 보다 엄격한 감독 프레임워크를 통해 점진적으로 해결되고 있다고 지적합니다. 여기에는 인간이 AI 학습 과정을 보다 면밀히 감독하여 AI가 최적화하는 목표가 인간의 가치와 일치하는지 확인할 수 있는 시스템이 포함됩니다.

게다가 핵무기나 팬데믹을 실존적 위험으로 비유하는 것은 다소 잘못된 것입니다. AI와 달리 핵무기와 팬데믹은 즉각적이고 명백한 파괴력을 지니고 있습니다. 반면에 AI는 특정 기능을 수행하도록 설계하고 안내할 수 있는 도구입니다. "Human Compatible"의 저자 스튜어트 러셀은 신중한 계획을 세우면 AI가 위협이 되지 않도록 제어할 수 있다고 강조했습니다. 그는 AI의 목표를 불확실하게 설정하고, 그 결정에 대해 지속적으로 인간의 승인을 구하도록 해야 한다고 제안합니다. 흔히 '가치 정렬'이라고 불리는 이 접근 방식은 테그마크, 벤지오, 힌튼이 제안한 방식으로 AI가 악의적으로 변질될 가능성을 낮춥니다. 하지만 자동적이거나 보장되는 것은 아니므로 더 많은 연구 자금이 필요합니다. 하지만 규제로 AI 개발 속도를 늦추는 것은 비우호적인 국가와의 싸움에서 감수하기에는 너무 큰 위험입니다. 뒤처지는 것이 가장 큰 위험입니다.

Meta의 수석 AI 과학자인 얀 르쿤과 같은 연구자들은 현재의 AI 시스템에는 자기 인식이나 자율성에 필요한 기본 메커니즘이 부족하다고 지적했습니다. 이들에게 지각이 있는 AI가 세상을 장악할 것이라는 두려움은 크게 과장된 것입니다. 우리가 알고 있는 AI는 독립적인 동기 부여나 스스로 목표를 설정할 수 있는 능력 없이 인간이 생성한 입력과 목표에 전적으로 의존하고 있습니다. 르쿤은 AI가 빠르게 발전하고 있지만, AI가 지성을 개발한다는 생각은 여전히 현재의 기술 역량을 훨씬 뛰어넘는다고 주장합니다. (하지만 단기간 내에 실현 가능성이 있는 것은 무엇일까요? 중국은 이 인공지능 경쟁에서 우위를 점하고 있으며, 정권의 무력을 활용하여 전 세계의 정치 및 사회 경제적 가치를 지배하기 위해 인공지능을 활용하고 있습니다. 이에 대한 자세한 내용은 아래에서 확인할 수 있습니다.) 이러한 종말론적 공포 조장에 대한 저의 종합적인 생각은, 이미 고양이가 백을 벗어났고 우리는 손 놓고 앉아서 악의적 행위자들의 AI 사용에 완전히 취약해지거나 악의적 행위자들에 맞설 수 있는 기술 개발에 박차를 가하는 것 중 하나를 선택할 수밖에 없다는 것입니다.

또한, 여러 개의 AI를 보유하게 될 가능성이 높기 때문에 최악의 시나리오에서도 모든 AI가 동시에 인류를 적대시할 가능성은 낮습니다. AI의 설명 가능성에 대한 강조가 커지면서 AI의 목표를 인간의 가치와 일치시켜 안전성을 강화할 수 있을 것입니다. 향후 10년 이내에 우리는 통제할 수 없는 '블랙박스 시스템'에 대한 공포를 넘어설 수 있을 것이라고 믿습니다. 하지만 이 문제를 해결하려면 AI 안전과 윤리에 집중해야 합니다.

AI 안전에 대한 투자는 매우 중요하며, 대학 연구의 상당 부분이 이 분야에 집중되어야 합니다. 연방 정부는 AI의 안전 연구와 탐지에 더 많은 투자를 해야 합니다. '꺼짐 스위치'와 같은 기능은 적절한 연구와 테스트를 거친 후에 도입해야 합니다. 또한 인류는 팬데믹, 소행성 충돌, 핵전쟁 등 수많은 실존적 위험에 직면해 있다는 사실을 기억하는 것도 중요합니다. AI는 더 넓은 맥락에서 볼 때 하나의 위험일 뿐이며, 우리는 이러한 위험과 AI가 가져올 수 있는 잠재적 혜택 사이의 상충 관계를 고려해야 합니다. 제 생각에는 중국과 다른 적대국 에게 AI 기술에서 뒤처질 위험이 지각 있는 AI 위험보다 훨씬 더 큰 위험이라고 생각합니다. AI의 발전 속도가 느려지는 것은 민주주의에 재앙이 될 수 있으며, 우리가 감수할 수 있는 가장 큰 위험입니다.

향후 20년 동안 기술, 특히 AI 분야에서 리더로 부상하는 국가는 기술의 전 세계적 보급, 경제적 이익과 영향력, 그리고 가치에 있어 주도적인 위치에 서게 될 것입니다. AI는 사이버 전쟁이나 국방용 킬러 로봇과 같은 응용 분야뿐만 아니라 지구를 위한 무료 의사, 무료 과외 선생님과 같은 분야에서 가장 가치 있는 기술이 될 것입니다. 이 인공지능 경쟁과 융합과 같은 관련 경쟁에서 승리하는 국가는 막강한 경제력을 바탕으로 정치력을 발휘하여 세계 정치 시스템에 기름을 부을 수 있을 것입니다. 동남아시아, 아프리카, 라틴 아메리카 등에도 영향을 미칠 수 있습니다. 이 기술 경쟁에서 민주주의의 가치가 위태롭기 때문에 우리는 이 싸움에서 승리하고 중국을 이기기 위해 할 수 있는 모든 것을 해야 합니다. 유토피아에 대한 그들의 관점은 다를 수 있습니다.

저는 중국이 25년 동안 중국 공산당이 옳다고 생각하는 것을 중국 사회에 강요하기 위해 천안문 광장 전술을 취할 수 있다고 생각합니다. 이와는 대조적으로 우리는 정치적 과정을 거치게 될 것입니다. 민주주의 가치가 전 세계적으로 승리하려면 AI에 신중하게 접근해야 하지만 AI 경쟁에서 패배해서는 안 됩니다. 그렇기 때문에 시진핑 주석이 감독하는 중국의 14차 5개년 계획은 AI와 5G 무선 분야에서 승리하겠다는 의지를 구체적으로 선언한 것이라고 생각합니다. 전자는 경제력을, 후자는 통신 네트워크와 틱톡을 통제함으로써 중국이 100개 이상의 국가에서 모든 국민을 감시할 수 있게 해줄 것입니다. 기술 리더십은 전시에 동원할 만한 가치가 있는 실존적 우선순위입니다. 시진핑의 봇이 미국 학자와 철학자들이 우려하는 '정렬의 제약'이 없는 사적인 대화를 통해 은밀하게 개별적으로 서구 유권자에게 영향을 미친다고 상상해 보세요. 의도적이든 의도적이지 않든 이러한 위험을 해결하려면 안전 기술에 대한 연구와 투자를 대폭 늘려야 하지만, AI를 공격적으로 규제해서는 안 됩니다.

인구구조, 성장 둔화, 막대한 부채 부담으로 인해 중국이 향후 10년 내에 정점에 달할 것이라고 믿는다면, 우리는 중국이 쇠퇴기에 더욱 필사적으로 이기고자 하며 더 위험해질 것이라고 믿어야 하며, 이는 <데이터-dl-uid="85">투키디데스 함정과 반대되는 현상입니다. 그렇기 때문에 가상의 시나리오에 대해 토론하고 우선순위가 잘못된 규제로 진전을 늦추는 동안 그들의 자비를 베풀어서는 안 됩니다.

우리는 지각 있는 인공지능이 인류를 파괴하는 것에 대해 걱정해야 하지만 소행성이 지구에 충돌하거나 팬데믹이 발생할 위험도 존재하지만 제 생각에는 중국이 우리 시스템을 파괴할 위험이 훨씬 더 크다고 생각합니다. 현재 논쟁에서 <데이터-dl-uid="87">파멸론자들은 가장 명백한 위험이 아닌 작은 위험에 초점을 맞추고 있으며, 나쁜 행위자들에게 AI 경쟁에서 패배하면 서방에 AI가 위험해진다는 것에 초점을 맞추고 있습니다. 아이러니하게도 민주주의를 약화시키고 사회를 조작할 수 있는 AI의 능력을 두려워하는 사람들이야말로 이 위험을 가장 두려워해야 합니다!

F. 기업 대 국가
AI 세상에서 이러한 기술을 통제하는 기술 기업 CEO는 전 세계 고용, 경제 구조, 심지어 부의 분배에까지 전례 없는 영향력을 행사할 수 있습니다. 이들의 플랫폼은 일, 교육, 사회적 상호작용의 주요 매개체가 되어 일상 생활의 여러 측면에서 전통적인 정부의 역할을 능가할 수 있습니다. 비평가들은 이러한 경영진이 많은 국가에 필적하거나 능가하는 영향력을 행사하고 있다고 주장합니다. 이들은 기술 플랫폼이 대중 담론을 형성하고 선거에 영향을 미치며 심지어 지정학에까지 영향을 미치는 능력을 이러한 막강한 힘의 증거로 지적합니다. 그러나 이러한 우려는 흥미로운 질문을 제기하며, 저는 상승하고 최대주의적인 중국과 보다 자유로운 사회와 경제 사이의 강제적 선택이라는 이전의 프레임워크로 돌아가 시진핑과 같은 선출되지 않은 지도자의 글로벌 영향력에 대해 왜 우리가 기술 CEO보다 더 편안해야 하는가라는 질문으로 돌아가 봅니다. 어떤 기술 기업 CEO도 지배지분이나 중요한 이해관계에 가까운 지분을 소유하지 않을 가능성이 높으며 주주와 이사회에 보고해야 할 책임이 있습니다. 두 사람 모두 직접적인 민주적 책임 없이 막강한 권한을 행사하지만, 인센티브 구조에는 중요한 차이가 있습니다. 모든 결점에도 불구하고 기술 기업 CEO는 궁극적으로 사용자, 고객, 이사회 및 주주의 지속적인 지원과 참여에 의존합니다. 그들은 자신의 지위를 유지하기 위해 어느 정도는 시장의 힘과 여론에 부응해야 하며, 이는 자신들이 악의적인 인물이라 할지라도 마찬가지입니다. 반대로 시진핑과 같은 권위주의적 지도자는 대중의 정서를 무시하고 국가기구를 이용해 반대 의견을 억압하고 통제를 유지합니다. 이러한 역학 관계는 기술 CEO의 권력이 분명 우려스럽고 면밀히 검토할 가치가 있지만, 글로벌 이해관계자에 대한 대응과 경제적 대 정치적/개인적 인센티브 측면에서 견제받지 않는 권위주의적 권력보다 바람직할 수 있음을 시사합니다.

//-----------------------------------------------------------------------------
3. AI에 대한 유토피아적 관점
이 글을 쓰게 된 동기 중 하나는 AI 우선 세상에 대한 디스토피아적 비전을 불식시키기 위해서입니다. 무엇보다도 이 비전은 대규모 일자리 감소, 부자들의 부유함, 육체적 노동뿐만 아니라 지적 전문성의 평가 절하, 인간의 창의성 상실 등 모든 상상력이 결여된 인지적으로 게으른 비전으로, AI 지배자를 위해 모든 것을 희생해야 한다는 생각에 빠지기 쉽습니다. 서구에서는 디스토피아가 무엇인지에 대해 매우 왜곡된 시각을 가지고 있습니다. 이 디스토피아의 저자 대부분은 매일 죽음의 위험에 직면하고 막대한 개인적 희생을 감수하며 단기적으로 많은 것을 희생하는 전 세계 수십억 명의 비슷한 사람들은 말할 것도 없고, 오늘날 대다수 미국인들이 직면한 고단함과 실존적 압박으로부터 이미 격리된 상아탑에서 교황처럼 호화롭게 지내는 사치를 누리고 있습니다. 저는 예상치 못한 400달러의 비용을 감당할 수 없는 미국인의 40%, 적절한 1차 의료 서비스를 받지 못하는 1억 명의 미국인, 매년 엄청난 의료비로 인해 파산 신청을 하는 50만 명의 시민을 언급하고 있습니다;

AI는 지구상의 모든 어린이에게 거의 무료에 가까운 AI 과외를 제공할 수 있고, 지구상의 모든 사람에게 거의 무료에 가까운 AI 의사 전문 지식을 제공할 수 있습니다. 종양학자부터 구조 엔지니어, 소프트웨어 엔지니어, 제품 설계자, 칩 설계자, 과학자까지 거의 모든 종류의 전문 지식이 거의 무료로 제공될 것입니다. 마이크로프로세서는 휴대폰의 연산 능력으로 판단할 때 대부분의 전자제품과 컴퓨팅을 거의 공짜에 가깝게 만들었습니다. AI는 모든 전문 지식을 거의 무료로, 이족 보행 로봇과 기타 로봇을 통해 대부분의 노동력을 매우 저렴하게, 금속에서 약물에 이르는 재료를 훨씬 저렴하게, 더 나은 과학 발견과 자원 발견 등을 통해 훨씬 저렴하게 만들어 마이크로프로세서가 할 수 있었던 것보다 더 많은 분야에 유사한 비용 절감 효과를 가져올 것입니다. 또한 핵융합로와 자율 비행 항공기, 자율 주행 자동차, 대중교통의 플라즈마 제어를 도와 모든 사람이 훨씬 더 저렴하고 쉽게 이용할 수 있게 될 것입니다. AI는 모든 개인에게 개인화된 지능형 비서를 제공하여 일상 업무, 개인화된 피트니스 및 영양 관리, 심지어 경영진 지원까지 제공할 것입니다. AI 기반 도구는 일러스트레이션, 아이콘, 로고, 아트를 생성하여 크리에이티브 작업 방식을 변화시킬 것입니다. AI 부조종사가 의사를 보조하고, AI가 방사선 워크플로와 진단을 자동화하며, AI 재무 분석가가 매출채권 관리 및 재무 모델링과 같은 업무를 자동화하는 것을 보게 될 것입니다. AI는 계약서 초안 작성, 비디오 게임 제작, 완전 자율 주행 차량에 동력을 공급하는 업무를 지원할 것입니다. AI 부조종사는 공식적인 검증부터 칩의 열 관리, 토목 공학, 인테리어 디자인에 이르기까지 모든 분야에서 엔지니어를 지원할 것입니다. 자율 주행 MRI부터 개인화된 오디오북까지, 기업가들이 상상할 수 있는 것은 한계가 없습니다. AI는 기업을 구축하는 방식까지 민주화할 것입니다. 예를 들어, 프로그래밍은 더 이상 컴퓨터 과학의 전당에만 갇혀 있지 않을 것입니다. 자연어와 복잡한 프로그래밍 언어로 프로그래밍할 수 있게 되면서 10억 명에 가까운 프로그래머가 생겨날 것이기 때문입니다;

A. 효율성 및 생산성 향상
저는 향후 25년 동안 주치의, 정신과 의사, 영업 사원, 종양 전문의, 농장 노동자, 조립 라인 노동자, 구조 엔지니어, 칩 설계자 등 모든 직업의 80% 중 80%가 인공지능이 수행할 수 있을 것으로 예상합니다. 그리고 대부분의 경우 AI가 더 효율적이고 일관성 있게 업무를 수행할 것입니다! 인간과 AI의 협업은 인간 지식 근로자가 4~5명의 AI '인턴'을 감독하는 형태로 시작될 것이며, 이를 통해 인간은 생산성을 두 배로 높일 수 있게 될 것입니다. 향후 10년간은 대부분의 중요한 업무에서 사람이 완전히 감독하면서 인간 지식 근로자의 생산성을 2~5배 높이는 방식이 지배적인 방식이 될 것으로 예상됩니다. 우리는 이미 AI가 일상적이고 반복적인 업무 흐름을 대신하여 인간이 보다 창의적이고 전략적이며 만족스러운 업무에 집중할 수 있도록 하는 초기 단계를 목격하고 있습니다. 결국 인간은 인간에게 어떤 일을 맡길지, 어떤 일을 스스로 선택할지 결정하게 될 것입니다. 또한 부조종사가 테라바이트 단위의 데이터를 인간보다 더 잘 합성하는 것을 볼 수 있습니다. 전문 지식이 인간의 결과와 연관된 모든 분야에서 AI는 인간을 능가할 수 있으며, 거의 무료에 가까운 비용으로 인간을 능가할 것입니다. 유방암 환자를 치료하는 종양학자를 예로 들어 보겠습니다. 그들이 특정 유방암에 관한 최근 5,000개의 논문을 기억할 가능성은 거의 없습니다. 인공지능이 어떤 작업이나 업무를 수행할 수 있다고 해서 모든 사회에서 인공지능이 그 작업을 수행할 수 있도록 허용하는 것은 아닙니다. 이러한 정치-경제-사회적 결정은 국가별로 내려질 것이며 기술자가 아닌 각 나라에서 결정할 가능성이 높습니다. 더 나아가 생각해 볼 가치가 있습니다. 농장 일부터 종양학자 및 엔지니어에 이르기까지 모든 노동이 전문성을 갖춘 AI가 있는 사회에서 동등하게 평가될까요? AI가 훌륭한 평등화 도구가 될까요?

그렇다면 이러한 소프트웨어와 하드웨어의 대부분을 뒷받침하는 데 필요한 천연 자원, 철강, 구리, 리튬, 시멘트와 같은 물리적 투입물은 어떻게 될까요? 아프리카와 남미 등 자원이 풍부한 지역, 특히 중요한 광물 공급선을 장악하려는 중국의 전략적 움직임을 목격하면서 혁신의 필요성이 분명해졌습니다. AI는 리튬, 코발트, 구리와 같은 천연자원을 발견하고 활용하는 방식을 변화시켜 자원 발견 능력이 소비량을 앞지르게 될 것입니다. 현재의 문제는 자원의 부족이 아니라 자원을 찾는 능력의 한계이며, AI가 이 장벽을 무너뜨리는 데 도움을 줄 것입니다. 또한, AI는 천연자원, 원자재 등 자원의 사용을 최적화하여 낭비를 줄이고 농업, 제조, 에너지와 같은 산업의 효율성을 개선하는 데 도움을 줄 수 있습니다. 이는 보다 지속 가능한 경제와 지구에 대한 더 나은 관리로 이어질 수 있습니다.

B. 삶의 질 향상
우리의 육체적 삶도 더 나은 방향으로 변화할 것입니다. 이족 보행 로봇은 가사부터 노인 돌봄, 팩토리 조립 라인 및 농장에 이르기까지 모든 업종을 혁신할 수 있는 역량을 갖추고 있습니다. 이것이 GDP, 생산성, 인간의 행복을 근본적으로 변화시키고 사람들이 우리가 일자리라고 부르는 이러한 업무의 굴레에서 벗어날 수 있을지에 대해 준비하는 사람은 거의 없습니다. 이러한 로봇은 로봇이 대체하는 사람들을 지원할 수 있는 충분한 가치를 창출할 것입니다. 25년 후에는 미세 조작을 포함한 다양한 작업을 수행하는 이족보행 로봇이 10억 대(10년 후에는 100만 대)가 등장할 수 있습니다. 인간은 조립 라인 및 농장 노동자와 같이 정말 바람직하지 않은 하위 50%의 직업에서 노예가 될 수 있습니다. 이것은 자동차 산업보다 더 큰 산업이 될 수 있습니다. 하지만 게으르고 방종한 삶을 살지 않는 것은 인간의 책임이 될 것입니다.

AI는 또한 우리 사이의 물리적 거리를 좁힐 수 있습니다. 대부분의 도시에서 대부분의 자동차를 AI 기반의 자율 주행 개인 고속 교통 시스템과 라스트 마일 자율주행차로 대체하여 기존 도로의 승객 수용 능력을 10배까지 높일 수 있습니다. 이는 자동차 산업을 극적으로 축소하고 명목 GDP를 감소시키는 동시에 지역의 개인 교통수단을 훨씬 더 편리하고, 빠르고, 저렴하게 만들 것입니다;

우리의 물리적 삶만 변화하는 것이 아닙니다. 머지않아 인터넷에 접속하는 대부분의 소비자가 소비자를 대신해 일상 업무를 효율적으로 관리하고 마케터와 봇을 방어할 수 있는 에이전트가 될 것입니다. 수백억 명의 에이전트가 24시간 연중무휴로 소비자를 대변하는 것은 놀라운 일이 아니며, 현재 저의 위시리스트에 올라와 있습니다. 사회적 이익의 벡터가 우세하다고 가정하면, 이는 인간의 정신을 이용하여 소비를 늘리고 물건을 팔거나 생각을 편향되게 하려는 마케팅 기계에 대항하여 소비자에게 훌륭한 평등자가 될 수 있습니다. 소비자들은 자신의 이익을 보호하는 가장 똑똑한 AI를 갖게 될지도 모릅니다.

저는 모든 개인을 위한 개인용 AI 에이전트가 자신의 이익을 위해 행동하도록 설계되어 마케터가 소비자로 하여금 다른 방법으로는 구매하거나 클릭하지 않을 물건을 구매하게 만드는 오늘날의 조작적인 마케팅과 두뇌 해킹으로부터 보호하는 것을 상상해 봅니다. 소비자 보호 기관처럼 소비자를 대변하고 보호하는 강력하고 프라이버시를 보호하는 개인화된 AI를 갖게 될 것이며, 디지털 시대의 '스파이 대 스파이'라고 생각하면 AI가 우리를 조종할 인센티브를 가진 기업 AI에 맞서 소비자이자 시민으로서 우리에게 힘을 실어주는 것입니다.

C. 향상된 건강 관리 및 수명 연장
AI는 개인의 유전적 구성, 라이프스타일, 환경에 맞는 맞춤형 치료가 가능한 개인 맞춤형 의료를 실현함으로써 의료 서비스에 혁신을 가져올 수 있습니다. 이는 더 나은 건강 결과와 더 길고 건강한 삶으로 이어질 수 있습니다. AI는 증상이 나타나기 전에 질병을 조기에 발견하여 보다 효과적이고 덜 침습적인 치료를 가능하게 하는 데 사용될 수 있습니다. 이는 만성 질환의 부담을 크게 줄이고 전반적인 공중 보건을 개선할 수 있습니다.

의료 서비스와 같은 서비스의 품질, 일관성, 접근성은 거의 무료에 가까워지면서 개선될 것입니다. 정신 건강 관리와 만성 질환 치료를 포함한 매우 광범위한 1차 진료가 전 세계적으로 보편화될 뿐만 아니라, AI는 현재의 생명공학 기술을 보강하여 실제로 효과적이고 표적 외 효과를 최소화하며 전 세계에 충분히 확장 가능하고 저렴한 정밀 의약품을 개발할 것입니다. 종양 전문의와 같은 보다 전문적인 의사들은 테라바이트에 달하는 최신 연구와 데이터에 접근할 수 있게 되어 인간보다 더 효과적이고 최신의 정보를 얻을 수 있게 될 것입니다. 물론 사람의 개입이 필요하고 AI는 환자의 선호도에 따라 언제 인간 의사를 불러야 할지 알 수 있지만, 24시간 연중무휴로 운영되는 AI 종양 전문의는 훨씬 더 많은 접점을 제공하고 훨씬 더 많은 정보를 종합하고 결과를 모델링하여 진단 및 임상 경과에 대한 결정을 내릴 수 있으므로 인간 의사는 더 충실한 활동에 집중할 수 있게 될 것입니다. 다른 전문 분야와 모든 종류의 만성 치료 및 진단 검사에서도 마찬가지입니다.

AI 디스토피아에 대한 공포를 조장하는 것은 지극히 비효율적인 의료 시스템으로 인해 진료를 받기 어려운 환자들 때문이 아닙니다. 1억 5천만 명의 미국인이 연방 정부가 지정한 정신건강 전문가 부족 지역에 살고 있으며, 전체 성인 정신질환자의 절반 이상이 치료를 받을 수 없습니다. 우리는 공포를 조장하는 소수의 엘리트주의 학자들이 아닌 2,800만 명의 개인에게 다음 소식을 환영할지 물어봐야 합니다: 영국에서 최초로 승인된 대규모 언어 모델 AI는 현재 NHS 정신건강 클리닉의 40%에서 행동 건강을 위한 인테이크 작업을 수행하고 있으며, <데이터-dl-uid="115">우수한 결과를 보여주고 있습니다. 이러한 추세는 머지않아 거의 무료에 가까운 정신 건강 관리로 이어질 것입니다. 이것이 바로 오늘날의 시스템으로 인한 많은 고통을 해결할 수 있는 오랫동안 기다려온 기술 혁명인 AI의 유토피아적인 면입니다;

지구상의 79억 인구 모두가 상위 10%의 부유한 사람들처럼 살 수 있도록 기술을 통해 사회 인프라를 재창조한다는 제 생각은, AI의 기능이 계속 확장되고 있는 지금 훨씬 더 실현 가능해 보입니다. 기본적인 1차 진료, 만성 치료, 전문 진료(예: 심장학, 종양학, 근골격계 등)를 확대하는 것은 신흥 시장에 거주하는 사람들의 건강을 개선하고 질병을 예방하는 데 필수적입니다. 전 세계 모든 어린이가 이용할 수 있는 24시간 연중무휴 의사 서비스를 제공하는 것은 인간에게 계속 의료 서비스를 의존한다면 불가능할 것입니다. 실제로 현재의 논쟁은 AI의 가장 두드러진 결과, 즉 AI 혁명으로 가장 큰 영향을 받을 수 있는 사람들은 지구의 절반인 40억 명이 매일 생존을 위해 <데이터-dl-uid="120">힘겹게 싸우고 있다는 사실에 집중하지 못했습니다.

20년 전 랜싯은 전 세계 아동 사망률의 90%를 차지하는 42개국에서 보다 효과적인 1차 의료를 통해 아동 사망의 63%를 예방할 수 있으며, 이는 연간 6백만 명에 달하는 수치라는 사실을 발견한 바 있습니다(data-dl-uid="122">). AI는 이를 거의 무료로 만들 수 있습니다. 서구 국가에서는 설사, 폐렴, 홍역, 말라리아, 주산기 HIV/AIDS 감염과 같은 질병을 예방할 수 있다는 사실을 당연하게 여깁니다. 전 세계의 소외된 지역의 모든 어린이에게 충분한 수의 공중보건의가 다가가 밀접한 접촉을 할 수 있는 현실적인 방법은 없습니다. 만약 우리가 AI를 사회적으로 수용한다면, 제가 태어난 나라 인도의 한 마을을 방문한다면 스탠포드에서 현지 PCP를 만나는 것보다 진료의 질이 더 높아질 것이라고 상상해 봅니다. 왜냐하면 인도의 마을은 국내의 잠재적인 마찰을 고려할 때 AI를 더 빨리 채택했을 것이기 때문입니다. 지각 있는 AI로 인해 매년 600만 명이 사망할 가능성이 희박할까, 아니면 매년 600만 명의 어린이가 사망할 것이 확실할까 걱정해야 할까요?

D. 교육 및 지식 확장
AI는 각 학생의 필요, 속도, 지식의 격차, 관심사에 따라 맞춤화된 학습 경험을 제공하여 모든 학습자에게 더 효과적인 교육과 더 높은 수준의 성취도를 제공할 수 있습니다. AI 기반 플랫폼은 지리적 위치나 경제적 지위에 관계없이 전 세계 사람들이 양질의 교육에 접근할 수 있게 해줄 수 있습니다. 이는 지식의 민주화와 전 세계 개인의 역량 강화를 가져올 수 있습니다. 공립학교 학군 구역과 태어난 우편번호가 인생의 결과에 미치는 영향력이 훨씬 줄어들 것입니다. '일할 필요'가 없는 사회에 대한 저의 25년 이상의 비전과 함께, AI 튜터와 인간 멘토는 아이들이 자신을 탐구하고 스스로가 될 수 있는 자유를 누릴 수 있게 해줄 것입니다. 이는 오늘날 아이들이 열망하는 직업의 종속성보다 자유에 더 가까운 것입니다.

전 세계적으로 AI는 지구상의 모든 어린이에게 수많은 과목에 걸쳐 24시간 연중무휴로 제공되는 거의 무료에 가까운 교사를 제공할 수 있는 유일한 기회입니다. 자원이 부족하고 광범위하고 일관되며 접근 가능한 교육을 위한 인프라가 부족한 지역에 거주하는 사람들에게 기회를 열어주고 주체성, 자기 효능감, 열정, 희망, 동기 부여, 성 평등을 부여하는 데 미치는 영향은 아무리 강조해도 지나치지 않을 것입니다;

E. 환경 지속 가능성
AI는 에너지 사용을 최적화하고, 배출량을 줄이고, 재생 에너지를 위한 새로운 기술을 개발함으로써 기후 변화에 대응하는 데 중요한 역할을 할 수 있습니다. AI는 환경 모니터링과 보존 노력에도 도움이 될 수 있습니다. AI는 환경에 미치는 영향을 줄이면서 식량 생산을 늘리는 더 스마트하고 효율적인 농업 관행으로 이어져 증가하는 전 세계 인구를 지속 가능하게 먹여 살리는 데 도움이 될 수 있습니다. 하지만 이는 단선적인 사고입니다. AI 과학자들은 인간이 만들어낸 이 문제를 훨씬 더 혁신적으로 접근할 수 있게 해줄 수 있습니다.

이 AI 유토피아를 실현하려면 무한하고 저렴한 전력 생산을 위한 핵융합과 같은 보완 기술이 필요합니다. 그리고 올바른 정치적 환경만 조성된다면 2050년까지 모든 석탄 및 천연가스 발전소를 대체할 수 있습니다. 저는 완전히 새로운 핵융합 발전소나 원자력 발전소를 건설하기보다는 석탄 및 천연가스 보일러를 개조하고 대체할 수 있는 핵융합 보일러에 베팅하고 있습니다. 또한 지열, 태양열 및 첨단 배터리 시스템을 사용하여 깨끗하고 파견 가능한 전력을 공급하려는 노력도 유망합니다. 다양한 벡터가 컴퓨팅의 환경 비용을 낮추고 있습니다. 알고리즘 효율성 및 하드웨어와 같은 분야에서도 상당한 개선이 이루어지고 있어, AI 시스템이 훨씬 적은 전력을 소비하면서 훨씬 더 많은 성과를 낼 수 있게 되었습니다. 새로운 기술과 웹 검색 기능의 통합은 에너지 소비를 크게 늘리지 않고도 AI를 더욱 효과적으로 확장할 수 있도록 돕고 있습니다. 최적화된 컴퓨팅을 위한 이러한 노력은 AI의 증가하는 에너지 수요를 지원할 뿐만 아니라 이 기술이 글로벌 인프라에 부담을 주지 않고 지속 가능하게 확장될 수 있도록 보장합니다. 

F. 인간의 능력(및 창의성) 향상, 새로운 경험
AI는 인간의 능력을 증강시켜 현재의 인간 지능만으로는 해결할 수 없는 복잡한 문제를 해결할 수 있게 해줄 수 있습니다. 이는 과학(예: 기후 혁신), 기술 및 기타 분야에서 획기적인 발전으로 이어질 수 있습니다.

AI는 예술가, 디자이너, 혁신가들이 새로운 아이디어를 탐구하고 예술, 과학, 기술 분야에서 가능한 것의 한계를 넓히는 데 도움을 주는 창의적인 파트너 역할을 할 수 있습니다. 소비자 서비스는 초개인화되어 개인이 아티스트, 작곡가, 프로듀서, 작가, 소비자 역할을 동시에 수행할 수 있게 될 것입니다. 예를 들어 음악은 게임처럼 인터랙티브하게 변할 수 있으며, 새로운 형식이 발견되고 활성화될 가능성이 높습니다. 이러한 미디어는 이미 쏟아져 나오기 시작했으며, 어떤 경우에는 인간이 만든 미디어보다 더 많은 조회수를 기록하기도 합니다.

이전에는 재능이 부족하거나 재정적 미래에 대한 걱정이 있거나 단순히 영화를 만들거나 노래를 작곡할 자원이 없는 사람들에게 예술적 열망이 막혀 있었다면, 앞으로는 이러한 장애물이 점차 사라질 것입니다. 그렇다고 유명 연예인이 사라진다는 뜻이 아니라, AI로 생성된 예술이 음악의 인공적인 기원을 믿을 수 없을 만큼 복잡하고 깊은 질감을 제공할 것이라는 뜻입니다. 누군가는 이를 싫어할 것이고 누군가는 좋아할 것입니다. 클래식에서 헤비메탈에 이르기까지 오늘날 음악 장르도 마찬가지입니다.

새로운 종류의 직업이 등장하고 새로운 창의성이 발휘될 것입니다. 필름 카메라가 나오기 전에는 영화 제작자라는 직업이 없었습니다. 산업 전체가 폭발적으로 성장했습니다. 엔터테인먼트는 더욱 대중화되었고, 익스트림 스포츠는 X게임과 같이 많은 사람들에게 수입을 창출하는 직업으로 변모했습니다! 예를 들어, 예전에는 직업이 아니었던 스노보드는 이제 직업이 되었습니다. Etsy와 eBay와 같은 플랫폼은 글로벌 장인과 기업가들의 활동을 촉진했으며, 새로운 기술은 완전히 새로운 직업 세계를 가능하게 할 것입니다. 와트패드는 수많은 새로운 크리에이티브 작가들을 탄생시켰고, 핀터레스트와 텀블러 같은 플랫폼은 사람들이 자신의 취향과 개성을 더 잘 표현할 수 있도록 창의성을 발휘할 수 있는 출구를 제공했습니다.

G. 윤리적 의사 결정과 거버넌스
AI는 공정한 의사결정 과정을 보장하고 편견을 줄이며 거버넌스의 투명성을 증진함으로써 보다 공정하고 공평한 사회를 만드는 데 도움을 줄 수 있습니다. AI는 방대한 양의 데이터를 분석하여 증거 기반 정책 개발을 지원함으로써 보다 효과적이고 정보에 입각한 거버넌스로 이어질 수 있습니다.

모든 시민을 위한 변호사가 24시간 연중무휴로 제공되어 전문가가 10배로 늘어나 접근성 및 경제성이 확대될 것입니다. 분쟁을 신속하게 해결하고 인간의 편견이 개입되지 않은 정의를 실현할 인공지능 판사가 많이 생겨날 것입니다. 교육, 법률, 금융 자문은 더 이상 사회 상류층만의 전유물이 아닐 것입니다. 사실 이러한 서비스는 오늘날 도로와 국방이 그러하듯 필수적이고 거의 무료에 가까운 정부 서비스가 될 것입니다.

H. 인간의 번영과 복지
유토피아적 비전에서 AI는 사회의 초점을 경제 성장에서 인간의 행복과 성취로 전환하는 데 도움을 줄 수 있습니다. 사람들이 어릴 때부터 진정으로 흥미를 느끼는 일을 추구할 수 있는 기회가 주어져 열정이 자연스럽게 발현되는 세상을 상상해 보세요;

앞서 어린이의 자유에 대해 이야기했지만 좀 더 자세히 설명하겠습니다. 6세부터 아이들에게 단지 직업을 얻기 위해 학교에서 우수한 성적을 거둘 필요는 없으며, 오히려 열정을 불태울 수 있는 것을 탐구하라고 가르치기 시작한다면, 40세에 이 대화를 시작하는 것과는 완전히 다른 두뇌 발달 경험을 만들어낼 수 있을 것입니다. 시각 예술, 음악, 스포츠, 글쓰기 등과 같이 상위 1% 또는 0.1%를 제외하고는 일반적으로 재정적 안정과 관련이 없는 직업은 생계와 가족 부양이라는 오늘날의 필요성에 제약을 받지 않고 누구나 추구하고자 한다면 곧 만족스럽고 성취할 수 있는 직업이 될 수 있습니다;

이러한 변화는 인간이라는 존재의 의미를 재정의할 수 있으며, 더 이상 고된 조립 라인 업무에 갇혀 자신의 존재 전체를 정의하는 것이 아닙니다. 제가 2000년에 제안했듯이, 우리는 인간에 대한 정의를 다시 생각해봐야 할지도 모릅니다. 조립 라인에서 한 가지 종류의 바퀴를 자동차에 장착하는 데 30년을 보낸다는 것이 과연 보람된 일일까요? 100도의 더위 속에서 농사일을 하는 것과 같은 직업은 인간의 번영이 아니라 일종의 노예와 같습니다.

하지만 이는 블루칼라 업무에만 해당되는 것이 아니라 화이트칼라 업무가 가장 먼저 사라질 수 있습니다. 예를 들어 투자 은행 업무를 생각해보면, 하루에 16시간씩 엑셀 스프레드시트나 파워포인트 데크를 들여다보며 똑같은 업무를 반복하는 것이 만족스러울까요?

바람직하지 않고 노동 집약적인 직업을 없앤다고 해서 삶이 덜 의미 있게 되지는 않습니다. 오히려 그 반대의 경우, 이러한 기술에 적응하는 국가에서는 주당 40시간 근무의 필요성이 수십 년 내에 사라질 수 있기 때문에 삶이 더 의미 있게 될 것입니다. 케인즈는 1920년에 주당 15시간 근무를 가정했습니다! 10~20년 후에는 주 3일 근무제가 실현되어 우리가 필요로 하거나 원하는 20%의 일을 하면서 생산성이 크게 향상될 수 있다고 상상해 보세요. 저는 69세가 되어도 일주일에 하루는 정원에서 일하고 나머지 시간은 학습에 투자할 수 있을 것입니다. 마지막으로 스키를 타거나 하이킹을 하거나 여러 관심사에 빠져들 수 있는 충분한 시간을 가질 수 있을 것입니다. 

우리 삶에서 '인간다움'이 사라질 것이라는 비관론자들의 주장을 뒤집는 것은 바로 이러한 인간 경험을 재정의할 수 있는 기회입니다. 우리는 먼저 많은 사람들이 자신과 가족을 위한 기본적 필요를 충족해야 하는 경제적 제약과 고려 사항을 제거함으로써 모든 인간에게 훨씬 더 많은 주체성, 자기 효능감, 희망을 부여하는 세상을 만들 수 있습니다. AI는 기본적인 생존에 대한 부담을 덜어줌으로써 사람들이 진정으로 중요한 것을 자유롭게 추구할 수 있는 세상을 만들 수 있는 기회를 제공합니다. 인간이 추구하는 주요 분야는 문화, 예술, 과학, 창의성, 철학, 실험, 탐험, 모든 종류의 경쟁과 모험이 될 수 있습니다. 진짜 문제는 모든 사람이 참여할 수 있는지 여부입니다.

I. 유토피아의 잠재적 장애물은 극복할 수 있습니다.
물론 이러한 예측을 유토피아적 현실로 바꾸는 데는 많은 장애물이 있을 수 있습니다. 기존 조직의 저항이 진전을 방해할 수 있습니다(예: 스크린 배우 조합). 정치인들이 개인적 또는 포퓰리즘적 이익을 위해 대중의 공포를 악용하여 저항을 더욱 부추길 수도 있습니다. 또한 공급망 문제나 글로벌 분쟁으로 인한 기술적 실패나 지연으로 인해 개발이 지연될 수 있습니다. 금융 시장도 위험을 초래할 수 있습니다. 경기 침체나 열악한 상황으로 인해 유망한 아이디어가 '너무 먼 다리의 틈새'로 묘사되는 자금 격차에 빠지게 될 수 있습니다;

반대하는 사람들과 기술을 불신하는 사람들의 반대를 포함한 반기술 정서는 유익한 개발의 광범위한 채택을 방해할 수 있습니다. 이러한 정서는 현대 러다이트의 우려와 일치할 수 있으며, 이들은 DEI 지지자들과 함께 담론에 동참하여 잠재적으로 기술의 잠재적 혜택에서 초점을 돌릴 수 있습니다. 일부 AI 관련 부정적 결과가 언론의 불균형적인 관심을 받으면서 AI에 대한 대중의 인식이 오염되어 상황은 더욱 복잡해질 수 있습니다. 예측할 수 없고 평범하지 않은 '돌발' 사건은 흔히 발생하며 예기치 않게 진전을 방해할 수 있습니다. 마지막으로, 핵심 선동자와 옹호자가 나타나지 않거나 대의를 효과적으로 옹호하지 못하면 운동이 어려움을 겪을 수 있습니다;

하지만 저는 AI 기반 유토피아가 낙관적인 가능성일 뿐 아니라 올바른 사회적 선택과 기술 발전을 통해 충분히 달성할 수 있는 가능성이 있다는 확신을 가지고 있습니다. 핵심은 AI의 잠재력을 책임감 있게 활용하고 그 혜택이 사회 전체에 공평하게 분배되도록 하는 것입니다. AI 환경의 윤곽이 계속 진화함에 따라 AI를 제공하고 그 혜택을 독점하는 한 개의 지배적인 기업은 없을 것으로 보입니다;

AI 도구의 접근성과 사용자 친화성을 고려할 때 AI 권력이 소수의 손에 집중되는 것에 대한 우려는 기우에 불과합니다. 전문 지식과 자본으로 인해 진입 장벽이 높은 산업과 달리 AI 개발은 점점 더 민주화되어 개인과 소규모 팀도 최소한의 자원으로 AI 시스템을 구축, 학습 및 배포할 수 있게 되었습니다. 오늘날 많은 클라우드 서비스가 특수 하드웨어나 막대한 재정적 투자 없이도 AI 모델을 대규모로 훈련하는 데 필요한 인프라를 제공합니다. 그리고 소규모 업체들의 새로운 연구는 오늘날의 LLM과는 근본적으로 다른 AI 개발 접근 방식에 초점을 맞추고 있습니다. 최적의 개발 경로는 아직 명확하지 않습니다. 아마도 이 중 많은 부분이 서로 보완적인 역할을 할 것입니다.

또한 로우코드 및 노코드, 자연어 플랫폼은 깊은 기술 전문 지식이 없는 사람들도 그 어느 때보다 쉽게 AI 솔루션을 만들고 배포할 수 있게 해줍니다. 챗봇부터 머신러닝 모델까지, 이러한 플랫폼은 복잡성의 상당 부분을 추상화하여 일반인도 불과 몇 년 전보다 훨씬 짧은 시간 내에 AI 애플리케이션을 개발할 수 있게 해줍니다. AI 기반 API를 사용하면 프로그래밍에 대한 기본적인 이해만 있으면 누구나 최소한의 노력으로 앱, 도구 및 워크플로에 강력한 AI를 통합할 수 있습니다.

AI 개발을 위한 도구와 리소스에 대한 접근성이 계속 향상됨에 따라 한 회사나 단체가 AI를 독점한다는 생각은 점점 더 실현 가능성이 낮아지고 있습니다. 대신 개인 기업가부터 지역 비즈니스에 이르기까지 모든 사람에게 AI 개발이 개방되어 혁신이 밑바닥부터 번성하는 미래로 나아가고 있습니다. 이러한 분산형 혁신 모델은 AI가 소수가 아닌 다수를 위한 도구로 남을 수 있도록 도울 것입니다.

//-----------------------------------------------------------------------------
4. AI 세상의 새로운 경제학
향후 5년 동안은 삶이 크게 달라지지 않을 수도 있습니다. 점진적이고 익숙한 변화가 이루어질 것입니다. 하지만 앞으로 10년에서 20년 사이에는 사회를 재편하는 극적인 변화가 가속화될 것입니다. 저는 유토피아를 풍요로운 재화, 서비스, 자유, 창조적 폭발로 정의하며, 아마도 25년 후의 일이라고 생각합니다. 전례 없는 번영의 시대는 아직 다가오고 있지만, 변화의 속도는 빠르지 않습니다. 그리고 사회 구조에 대한 중간 단계의 혼란은 예측하기 어렵습니다.

A. AI 시대의 자본주의와 민주주의
서구 자본주의는 민주주의를 기반으로 하며, 많은 경우 개인의 기여도에 따라 경제적 효율성과 산출물 분배를 최적화합니다. 자본주의는 경제 성장을 이뤘지만 인공지능 시대에는 효율성에만 초점을 맞출 것이 아니라 인간의 행복에서 평등의 역할을 고려할 때 소득 격차 감소라는 목표를 똑같이 중요한 성과로 추가해야 합니다;

자본주의는 AI가 주도하는 변화에 직면하여 진화해야 할 수도 있습니다. 전통적인 경제적 효율성에 대한 필요성이 줄어들면서 효율성과 함께 공감 자본주의와 경제적 평등을 우선시할 여지가 생겼습니다. 일정 수준 이상의 격차는 사회적 불안으로 이어질 수 있으므로 이를 염두에 두고 정책을 수립하고, 일자리 감소에도 불구하고 AI가 창출하는 풍요로움을 보다 평등하게 공유해야 합니다. 저는 사회적 이동의 기회가 많다면 어느 정도의 불평등("더 열심히 일할 수 있는 인센티브")에 찬성하는 사람으로 자랐습니다. 또한 오늘날 자본주의는 특정 부문의 수요 창출 노력(광고 및 이에 상응하는 분야)이 경제적 효율성의 이점을 초과하여 우리가 원하지도 않았던 것을 원하게 만드는 새로운 형태로 변질되었습니다. 이는 사회적 웰빙에 도움이 되지 않습니다. 우리는 현재의 자본주의 시스템을 개선하는 것이 순기능이 될 수 있는 시점에 와 있습니다. 아이러니하게도 이 기술을 최대한 수용하기로 결정한 사회(모두가 똑같이 수용하지는 않겠지만)는 AI가 열어줄 풍요로움 덕분에 공감 자본주의를 실천할 수 있는 훨씬 더 큰 역량을 갖추게 될 것입니다.

시장이나 기술 발전의 속도를 늦추기보다는 인간의 노동력이 많은 경우 평가절하되어 저숙련 근로자와 고숙련 근로자 모두의 임금이 하향 압력을 받을 수 있다는 점을 인식해야 합니다. 인간의 노동력, 전문성, 판단력에 대한 필요성이 줄어들면서 노동은 자본에 비해 상대적으로, 아이디어와 머신러닝 기술에 비해서는 더욱 평가절하될 것입니다. 풍요의 시대, 소득 격차가 커지는 시대에는 (제가 2014년 I에 대한 에세이에서 추측했듯이) 자본주의의 바람직하지 않은 부작용을 개선하는 데 더 우선순위를 두는 새로운 버전의 자본주의가 필요할 수 있습니다. 저는 자본이 이 경제에서 잘할 수 있을 것이라고 생각합니다.

B. 생산성 향상과 함께 임금 압박과 일자리 붕괴
AI로 인한 기술 격차의 평준화는 개인과 다양한 직무에 걸쳐 임금을 압박할 수 있으며, 가치 창출이 창의성, 혁신, 자본 또는 AI 소유로 이동하여 잠재적으로 다양한 경제적 불평등을 초래할 수 있습니다. 역사적으로 생산성 향상은 엔지니어, 영업사원, 농장 노동자 등 생산성이 높은 자원에 대한 수요 증가를 통해 임금 상승과 소비자 지출 증가로 이어졌지만, 향후 25년 내에 80%의 직업에서 80%의 업무에서 인간을 대체할 것으로 예상되는 AI 기술의 역량을 고려할 때 그렇지 않을 수도 있습니다. 생산성에 불연속성이 발생할 수 있습니다.

기술 혁명이 일어날 때마다 새로운 일자리 창출이 일자리 감소를 앞질렀다는 과거의 경제 역사를 단순히 추론할 수는 없습니다. 누군가의 말처럼 "역사의 기차가 커브길에 접어들면 지식인은 떨어진다"는 말이 있습니다. 저는 이제 일자리 창출의 기본 동력이 인간의 능력을 증강할 뿐만 아니라 이를 완전히 능가할 수도 있는 기술로 바뀌면서 재교육과 재숙련을 위한 역사적 통로인 교육과 업스킬링이 다소 무력화될 수 있다는 점에서 이번에는 다를 수 있다고 주장합니다. 이전에도 큰 변화는 있었지만 이렇게 빠르게 진행된 적은 없었기 때문에 적응이 훨씬 더 어려운 문제입니다. 1900년에는 미국 노동력의 40+%가 농업에 종사하여 가장 큰 고용 부문이 되었습니다. 1970년에는 4%였습니다. 하지만 3세대가 걸렸습니다. 이 AI 주기는 훨씬 더 빨라질 것입니다. 따라서 더 혼란스럽고 불편할 것입니다.

인공지능의 역량 강화라는 쓰나미가 몰려오면서 많은 직업이 사라지고 사람들이 시간을 보내는 방식에 대해 사회적으로 다시 생각해야 하는 등 인공지능은 노동력에 지각변동을 일으킬 것입니다. 이전에도 직업이 사라진 적은 있었지만 이렇게 빠른 속도로 사라진 적은 없었습니다. 사회 전체가 개선되더라도 특히 향후 10년 또는 20년 동안 경제의 일부 사람들은 다른 사람들보다 더 심각한 타격을 입을 수 있습니다. 가장 큰 영향을 받는 사람들에게는 힘든 시기가 될 것입니다. 10-25년의 전환기는 매우 혼란스러울 수 있습니다. 하지만 그렇다고 해서 두려움에 떨며 일의 제약에서 해방되고 현재 소수가 누리고 있는 자원에 더 많이 접근할 수 있는 세상의 혜택을 누리지 못할 이유는 없습니다. 영향을 받는 사람들을 돌보는 방법을 진지하게 고민해야 할 때입니다.

AI 의사, 변호사, 회계사, 금융가, 행정가, 교사 등의 전문직은 필요한 곳에 훨씬 더 많은 전문가 역량을 제공함으로써 접근성뿐만 아니라 질도 향상시킬 수 있으며, 이전에 그러한 직종에 종사하던 사람들의 일자리를 잃게 될 수도 있습니다. AI 기반 로봇공학은 AI 소프트웨어보다 5~10년 정도 뒤처져 있는 수작업 집약적인 업무에서도 동일한 역할을 할 수 있으며, 앞으로도 그럴 가능성이 높습니다. 그리고 AI 도구는 중요한 업무에서 인간의 인턴 역할을 하면서 생산성과 생산성을 높여서 향후 10년 이내에 자율적으로 업무를 대신할 때까지는 사람이 더 적게 필요하게 될 것입니다.

미국 의료 시스템의 총 의사 급여 비용을 출발점으로 삼아 임금 압박과 일자리 붕괴에 관한 이 사고 실험을 계속해 보겠습니다. 이는 3,000억 달러의 북쪽이며, 4,000억 달러에 가까울 것입니다(의사 1백만 명이 각각 30~40만 달러의 연봉을 받는다고 가정할 때). 미국 의사 급여에 매년 지출되는 3,000억~4,000억 달러의 운명을 예측하는 것은 의료 분야의 수요와 공급 탄력성에 달려 있습니다. 의료 전문 지식과 행정 워크플로우의 AI 자동화로 인해 의료 전문 지식 비용이 90% 감소한다고 가정해 봅시다. 소비가 10배 증가하여 약 3,500억 달러의 지출을 일정하게 유지할 수 있을까요? 알기 어렵습니다. 정형외과 치료가 저렴해진다고 해서 사람들이 더 많은 다리를 부러뜨리지는 않겠지만, 접근 장벽이 낮아지면 예방 치료, 만성 치료, 정신 건강 관리, 선택적 시술 등 현재 수요가 공급을 초과하는 모든 의료 분야의 소비가 크게 늘어날 수 있습니다. AI는 고품질 엔터테인먼트와 미디어를 극도로 개인화하고 상품화할 것이며, 모든 예술 형식은 매일 24시간 동안 사용자의 관심을 끌기 위해 경쟁하게 될 것입니다. 미디어의 다양성과 품질이 크게 확대될 텐데, 소비자 지출도 증가할까요? 자동화를 통해 서비스가 저렴해지더라도 회계와 같은 다른 영역에서는 기업이 10배 더 많은 감사를 요구하지는 않을 것입니다. 이러한 수요는 비용이 아니라 규제의 요구에 의해 제한됩니다;

각 부문은 공급, 수요, 탄력성 사이에서 자체적인 균형점을 찾을 것이므로 현재로서는 데이터가 충분하지 않은 미묘한 부문별 분석 없이는 정확한 예측이 어렵습니다. 시간이 지나면 새로운 AI 경제는 수요가 각 부문의 총 소비량과 시간의 점근값에 도달하면 균형점을 찾을 것입니다. 이는 모든 업종에 적용됩니다. 우리의 인간성은 기술적으로 우수한 인공지능이 만든 결과물보다 '인간 중심 또는 인간이 만든 결과물'을 선호할 수 있다는 점을 명심하세요. 우리는 이미 종종 "손으로 만든 것"을 선호합니다.

생산성이 향상되면 평균 소득이 증가하지만, 생산되는 재화와 서비스가 급격히 증가하더라도 일자리는 그 반대일 것입니다. 평균적으로 소득 격차가 증가할까요? 이는 선출직 공직자들의 정책적 접근 방식과 순수 자본주의가 야기할 수 있는 심각한 재분배 문제를 해결하려는 의지에 따라 달라질 수 있습니다. 보편적 기본소득이 최고의 평등화 방안이 될 수 있습니다.

C. 디플레이션과 새로운 경제 대책의 필요성
더 적은 투입으로 생산성이 향상되고(즉, 인건비가 낮아지거나 거의 제로에 가까운 인건비 - 계산 비용이 제로에 가깝고 훨씬 저렴한 이족 보행 로봇 및 기타 로봇을 생각해보세요) 경쟁이 심화되면(기술 전문 지식을 많은 사람들이 더 평등하게 이용할 수 있게 됨) 앞서 설명한 일자리 감소와 함께 디플레이션을 유발할 수 있습니다. 이러한 새로운 역학 관계는 지출이 제한된 기업에서 당분간 낮은 유효 인력 비용을 활용하기 위해 고용을 늘릴 수 있지만, 결국 대부분의 부문에서 공급이 수요를 초과하게 될 것입니다. 노동력과 전문성 외에도 자원 발굴에 AI를 활용함에 따라 물적 공급이 풍부해지고, 물리적 투입에 대한 비용도 감소하여 디플레이션 압력이 가중될 수 있습니다. 물론 소비자 행동, 기업의 투자 결정, 중앙은행의 대응과 같은 추가적인 미묘한 차이가 있습니다. 하지만, 시기는 다르지만 GDP의 모든 분야에 영향을 미칠 수 있는 AI의 가능성을 고려할 때, 우리 경제 전반에 미칠 수 있는 영향을 과장하기는 어려울 것이며, 이 새로운 시대에 통화 정책이 과거처럼 강력한 지렛대가 될 수 있을지는 의문입니다. 통화 정책은 경제에 점진적인 변화를 일으키기 위해 작동해 왔고 개선되어 왔습니다. 하지만 이제는 태풍과 태풍에 대한 대응이 다르고 쓰나미와 파도에 대한 대응이 다른 것처럼, 한계적 경제 변화가 한계적 행동 변화를 유도하는 방식이 더 이상 적용되지 않을 수 있습니다.

역사적으로 '디플레이션'은 일반적으로 만성적인 가격 하락으로 인해 기업의 수익성이 감소하고 경제 성장이 정체되거나 심지어 위축되기 때문에 부정적인 의미를 지니고 있습니다. 반면, 보편적 기본소득(UBI)과 같은 메커니즘이 도입되면 위에서 설명한 모든 이유로 인해 상품과 서비스의 소비가 증가(즉, 소비자 소비력이 효과적으로 증가)하면서 AI 주도의 디플레이션 성장이 수반될 가능성이 높습니다. 극단적인 경우, 인공지능이 대부분의 일자리를 대체하고, UBI가 소득(소비 할당량?)을 제공하며, 대부분의 상품과 서비스의 가격이 하락하는 상황이 발생할 수도 있습니다. 보편적 기본소득이 사회의 평등을 증진하는 원천이 될 수 있을까요? 철강, 시멘트, 구리와 같은 물리적 투입물이 유일한 제약일 수 있지만 인공지능이 새로운 풍부한 자원을 발견하면 이러한 물리적 투입물의 공급이 크게 증가할 가능성이 높습니다. 시민들이 소비하는 재화와 서비스의 수는 급격히 늘어나는데 지출은 줄어든다면 반드시 나쁜 것일까요? 오늘날 우리의 어휘는 GDP 성장과 기업 이윤을 번영과 동일시하는데, 이는 현재 우리 어휘의 버그입니다. 향후 수십 년 동안의 GDP 측정은 디플레이션과 인공지능의 세상에서 번영을 왜곡하는 것이 될 것이며, GDP는 감소할 수 있지만 전반적인 웰빙과 상품 및 서비스 소비는 증가할 수 있습니다.

우리는 경험을 통해 노동 비용이나 자본 비용은 규칙, 규정, 법률, 양도소득세나 MLP와 같은 세금 전략의 간단한 변경으로 효과적으로 변경될 수 있으며, 이러한 편향의 대부분은 중립적으로 보이는 오늘날의 자본주의 경제에 설계되어 있다는 것을 알고 있습니다. 합리적인 소득 격차 목표를 달성하기 위해서는 더 많은 상당한 조작이 필요할 것입니다. 소득이나 사회적 이동성은 AI가 지식과 전문성의 훌륭한 평등화 도구가 될 수 있지만, 사회의 '규칙'으로 설계하기는 훨씬 더 어려운 목표입니다. 저는 노동 대 자본이라는 전통적인 경제 논쟁이 많은 경제학자들이 제대로 인정하지 않는 새로운 요인, 즉 기업가적 에너지와 지식이 주도하는 아이디어의 경제로 인해 상황이 더욱 복잡해질 것이라고 생각합니다. 이 마지막 요소는 노동이나 자본보다 더 중요한 경제의 원동력이 될 수 있습니다. 리튬이나 구리, 강철과 같은 물리적 자원과 같은 일부 생산 요소는 변화에 적응하는 데 다른 요소보다 훨씬 더 오랜 시간이 걸릴 수 있습니다.

D. 정책 선택
기술 역량의 새로운 비약적 발전은 현재 자본주의 시스템에서 사용하는 자연스러운 조정 메커니즘에 맡겨두면 소득 격차와 풍요로움을 동시에 증가시킬 가능성이 높습니다. 이번 기술 발전은 처음으로 생산성 향상이 아니라 인간의 지능과 능력을 뛰어넘는 것이기 때문에 실제로는 다를 수 있습니다. 인간의 생산성 향상에서 실질적인 대체로의 전환에는 불연속성이 있습니다. 이 시나리오가 현실화된다면 공정성 또는 우리 사회의 목표라고 판단되는 모든 것을 최적화하기 위해 사회 및 정치 시스템을 구조적으로 변화시켜야 할 것입니다. 특히 모든 사람이 동일한 목표를 추구할 필요는 없으므로 민주적 절차는 이러한 의사 결정에 이상적입니다.

우리는 파괴적 기술의 도입을 가속화할지, 늦출지, 완화할지, 그리고 경제적 지원 등을 통해 일자리를 잃은 사람들에게 보상할지 여부를 결정해야 하는 선택에 직면해 있습니다. 변화의 역학 관계는 혼란을 겪는 사람들에게 고통스러울 수 있으며, AI와 그 모든 긍정적인 측면을 효과적으로 수용하려면 혼란을 겪는 사람들을 국가 정책의 중심에 두는 것이 핵심이 될 것입니다. 경제 정책은 경제 성장 조정뿐만 아니라 격차와 사회적 이동성의 지렛대 및 완화 요인도 염두에 두어야 합니다. 저는 변함없는 자본주의자이자 기술 낙관주의자로서 AI 시스템을 지속적으로 신속하게 지원하고 배포해야 한다고 주장합니다. 우리는 기술 발전의 속도를 늦출 것이 아니라 인간의 노동력과 전문성의 잠재적 평가 절하를 포함하여 기술이 가져올 변화에 적응해야 합니다. 이러한 변화는 상당한 도전을 제기하지만, 25년 이상의 기간 동안 보다 공감하는 사회와 자원 제약 이후의 세상을 만들 수 있는 기회이기도 합니다. 우리는 우리가 살고 있는 사회와 우리가 만들어갈 미래에 대해 깊이 생각하고 훨씬 더 공감할 수 있는 정책을 만들어야 합니다. 이는 과거에는 감당할 수 없었던 사치였지만 이제는 우리가 누릴 수 있는 사치일 수 있습니다.

인간의 능력을 초과하는 기술의 더 큰 부작용을 해결하기 위해서는 장기적으로 국가(및 국제) 차원의 구조적 변화가 필요할 것입니다. 경제 정책에는 경제 성장 조정뿐만 아니라 격차 및 사회적 이동성 편향에 대한 조정도 포함되어야 합니다. 각국이 AI 도입에 서로 다른 접근 방식을 취하는 글로벌 맥락에서 상대적 경제적 복지와 권력의 극적인 변화가 일어날 가능성이 높습니다.

AI로 인해 인간의 노동력이 감소함에 따라 UBI가 중요해질 수 있으며, 정부는 AI의 영향을 규제하고 공평한 부의 분배를 보장하는 데 핵심적인 역할을 할 수 있습니다;

엄청난 생산성 향상과 향후 50년간 연간 GDP 성장률이 2%에서 잠재적으로 4~6%(또는 그 이상)로 증가할 가능성을 고려할 때 1인당 GDP는 약 100만 달러(50년간 연간 5% 성장 가정)에 달할 수 있습니다. 경제가 충분히 디플레이션에 빠지면 현재의 명목 달러는 훨씬 더 낮아질 것이며, 현재의 GDP 측정은 경제 웰빙의 척도가 되지 못할 것이라고 생각합니다;

이런 세상에서는 UBI를 감당할 수 있는 충분한 자원과 풍요로움이 있을 것이라고 믿습니다. 오늘날에는 경제적 제약으로 인해 UBI가 비현실적으로 보일 수 있으며, 실제로 아르헨티나나 베네수엘라 같은 나라에서 지출 제약을 무시한 결과 재앙을 초래하기도 했습니다. 하지만 이러한 제약은 점차 줄어들 것입니다.

이러한 변화의 역학 관계와 기술 혁신의 시기는 예측하기 어렵기 때문에 국가적 차원에서 급진적이거나 돌이킬 수 없는 특정 해결책이나 조기 조치를 권고할 때는 주의가 필요합니다. 토론과 논의가 반드시 필요합니다. 소득 격차 증가로 인해 상처받은 사람들을 위한 해결책을 찾아야 합니다. 우리는 변화를 면밀히 관찰하고 향후 10년간 지속적으로 작은 정책 변화를 만들어야 합니다. 강력한 AI 기술 발전에도 불구하고 의도적인 도입 지연과 변화에 대한 인간의 자연스러운 저항을 고려하면 실제 영향과 도입은 상당히 느려질 수 있습니다.

E. 소비자 유토피아 상상하기
흥미로운 유사점은 2001년 세계무역기구(WTO)에 가입한 중국이 그 후 몇 년 동안 미국에 디플레이션 압력을 가했다는 점입니다. 이는 주로 무역 자유화와 중국 수출과의 경쟁 심화와 관련된 몇 가지 요인 때문이었으며, 노동의 해외 이동으로 인해 수천만 개의 미국 내 제조업 일자리가 사라졌지만, 생계가 뒤바뀐 사람들을 위한 숙련 향상이나 돌봄에 초점을 맞춘 정책은 거의 이루어지지 않았습니다. AI를 통해 우리는 상품 가격을 올리지 않고도 중국과 같은 국가의 저임금 노동력을 국내로 송환함으로써 이러한 문제에서 벗어날 수 있는 기회를 얻었으며, AI로 대체된 일자리의 감소에 대응하기 위해 일부 AI 지원 제조 인소싱을 늘릴 수 있었습니다. 중국의 디플레이션 영향은 일자리가 해외로 이전하면서 미국 내 소비자 소비력이 감소한 데서 비롯되었습니다. 반면, 인공지능이 주도하는 디플레이션 성장은 위에서 설명한 모든 이유로 인해 상품과 서비스의 소비 증가(즉, 효과적으로 소비자 소비력이 증가)를 동반할 가능성이 높습니다. 이러한 변화의 역학 관계는 예측하기 어려울 것입니다.

저는 25년 후 대부분의 분야에서 공급이 제한되지 않고 디플레이션이 오히려 접근성과 평등한 소비에 긍정적인 순풍이 되는 소비자 유토피아를 상상할 수 있습니다. 주택, 에너지, 의료, 음식, 교통수단이 모두 기계에 의해 거의 무료로 배달되거나 집 앞까지 배달되고 해당 분야의 일자리가 거의 남지 않는 세상을 상상해 보세요. 그런 세상의 주요 특징은 무엇이며, 그 세상에서 사는 것은 어떤 모습일까요? 우선, 소비자 유토피아입니다. 모든 사람이 왕과 교황이 꿈꿔왔던 생활 수준을 누리고 있습니다. 저는 미래의 유토피아 사회에서 일정 수준의 생활비는 더욱 하락할 것이며, 따라서 현재 연간 4만 달러를 버는 개인이 연간 40만 달러를 버는 사람보다 훨씬 더 많은 것을 구매할 수 있을 것이라고 생각합니다(추정치 기준). 다행히도 기술은 지난 10~20년 동안 중국으로의 아웃소싱보다 상품과 서비스에 대해 훨씬 더 디플레이션을 초래할 것입니다. 하지만 제 진정한 희망은 재화와 서비스가 풍요로워지면서 시민들이 더 많은 소비 대신 더 많은 행복을 주는 것에 집중하기 시작하고 소비가 지위의 상징이 되지 않는 것입니다.

//-----------------------------------------------------------------------------
5. 우리가 원하는 미래를 만들 수 있습니다.
우리 사회가 이 강력한 도구를 어떻게 활용하느냐에 따라 미래가 결정될 것입니다. 그것은 기술 선택이 아닌 기술 기반 정책 선택의 연속이 될 것이며, 국가마다 다를 것입니다. 어떤 국가는 기술을 활용하고 어떤 국가는 활용하지 않을 것입니다. 개인적 차원과 사회적 차원의 선택은 무엇이 되어야 할까요? 인간의 기본적인 욕구가 충족되면 인간의 모든 시간, 노동, 에너지, 야망, 목표는 무형적인 것, 즉 큰 질문과 깊은 욕구로 방향을 전환하게 됩니다. 인간의 본성은 역사상 처음으로 온전히 발현됩니다. 육체적 필요의 제약 없이 우리는 자신이 원하는 사람이 될 수 있을 것입니다. GDP의 증가는 일과 우리의 기본적인 관계를 재정의해야 하는 '포스트 희소성' 사회로 우리를 안내할 것입니다. 그리고 전통적인 GDP 측정은 점점 더 부정확한 인류 발전의 척도가 될 것입니다. 그리고 우리가 어떤 정책과 사회적 선택을 하느냐에 따라 엄청난 경로 의존성을 갖게 될 것입니다.

하지만 가장 중요한 것은 7억 명(약 10%)에 불과한 사람들이 누리고 있는 풍요로운 라이프스타일을 70억~80억 명의 전 세계 시민 모두에게 제공하겠다는 원대한 야망이 마침내 현실로 다가왔다는 점입니다. 에너지, 자원, 의료, 운송, 기업 및 전문 서비스 분야를 AI 없이 10배로 확장하는 것은 불가능에 가깝습니다. 이는 필요한 힘의 승수이자 현재 가장 운이 좋은 사람들이 누리고 있는 것을 확장할 수 있는 유일한 도구입니다. AI는 필요하지만 그것만으로는 충분하지 않습니다. AI가 가능하게 할 에너지 및 기타 혁신과 함께 사회적, 정치적, 경제적 전환을 위한 비옥한 조건을 조성하는 정책이 필요합니다.

AI는 핵이나 생명공학 등 이전의 강력한 기술 도구와 마찬가지로 선용 또는 악용될 수 있는 강력한 도구입니다. 사회적 선택에 따라 '가능한' 세상을 만들기 위해 신중하게 선택하고 사용하는 것이 중요합니다. 미지의 것에 대한 두려움 때문에 혜택을 포기해서는 안 됩니다;

저는 기술 가능성론자이자 테크노 낙관론자이지만, 신중하고 조심스럽게 사용되는 기술을 지지합니다. "때가 되기 전에는 포도주가 없다"는 말처럼, 규제가 필요하지만 때가 되기 전에는 규제가 없어야 합니다. 2000년 뉴욕타임스 인터뷰에서 제가 했던 말을 떠올리며 우리는 인간다움의 의미를 다시 정의해야 할 것입니다. 이 새로운 정의는 일이나 생산성에 대한 필요성이 아니라 열정, 상상력, 관계에 초점을 맞추어 인간성에 대한 개별적인 해석을 허용해야 합니다;