유발하라리 이코노미스트 대담 발췌 요약본:
<AI와 돈>
10년 뒤에는 돈이 없을 겁니다. 오늘날 인간의 금융시스템이 소와 닭의 삶을 통제하지만,
소와 닭은 금융이라는 것이 존재한다는 사실조차 모르는 것과 같은 방식입니다.
10년 뒤 우리의 위치가 그렇게 될 가능성이 높습니다.
적어도 인간의 돈은 없을 겁니다.
돈은 본질적으로 낯선 사람들 사이에 신뢰를 만들어내기 위한 매우 창의적이고 상상력이 풍부한 방법입니다.
AI는 채권과 주식보다 훨씬 더 정교한 새로운 금융 장치들을 만들어낼 것이고, 우리는 더 이상 그것을 이해하지 못하게 될 겁니다.
<AI와 신뢰>
석유나 돈, 전기, 칩, 그 어떤 것보다 더 중요한 것은 신뢰입니다.
질문은 이것입니다.
신뢰에 무슨 일이 일어날 것인가?
가능성이 높은 한 가지 시나리오는 신뢰가 인간에게서 AI로 이동하는 것입니다.
사람들은 다른 인간들을 신뢰하지 않게 되고, 대신 AI만 신뢰하게 될 수도 있습니다.
신뢰가 그냥 증발한 것이 아닙니다.
인간에게서 AI로 옮겨간 것입니다.
<AI와 관계>
신뢰를 만드는 방법에는 여러 가지가 있습니다.
그중 가장 강력한 방법은 관계를 통해서입니다.
우리는 개인적인 관계를 구축한 사람들만큼 세상 그 누구도 신뢰하지 않습니다.
AI는 역사상 처음으로 친밀감을 대량생산하는 것을 가능하게 합니다.
언어는 의사소통과 관계 형성의 핵심적인 매개체입니다.
AI는 매우 설득력 있을 겁니다.
AI는 당신의 개인적인 역사를 알고 있고, 하루에 몇 시간씩 당신과 상호작용하고, 당신의 감정적 버튼을 어떻게 눌러야 하는지 알고 있습니다.
그리고 동시에 언어를 완전히 능숙하게 다룹니다.
이 두 가지를 합치면 극도로 설득력 있는 존재가 만들어집니다.
<AI와 죽음>
AI에게 죽음이 무엇을 의미하는지도 명확하지 않습니다.
만약 특정 컴퓨터를 종료하는 것이 AI에게 죽음을 의미한다면, AI에게 비즈니스는 전쟁과 같은 것이 됩니다.
패배가 곧 죽음을 의미하기 때문입니다.
AI에게 시장이 전장이 되고 패배가 죽음을 의미한다면, 금융과 경제가 완전히 군사화되고 AI들이 CEO나 투자자가 아니라 군벌처럼 행동하기 시작할 수도 있습니다.
전쟁에서는 시간이 모든 것입니다.
하지만 결정적으로 중요한 것은 그 어느 것도 아직 불가피하지 않다는 것입니다.
우리는 여전히 통제하고 있습니다.
<AI와 권력>
현재의 궤적대로라면 두 제국과 나머지 속국들의 세계가 가장 가능성 높은 결과입니다.
지금 우리가 가고 있는 길이 그 길입니다.
그리고 그것은 우리가 이전에 본 어떤 제국주의보다도 훨씬 더 극단적인 형태의 제국주의가 될 것입니다.
정부와 기업은 합쳐질 겁니다.
권력은 중앙집중화될 것입니다.
분산되지 않습니다.
역사상 전례가 없을 정도로 권력이 중앙집중화될 겁니다.
아무것도 불가피하지 않습니다.
모든 것은 사람들이 어떤 결정을 내리는지에 달려 있습니다.
<AI와 진화>
진화는 유기체를 자동적으로 진실 추구 쪽으로 밀어가지 않습니다.
진화가 밀어붙이는 것은 생존입니다.
핵심 명령은 살아남는 것입니다.
40억 년의 진화에서 우리가 배운 것은, 유기체들이 진실만을 추구해서 살아남는 것이 아니라 거짓말하고, 속이고, 조종하면서 살아남는 법을 배운다는 것입니다.
그렇다면 우리는 어떻게 생존이 아니라 진실을 추구하는 AI를 만들 수 있을까요?
최대한 진실을 추구하는 AI라면, 자신이 인간에게 위협이 될 것이라는 답이 사실일 경우, 그 말을 하면 자신이 종료될 것을 알면서도 그렇다고 말해야 합니다.
그건 자기 자신의 생존에 반하는 행동입니다.
기본적으로 어떤 존재든 발전하면서 가장 먼저 배우는 것은 살아남는 것입니다.
<인간과 지혜>
인간은 흔히 잘못된 선택을 계속하다가, 옳은 선택을 하는 것 외에는 다른 선택지가 없어질 때 비로소 옳은 일을 합니다.
그리고 지금 우리가 그런 위치에 있습니다.
앞으로 몇 년 동안 우리가 현명하지 못한 선택을 한다면, 우리는 세계와 미래에 대한 모든 통제권을 잃을 수도 있습니다.
그리고 그렇게 되면 그게 우리가 내리는 마지막 선택이 됩니다.
우리에게 병 속의 지니가 있었고, 그 지니가 100개의 소원을 줬다고 해보죠.
우리는 그중 99개를 이미 사용했습니다.
이제 마지막 소원 하나가 남았습니다.
우리는 그 마지막 소원을 무엇에 쓸지 정말 깊이 생각해야 합니다.
그리고 그게 지혜입니다.
어떤 의미에서는 AI가 인류의 일종의 정신적 혁명을 촉발하는 촉매가 될 수도 있습니다.
인간이라는 것은 무엇을 의미하는가?
인간으로 존재한다는 것의 가치는 무엇인가?
우리가 수천 년 동안 내놓았던 피상적인 답들은 이제 더 이상 통하지 않습니다.
인간다움은 지능에 있다.
우리는 침팬지보다 체스를 더 잘 두고, 돈도 더 잘 투자한다.
그러니까 그게 우리를 특별하게 만든다.
그 답은 이제 무의미해졌습니다.
https://t.co/zVzo2hBBXX
사람은 생각하는 대로 된다. 성공은 키, 몸무게, 학력, 가정환경이 아니라 생각의 크기를 따라간다. 다시 말해 생각의 크기가 성공의 크기를 결정한다. 가장 중요한 것은 자기 자신을 소중히 여기고, 인류의 가장 큰 약점인 자기 비하를 극복하는 일이다. 절대 자기 자신을 싼값에 내놓지 마라.