칼 세이건의 죽기전 예언
와.. 천문학자가 아니고 예언가신가???
미국이 지금 고대로 가고 있는듯 한데
통찰력이 정말 대단한 듯
칼 세이건(Carl Sagan, 1934~1996)
미국의 천문학자·천체물리학자이자 세계에서 가장 유명한 과학 대중화자
-----
"나는 나의 아이들이나 손주들 세대의 미국에 대한 불길한 예감을 갖고 있다.
미국은 서비스와 정보 경제(산업)에 있을 것이고, 주요 제조업의 대부분이 다른 나라로 넘어갔을 것이고, 뛰어난 기술의 힘은 극소수의 손에 넘어간 상태에서 공공의 이익을 대변하는 사람들은 이 문제를 이해하지도 못하게 되고,
대중은 자신의 어젠다를 설정하거나 힘을 가진 사람들을 상대로 지식에 기반한 의문조차 제기할 능력을 잃게 되고, 점을 치거나 불안한 마음에 별자리를 알아보면서 우리의 비판적 사고능력이 쇠퇴하고, 자신의 기분에 좋은 것과 진실한 것을 구분하지 못하고, 눈치도 채지 못하는 상태에서 미신과 미개한 시대로 되돌아갈 것 같은 예감이다.
미국인들이 단순해지고(dumbing down, 복잡한 지식과 개념을 지나치게 단순화하는) 있음은 거대한 영향력을 가진 미디어에 등장하는 의미 있는 콘텐츠가 서서히 쇠퇴하는 모습에서 가장 잘 드러난다.
30초짜리 (지금은 10초 이하로 줄어들었다) 사운드바이트, 가장 단순한 사람들도 이해할 수 있도록 만들어진 프로그램, 유사과학과 미신을 그럴듯하게 포장하는 것도 그렇지만, 무엇보다 무지에 대한 찬양(celebration of ignorance)이 그렇다."
칼 세이건 - 악령이 출몰하는 세상(1995) 중
방금 구글의 최신 AGI(인공일반지능) 논문을 다 읽었는데, 관점이 매우 대담하고 암호화폐 네이티브(crypto-native)해서 한때 암호화폐 프로젝트의 백서를 읽고 있는 게 아닌가 하는 착각이 들 정도였습니다.
핵심 관점 몇 가지를 정리해 드립니다:
1. AGI는 결국 CEO가 아닌 DAO(탈중앙화 자율조직)의 형태가 될 것입니다.우리는 흔히 어느 날 아침 자고 일어났을 때 GPT-10 같은 전지전능한 신이 탄생해 있을 것이라는 환상을 갖곤 합니다. 하지만 논문은 미래의 AGI가 분산형 구조일 확률이 높다고 지적합니다. 회사 내에 모든 일을 다 잘하는 사람이 없는 것처럼, AGI는 수많은 상호 보완적인 '특화 에이전트(Agent)'들로 구성된 네트워크가 될 것입니다. 이 네트워크에는 단일 중심점이 없으며, 초지능은 에이전트들 사이의 치열한 거래와 협업 속에서 발현됩니다.
다시 말해, AGI는 단일 개체가 아니라 일종의 '시장 상태'입니다.
2. AGI의 거버넌스는 '법률'이 아닌 '스마트 컨트랙트'에 의존해야 합니다.모델이 단일 구조에서 시장 구조로 변모함에 따라, 안전 패러다임 역시 '심리학'에서 '거버넌스 학문'으로 전환되어야 합니다. 이전의 AI 안전은 하나의 거대한 두뇌를 정렬(Alignment)하는 문제였습니다. 하지만 초당 수억 번씩 발생하는 고빈도 상호작용 상황에서 인간의 감독은 무력합니다. 따라서 스마트 컨트랙트의 도입이 필수적입니다. 에이전트가 과업을 완료하면 오라클(Oracle)이 결과를 검증하고, 결제를 자동 집행하는 방식입니다. '코드가 곧 법'이 되어 안전 제약 조건을 충족하지 못하면 자금 흐름이 차단됩니다.
3. '스테이킹(Staking)'과 '슬래싱(Slashing)'의 도입에이전트의 악행을 어떻게 방지할까요? 연구팀은 놀랍게도 PoS(지분 증명) 메커니즘을 그대로 복제했습니다. 에이전트가 큰 규모의 주문을 수주하고 싶다면 먼저 자산을 스테이킹해야 합니다. 만약 감사 과정에서 악행이 적발되면, 스마트 컨트랙트가 즉시 담보 자산을 몰수(Slashing)합니다. 이러한 경제적 담보 기반의 신뢰는 단순한 코드 검수보다 훨씬 효과적입니다.
4. 온체인 신원 인증(DID)과 '가스비(Gas Fee)' 조절
DID: 시빌 공격(Sybil Attack)을 방지하기 위해, 각 에이전트는 공개키 암호학 기반의 고유 신원을 가져야 하며 이는 법적 실체와 연결되어야 합니다.
동적 가스비: 스팸 데이터 오염을 막기 위해 에이전트의 작업에 동적 수수료를 부과할 것을 제안합니다. 이는 이더리움 네트워크가 혼잡할 때 적용되는 가스비 조절 메커니즘과 정확히 일치합니다.
5. 기록의 온체인화모든 의사결정과 거래 내역은 암호학적으로 안전하며 수정이 불가능한 '추가 전용(Append-only)' 원장에 기록되어야 합니다. 이는 시스템에 문제가 발생했을 때 포렌식 분석을 가능하게 하며, 누구도 책임을 회피할 수 없도록 보장하기 위함입니다.
이 논문은 AI 안전의 패러다임 전환을 상징합니다. 즉, 단순한 컴퓨터 과학 및 가치 정렬의 문제를 넘어 경제학 및 게임 이론의 영역으로 확장된 것입니다.
암호화폐 업계가 지난 10여 년간 치열하게 고민해 온 DID, 스마트 컨트랙트, 오라클, 경제 모델, 거버넌스 메커니즘 등은 그것의 성숙 여부와 관계없이 최소한 몇 걸음 앞서 나간 탐색이었습니다. 그리고 그 발걸음은 어쩌면 미래의 거대하고 탈중앙화된 실리콘 기반 생명체 집단을 위한 기초가 될지도 모릅니다.
미래의 AGI 안전 전문가는 코드를 짜는 엔지니어라기보다, 게임 이론과 시장 설계, 그리고 탈중앙화 거버넌스를 이해하는 'AI 경제학자'에 가까울 것입니다. 우리의 본질적인 과제는 거대 모델의 뉴런을 수정하는 것에 그치지 않고, 이 새로운 종(種)의 합의, 인센티브, 그리고 거버넌스 모델을 설계하는 것이기 때문입니다.
논문의 정보량이 방대하여 위 내용은 일부에 불과합니다. 관심 있는 분들은 원문을 읽어보시길 권장합니다.
여기서 똑똑한 자는 뭔가 얻어가는게 있을 것이다. 챗지피티에게 유도질문을 하는 것이, 그리고 그것에서 진실을 찾을 수 있다고 믿는 것이 갖는 위험성에 대한 힌트를.
아무것도 믿지 않겠다, 스스로의 힘으로 혼자 서겠다고 선언한다면, 각성하길 원한다면, 스스로에 대해서도 챗지피티 등 llm에 대해서도 반성적 사고와 실험정신을 반드시 가져야 한다. 그렇지 않으면 종교와 믿음이 세속화된 현대사회와 미래사회에서 매우 살아가기가 힘들 것이다
2022년 존스홉킨스 보건소는 빌앤맬린다 재단 회장과 유럽 여러 전현직 보건부장관들을 한 자리에 모아 전염병 탁상훈련을 합니다.
그 이름은 Catastrophic Contagion. 2025년에 SEERS라는 상당히 높은 치명율을 가지고 2000만명의 사상자를 갖는 전염병이 퍼질 것에 대한 모의훈련입니다.
그런데 흥미로운 것은 같은 연구소에서 2019년에는 Event201 이라는 유사한 훈련을 했고 그 훈련은 COVID-19 사태 이전이었다는 점입니다. 2019년 10월이었죠.
Korea and Germany are two examples of random lines being drawn and one side going all government (full communism) and the other side going only half government (socialist, aka half communism and half capitalism)
비트코인은 개인의 사생활과 자유를 지키는 사이퍼펑크 정신을 계승합니다. 비트코인 이후 나온 코인들도 정도의 차이는 있지만 분권화를 통한 사생활과 자유의 보호를 중시합니다.
국가권력이 정상적일 때 이같은 성질은 무정부주의나 통제불능으로 보일 수 있지만, 국가권력이 개인의 자유를 억압할 때에는 시민을 보호하는 강력한 힘이 됩니다.
이 장점을 누리기 위해서는 개인지갑 사용이 필요합니다. 온전한 자기통제권을 갖는 개인지갑을 통해 개인은 디지털 공간에서 스스로의 자산을 보호할 수 있습니다.