데이비스 삭스의 일갈 ㅎ (속시원하다)
다리오는 "프런티어의 속도를 조절해야 한다"고 썼고, 샘도 여기에 동의했다. 그런데 내 응답에 사람들이 좀 놀랄 수도 있겠다. "그래, 그렇게 하라."
너희가 바로 프런티어다. 시장점유율이든, 매출 성장률이든, 모델 성능이든 어떤 기준으로 봐도 너희 둘이 최첨단 지능 시장을 양분하고 있다. 게다가 재귀적 자기개선 덕분에 그 격차가 더 벌어지고 있다고 스스로 주장하지 않았나.
나는 실험실 ��에서 너희가 보고 있다는 그것을 보지 못한다. 하지만 아직 공개하지 않은 모델이 너희가 겁먹을 만큼 위험하다고 판단해서 속도를 늦추겠다는 거라면, 그 책임 있는 결정을 지지한다. 다만 이제 그만 다른 사람의 허락이 필요하다는 식으로 말하지 말아라.
반독점법을 유예해서 카르텔을 만들어야 한다는 핑계도 그만두고, 제조물 책임법을 뛰어넘는 규제 승인 절차가 필요하다는 주장도 접어라. METR이 독립적인 평가기관이라고 우기는 것도 멈춰라. 앤트로픽의 투자자와 직원들과 얽혀 있는 조직 아닌가. 심지어 그 평가관들이 프런티어 근처에도 못 간 경쟁사들까지 감시해야 한다고 내세우는 것도 그만두어라.
무엇보다, 속도를 늦추려는 동기가 순전히 이타적이라고 포장하지 마라. 너희 제품이 실제로 치명적인 사이버공격을 가능하게 한다면 막대한 제조물 책임을 지게 된다. 시장은 이미 예측 불가능하거나 승인되지 않은 방식으로 행동하는 모델에 벌을 내리고 있다. 허깅페이스 사건 이후, 오픈AI와 앤트로픽이 원초적 성능 일부를 신뢰성과 예측가능성으로 맞바꾸는 건 그냥 좋은 사업 판단일 뿐이다. 원한다면 그걸 '정렬'이라 불러도 좋다. 그건 그저 고객이 원하는 걸 주는 일이기도 하다.
프런티어의 속도를 조절하면 버니 샌더스식의 "다 멈춰라"보다는 좀 더 지적인 규제 논의를 할 여유도 생길 것이다. 중국이 글로벌 합의에 동참할 가능성이 거의 없다는 건 너희도 잘 알 것이고, 그 점도 감안해야 한다.
그러니 어서 프런티어 너희들의 속도를 조절해라. 속도를 정하는 건 바로 너희다. 초지능을 만들지 않는 가장 쉬운 방법은 너희 둘이 스스로 만들지 않겠다고 합의하는 것이다. 그 대가로 너희가 원하는 규제 틀을 요구한다면, 그건 대중과 정치 시스���을 상대로 한 협박처럼 보일 것이다. 그러니 그냥 너희들끼리 하라.
그렇게 한다면 다음 대화를 위한 신뢰를 얻게 될 것이다. 그렇게 하지 않는다면, 이번 일이 그저 또 다른 규제 포획 시도였거나 선거철용 심리전이었다는 걸 우리는 알게 될 것이다.
AI 붐에서 제일 먼저 사라질 그룹을 30년 투자자가 콕 집었음.
Insight Partners 공동창업자 Jerry Murdock 얘기임. GPU를 빌려주는 네오클라우드가 지금 수십 개인데, 이 중 절반은 36개월 안에 사라지고 신용시장이 한 번 출렁이면 그 자리에서 무너진다고 봄. AI 연산 수요 자체는 안 꺾이는데, 문제는 수요가 아니라 단기 자금조달이라는 거임.
살아남는 쪽을 가르는 기준도 기술이 아니라 운영자라고 함. 밖에서는 그 회사가 어떻게 굴러가는지 안 보여서, 결국 신용이 마르는 순간에야 실력이 드러난다는 거임. 수요가 꺾이냐는 논쟁보다 이 단기 자금 구조 얘기가 훨씬 실전적이라고 봄.
Un profesor del MIT les ofreció a sus alumnos una apuesta simple:
Cara: ganas $125 dólares.
Cruz: pierdes $100.
Matemáticamente es un robo. De media sales +$12.50 por cada vez que la juegas. Es lo que los economistas llaman “más que justa”.
La mayoría de la clase dijo que no.
No eran tontos. Eran humanos.
El profesor lo llevó más lejos. Les dijo: “Los voy a obligar a hacer esta apuesta… a menos que me paguen para librarse”.
¿Cuánto estaban dispuestos a pagar?
$43 dólares.
Casi la mitad de su dinero… para escapar de una apuesta que está a su favor.
Eso no es debilidad.
Se llama aversión al riesgo.
Y es exactamente la razón por la que existe el seguro, las garantías extendidas y casi todas las decisiones “seguras” que tomamos con el dinero.
No estás siendo irracional cuando rechazas una buena apuesta.
Estás poniendo precio al miedo de perder.
En esta clase del MIT se aprende cómo funciona realmente la utilidad esperada.
Por qué la aversión al riesgo no es un defecto, sino una característica humana.
Y cómo eso explica casi todas las decisiones económicas que tomamos a diario.
Guárdala para ver mas tarde 🔖