𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼

🐼❤️
인생맥시말리스트.(LIFE MAXI)

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

삼성전자보다 나는 비트코인
하이닉스보다 나는 이더리움
키옥시아보다 삼성전기보다 마이크론보다 나는 유니스왑
투매도 니들보다 빨리했어 10월 10일

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

무엇이 가능할까요. 초대형 모델들의 에이전트 샌드박스 시뮬레이션이 (저렴하게) 가능해집니다.

이것이 바로 앤스로픽이 노렸던 거라고 거슬러 추측해 볼 수 있습니다.

Ai의 세대적 도약을 상당히 크게 기대해 봅니다.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

창업자가 말했듯이 이 칩은 전례 없어야만 합니다. 공식 홈페이지에 구체적으로 밝힌 스펙은 현재 세계에서 가장 큰 모델에수 1200토큰/초 였습니다. 지금은 40토큰/초에 불과합니다.

Sram 칩의 대역폭을 거대 모델에도 부여하는 겁니다.(지금 sram 칩들은 배치 사이즈를 잘게 쪼개야 해서 불가)

[Walter Goodwin @goodwin_ml]

We have raised a $720M Series C, led by @ThriveCapital, @lightspeedvp, @Redpoint and @foundersfund, to allow us to run faster in shipping the world's fastest chips for AI.

We've seen over the past year that many of the hardest problems that humanity faces - in science, medicine, physics - may be solved in our lifetimes by AI.

One hallmark of AI applied to the toughest problems is that extreme scaling of inference compute becomes vital. In tackling a Millenium Prize problem, for instance, @OpenAI ran 10,000 parallel agents for 80 hours. Costing over $10M, this level of capability is far from democratised today.

When we study agentic scaling, there are two paths: parallel, and sequential. In just the same way that most hard problems solved by humans don't parallelise efficiently, we see the same with agents: fewer agents, thinking for longer, scales better in every way except for the time that you wait for a response.

Building radically faster inference hardware, which doesn't force a trade-off on throughput, model sizes or context lengths, is a key step in bringing down the cost and time we incur in solving our hardest problems.

We're thrilled to be backed to bring this to the world!

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@dramaticexit25 @n8OzCPrdWfjIkVV 므흐흐흐흐흐

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

소위 바닥 잡기를 올해 2번이나 시도하고 있지만, 지금의 이런 핸들은 내 계좌가 감당 가능한(깡통을 차고 일어서도 멘탈로 괜찮은) 크기라서나 할 수 있는듯. 이제 여기서 2배 정도 되면 나는 줴줴이야 될 거 같음.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

앤스로픽이 무엇에 베팅했는지 잘 이해했습니다. 목표 성능이 나오기를 기대해 봅니다.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

한 순간 아날로그 램이라던가, 멤리스터 구조라던가 그런 거면 어떡하지 하는 염려가 있었지만 결국 정체가 드러났습니다.

로직 다이 위에 스택형 d램 다이. 이것은 차세대 고대역폭, 고용량 칩 아키텍처의 가장 논리적인 귀결이며 놀랍게도 대부분의 팹리스를 앞서 나가는 베팅이 맞습니다.

[Fractile @fractile_ai]

Our first product-scale chip, which we will be manufacturing next year, will stack DRAM directly on top of the processor, combining radically better bandwidth and speed with the capacity needed to run the world’s largest models at long context.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

아날로그 메모리 같은 거였다면 바로 dismiss했을 겁니다. 내년에 그게 나올 수 있을 리가 없어요. 하지만 프로세서(sram 인메모리 다이일 거라 추정)와 디램 다이의 스택 결합은 많은 사람들이 추측하던 미래 경루였습니다. 놀랍게도 이 스텔스 모드 회사가 제일 빨랐던 거 같습니다.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@000yashir 큰 일 났 다

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

오늘 어르신들한테 붙잡혀서 저녁 먹느라 운동을 못한 게 빡치는 하루였는데

레인지 최대한 길게 늘려도 노동 소득 쌀먹 가능한 시간은 30여년 밖에 안 남았다는 사실을 일깨워주셨다.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@Bibibighi 우리는 살아남습니다

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@000yashir 넘 고칼로리 먹음 중국집 가서

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@Chamyeoninso @DoNotSELL2 IT의 끝이 은행업 같지 않기를 바란다네

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@n8OzCPrdWfjIkVV 날달걀만 먹고 살게 하라.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@DoNotSELL2 물론 그때까지 매체라는 게 존재할지는 모르겠다만... 대충 필살 계속 밑단계 직장으로 내려가기 쓰면 가능하다고 하더군요. 몇 분은 이미 그 루트를 준비 중이고

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@tokamakbot 근데 진짜 페니스 피시 맞음

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@ReS0403 @Playa_Vesper @dramaticexit25 거참... 피드백을 잘못 받으면, 아예 기회 자체가 박탈될 수도 있다는 게 이곳의 무서움인듯.

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

@n8OzCPrdWfjIkVV REAL

[𝓡𝓸𝓬𝓸☆𝓐𝓷𝓰𝓮𝓵👼 @spaceastrium]

이제 '약탈'의 시간이다.