René Dare 🇨🇦

Just another crazy engineer! 🇧🇷🇨🇦

[René Dare 🇨🇦 @renedare]

@itsaflecha O Canadá talvez tinha condições de ter Montreal como uma terceira sede, mas além disso não tem como. Seria a mesma excrescência que foi construir um estádio de 60,000 pessoas em Manaus pra por exemplo fazer o mesmo em Winnipeg ou Calgary.

[René Dare 🇨🇦 @renedare]

@Oledobrasil Passamos a zica adiante. 😂😂

[René Dare 🇨🇦 @renedare]

@itsaflecha Empate. Ai fica tudo embolado. Eu quero que o Canadá passe pra próxima fase pelo menos. 🤣

[René Dare 🇨🇦 @renedare]

@jamessharman @footy_prime So true. It's infuriating. I was there yesterday and loved absolutely everything. The one minor complaint is that I couldn't see the big screen well enough from my seat so I missed some of the opening ceremony details. Kudos to everyone involved in organizing this. 🍁

[René Dare 🇨🇦 @renedare]

@alexocheema @TheAhmadOsman @AlicanKiraz0 @spark_arena @NVIDIAAI @NVIDIARTXSpark Some models take a bit too long to load (Minimax 2.7 with TP2) but overall the performance is pretty decent. I've had issues running out of memory a couple of times but I just had to adjust the launch parameters a bit. Definitely better than LM Studio for this machine.

[René Dare 🇨🇦 @renedare]

@iamkennethchan Bullshit. There is nothing wrong with BMO Field. Amazing work done by the local organizers.

It's not a fancy venue like others, I would agree with that, but the opening ceremony was amazing regardless of that.

[René Dare 🇨🇦 @renedare]

@CentralDoBrega Hein? Vocês certamente não viram o mesmo jogo que eu.

[René Dare 🇨🇦 @renedare]

@Oledobrasil Eh sensacional. Moro aqui há 10 anos e gosto demais!!

[René Dare 🇨🇦 @renedare]

@itsaflecha Eu fui no jogo e achei OK. Eh um estádio menor, do tamanho do time que joga lá (Toronto FC). O povo reclama demais. Estava lotadasso durrante o jogo. Poucos assentos vazios.

[René Dare 🇨🇦 @renedare]

@ComuDoMega El Viento

[René Dare 🇨🇦 @renedare]

@itsaflecha Depois testa na sua rig o Minimax M2.7 com NVFP4 e me diz o que achou.

[René Dare 🇨🇦 @renedare]

@itsaflecha @petrossauro Testa depois na sua rig o Minimax M2.7. Eu estou rodando ele em duas DGXSpark com RDMA e estou gostando bastante também.

Qual é o melhor pro seu use case até agora?

[René Dare 🇨🇦 @renedare]

@itsaflecha @avalonbits Cara eu toda semana eu to vendo bug que o Claudinho não pega de primeira e o Qwen mata de cara. Eu estou usando muito o q3-coder-next e tenho tido melhores resultados do que com o 3.6 27B.

Sem contar que por ser MoE com menos parâmetros ativos ele roda mais rápido.

[René Dare 🇨🇦 @renedare]

@flying_steve Is that the case at Pearson? I always had an impression that domestic baggage claim on both terminals were behind those security doors.

I know at YYC and YVR the carrousel is in a public area.

[René Dare 🇨🇦 @renedare]

@itsaflecha @Ryuuko_Ranbu @limaolehmann Mac Studio de 512GB sumiu do mapa por conta dessa bosta de OpenClaw. Só usado quando acha alguém sério querendo vender.

Eu to testando uma rig com 2x DGX Spark e por isso perguntei se vc chegou a testar com NVFP4. Pq Apple só se eles lançarem um novo Mac Studio.

[René Dare 🇨🇦 @renedare]

@itsaflecha Ele roda legal em um Mac top de linha com 128GB de RAM. Sobra memória suficiente pra KV cache e usando um inference server no mesmo estilo do oMLX o cache adicional e feito em SSD.

Testa depois no seu setup o mesmo modelo com pesos em NVFP4 por favor?

[René Dare 🇨🇦 @renedare]

@itsaflecha Qual modelo vc ta usando? Eu peguei uma DGX spark e to curtindo bastante, sem contar que da pra fazer cluster delas.

[René Dare 🇨🇦 @renedare]

@itsaflecha Eu rodo o Q3.6 27B no Apple Silicon via oMLX fazendo offload do KV cache em SSD. Pra essas tarefas de agente que precisa de múltiplos turnos, as vezes eu nem percebo que está rodando local de tão rápido que fica.

Eu não tenho dúvidas que a IA rodando local eh o futuro.

[René Dare 🇨🇦 @renedare]

@flying_steve That was a noooooice landing man!! 😁