In the fight to defend openness in AI, the Marin project is a precious demonstration of openness in model training, with open code, data, recipes, even experimental results. Releasing AI research openly used to be the norm; I'm grateful for @percyliang's open lab approach.
🚢 Marin 535B-A23B started training this week! As usual, the whole process is open.
Voyage plan: pretraining (80%) + midtraining (20%) on 18.75T tokens on 11 x GB200 NVL72 for ~3 months (2.7e24 FLOPs). Post-training will follow.
Before kicking off the run, we trained a 4-rung scaling ladder from 1.6B-A61M (48B tokens) to 27.7B-A1.2B (926B tokens) to debug issues, and to make a forecast of our hero run. This is by far our biggest run, so definitely expecting the unexpected.
@dhawkins__@remarks Solving cancer will take jobs of hundreds of thousands of people employed in the medical field. Perhaps you should think about that first before being so pro-AI
Sou a Cibele Russo, Profa. Doutora na USP. Tenho um canal de aulas de Estatística e Ciência de Dados no YouTube, https://t.co/MT1NRvGytH em temas como Inferência Estatística, Modelagem Estatística, Aprendizado de Máquina Supervisionado e Não-Supervisionado, Visualização e Exploração de Dados, Gestão da Qualidade e em breve Fundamentos em Ciência de Dados. Usem sem moderação, compartilhem e o conhecimento vai mais longe :)
Quem aí já assistiu às minhas aulas (onde? O que quer ver no canal?)
Murcia, we loved celebrating Spain’s World Cup win with you at our show yesterday!
Whilst Scotland didn’t get as far as we hoped, it was such a special moment to share with you all in your home country 🇪🇸
Ontem à noite, o Belle and Sebastian estava para fazer um show na Espanha, em Murcia, bem na hora da final. Sabiamente, em vez de começar o show, assistiram o jogo no telão e começaram a tocar quando acabou.
SENTE O CLIMA! 🤩
In 1962, Los Alamos physicist Darol Froman proposed using fusion engines (or perhaps an antimatter engine) to fly Earth itself out of the solar system before the Sun becomes a red giant
The plan called for grinding up the Moon as propellant, giving us a range of 1,300 light years
@andrelorenzob It's clearly a scam. They take advantage that this electricity tech is so new and nobody understands it. I bet it won't last more than a couple of years.
🚨🚨🚨 @CazeTVOficial fechou acordo de direitos de transmissão dos eventos WTA, a partir de 2027!
O circuito de tênis feminino terá transmissão GRATUITA pela primeira vez na história do Brasil!
@nonoinvestidor Getv precisa de concessão estatal? Se não, ela ficaria livre de uma certa burocracia. Além disso, um rebranding em épocas de baixa não é novidade