tem uma passagem no paper que introduziu a swiglu que eu acho muito engraçado e revela que nós não sabemos todos os porquês em deep learning
“Não oferecemos nenhuma explicação sobre o por que essas arquiteturas parecem funcionar, atribuímos o seu sucesso à benevolência divina”
Marina Silva conseguiu em 4 anos levar o desmatamento para o menor nível da história da Amazônia. Como?
Fiscalização remota com inteligência artificial, embargos em escala e restrição de crédito para infratores. Sufocou o crime.
Agora o Congresso quer proibir que ela continue.
Cortar 400 milhões de reais do orçamento das Universidades é um Crime Lesa Pátria!
Quem votou por isso nunca mais pode ser eleito!
Está na hora da sociedade brasileira dar um basta aos desmandos deste Congresso! A esbórnia passou de qualquer limite aceitável!
🚀 Excited to share our work at Bytedance Seed!
Knapsack RL: Unlocking Exploration of LLMs via Budget Allocation 🎒
Exploration in LLM training is crucial but expensive.
Uniform rollout allocation is wasteful:
✅ Easy tasks → always solved → 0 gradient
❌ Hard tasks → always fail → 0 gradient
💡 Our idea: treat exploration as a knapsack problem → allocate rollouts where they matter most.
�� Results:
🔼 +20–40% more non-zero gradients
🧮 Up to 93 rollouts for hard tasks (w/o extra compute)
📈 +2–4 avg points, +9 peak gains on math benchmarks
💰 ~2× cheaper than uniform allocation
📄 Paper: https://t.co/3HbOwV2tLL
🚨ATENÇÃO! CIÊNCIA SOB AMEAÇA!
Está na pauta da sessão da Comissão de Ciência e Tecnologia do Senado de amanhã o PL 330/2022, que representa uma ameaça para a liberdade científica.
O projeto quer punir com reclusão de 3 a 5 anos a "má conduta científica", conceito mal formulado e aberto que visa constranger cientistas em suas atividades de pesquisa, principalmente em tempos que a extrema-direita busca impor dogmas negacionistas.
A ANPG manifesta seu repúdio à criminalização da ciência e insta os senadores a recusarem a não votarem um projeto de tais implicações sem o necessário debate em audiências públicas.
FAZER CIÊNCIA NÃO É CRIME! NÃO AO PL 330/22!
Quantas vezes você viu o Jornal Nacional pedir "moderação" nos ataques ao governo? Quantas vezes você ouviu a Globo dizendo que críticas ao governo causam "preocupação"?
Nunca vimos isso. Nenhuma vez. Pelo contrário. A própria Globo se dedica a atacar o poder executivo constantemente — ao ponto, inclusive, de ter ajudado a derrubar presidentes eleitos democraticamente.
Mas note que bastou que o Congresso sofresse um mínimo de pressão popular — que não é nem 0,5% do que o governo está acostumado a sofrer — para que a imprensa saísse em sua defesa.
Como se a pressão popular sobre representantes eleitos não fosse legítima. Como se cobrar nossos deputados e senadores não fosse um atributo próprio da democracia.
Isso ocorre porque o Congresso, assim como a Globo, respondem aos mesmo interesses e servem aos mesmos mestres — ambos são porta-vozes das classes dominantes.
E um mínimo de enfrentamento baseado em uma perspectiva de classe, identificando o Congresso como uma força que atua contra o povo e a favor dos ricos, já basta pra causar enorme preocupação.
A elite brasileira está determinada a manter eternamente o Brasil como um fazendão miserável, onde os 99% que ocupam a senzala garantem o conforto e privilégios do 1% que reside na casa grande.
E qualquer coisa que cheire remotamente a uma rebelião da senzala causa incômodo aos sinhôs e sinhás...
Estou em choque : tava conversando com pirula no domingo de manhã e a noite ele teve o AVC
há de ficar tudo bem, mas precisamos fazer uma corrente pra ajudá-lo e sustenta-lo por agora!
A noite vai ter live no 3 elementos explicando a vakinha e tudo oq vai rolar!
Força pirula !