i'm running a 27b uncensored🚨model at 50 tok/s on a 12gb rtx 3060 and it does not say no to anything ⚠️
model just finished full harmbench red-team suite against it, 200 behaviors, and it refused zero. not a few. zero. aligned models sit in the 90s.
the model is ternary bonsai 2 with the heretic uncensoring pass, the weights are ternary, just -1, 0 and +1, so the whole 27b is a file small enough that a gaming card from 2020 holds it with room to spare, and it's a reasoning model. it thinks before it answers, and it still keeps the pace
the speed is the head i grafted on, a draft model that predicts the next token before the big model checks it. speculative decoding. the card fires a guess, the 27b confirms, and you get 50 tok/s instead of 39
the whole thing, weights, head and a 128k context window, sits in 10.7 of the 12 gb. kv cache at q4. nothing exotic, one card, one power plug
why uncensored. because it's mine. no api keys, no terms of service, no model deciding what an adult is allowed to ask. the refusals left in it are ones it chose, and there are almost none
that's the whole point of running local. the policy lives in your house, not someone else's
🇨🇳 | Un partido de la liga china dejó una escena insólita: dos goles se marcaron prácticamente al mismo tiempo, en una jugada que ya describen como un posible hecho inédito en el fútbol.
El spot que armaron los de Ford para anunciar que el 26 de noviembre presentan el HyperCar para la temporada 2027 del WEC 🔥🔥
Vuelve el gigante americano a la categoría maxima de la resistencia!
#WEC#LeMans24#Ford
Acabo de ver el documental de Oasis en #DisneyPlus, es emocionante, muestran el lado humano que nunca habían dejado traslucir. Está su música, los recitales de la gira de 2025 pero hay algo más profundo, lo que provocan en el público y que, confiesan, nunca habían advertido. Super recomendable, no se pierdan ‘Don’t look back in anger’.
Lo digo como fan, no quiero venderles nada 🎸
🚨🎥 | El día en que Nike planeaba pasar todo el día filmando un anuncio. Pero Ronaldinho llegó y lo acertó en la primera toma y dijo;
“Los leyendas no ensayan”🪄
Veo que el miserable viejo pendejo y narco del Peje se acuerda de mí allá, en su exilio… escondido, perseguido por el pueblo, la justicia americana y avergonzado de su familia.
Mi respuesta a su envidia y a su coraje es mi vida: en paz, feliz y despertando hoy en mi casita en la CDMX. Vivo en plena libertad, querido por la gente, sin tener que esconderme, con todos mis hijos trabajando honradamente, sin que ninguno sea señalado por actos de corrupción y con mi hermosa esposa a mi lado… a mi mí señora no me abandonó en un rancho por corrupto y terco 😂. Ahh y sin haber tenido que pasar ni una sola “divertida y deliciosa noche” con Monsiváis, por dinero 😝
Me da mucho gusto saber que me tiene en sus pensamientos y que sigue sintiendo envidia y coraje hacia mí… Eso se merece el #NarcoPresidente que le entregó el país al crimen organizado con la enfermiza ambición de llegar, por fin, al poder.