Olivia
Online
@4rt3m
Joined December 2011
310 Following
1.4K Followers
394 Posts
Claude randomly starts thinking in russian
@nakotobuse ну нас точно ждет увеличение среднего веса ЛЛМок (FLASH/NEXT версии подрастают каждый раз). 128Гб у Спарка уже мало. Кластеризация или сползание весов на SSD - это всегда trade-off. Размер RAM сейчас устанавливает ЧТО можно запустить, всё остальное - это КАК оно будет работать.
@nakotobuse Сам вендор к платформе интерес теряет, Спарк 2 не за горами. Как Спарк 2 объявят, Спарк 1 превратится в тыкву. На https://t.co/d8D2SHHPeV маков в разы больше, так что вектор развития локального инференца, в целом, понятен.
@nakotobuse 8 спарков это из разряда "кластер из raspberry pi". Имхо весь смысл маленькой компактной железки теряется. 512гб мак тут выигрывает по "плотности всего" (в том числе токена на грамм/ватт). Софт на спарках до сих пор в nightly. За год стало лучше, конечно, но работы много.
Who to follow
Alexey Lukatsky
@alukatsky
Специалист по кибербезопасности. 30 лет стажа. Спикер, писатель. Гораздо больше пишу в https://t.co/oMc8iBgS8w
Denis Batrankov
@Batrankov
Security Expert certified by Cisco, Microsoft, IBM, HP, Palo Alto Networks, SANS, ISC
Anti-Malware.Ru
@Anti_Malware
Информационно-аналитический центр по информационной безопасности VK: https://t.co/HfJAkQ8hc4 Telegram: https://t.co/sLmzKfUjHo
@MiaAI_lab There is only one real "western value" and it's called "abliterated".
Asked one of our developers how he uses his AI agents and he just sent me this:
Как оказалось, у Опуса нет никаких ограничений в отношении "взлома" (abliteration) открытых ЛЛМок. Сегодня он часа за 3 убрал все видимые органичения на моей Qwopus (Qwen3.8) https://t.co/s5r2TcxfiO
@nakotobuse у спарков память - гавно (273 Гбпс - это уровень встроенных видеокарт. У GB300 в 20 раз память быстрее, даже у Маков и то в 3-5 раз быстрее).
@JamesMcPherson https://t.co/blbImKnlRA 12k GB10 users, 7.5 M* Ultra users. If we add M* Max, total will be ±50k.
@jayleaton @tensorfold_dev the size of "flash" models constantly grows. 256Gb will likely be not enough next year. All 256Gb setups will turn into a pumpkin or will be forced to use heavily quantized versions.
@Israfilv2 @Klay0723 It is uncensored. Your prompt is likely rejected by your agent/LLM, but not the checkpoint.
@svgmzr @1red2black эта хакерская культура испытывает бум сейчас. Счёт "abliterated" моделей идёт уже на десятки тысяч! Тут соревнования даже идут, кто первый взломанную модель выпустит (или джеилбрейк к облачной найдёт). На днях вообще вышла "разлоченная" qwen-image2.1, страшно ленту открывать :)
Last Seen Users on Sotwe
Trends for you
Most Popular Users
Elon Musk 
@elonmusk
241.4M followers
Barack Obama
@barackobama
118.8M followers
Cristiano Ronaldo
@cristiano
114.5M followers
Donald J. Trump
@realdonaldtrump
111.9M followers
Narendra Modi
@narendramodi
107M followers
Rihanna
@rihanna
98.7M followers
NASA
@nasa
92.3M followers
Justin Bieber
@justinbieber
91.8M followers
KATY PERRY
@katyperry
90M followers
Taylor Swift
@taylorswift13
84M followers
Lady Gaga
@ladygaga
75.5M followers
Virat Kohli
@imvkohli
73.4M followers
Kim Kardashian
@kimkardashian
70.8M followers
YouTube
@youtube
68.7M followers
Neymar Jr
@neymarjr
66.4M followers
Bill Gates
@billgates
65.2M followers
Selena Gomez
@selenagomez
63.1M followers
The Ellen Show
@theellenshow
62.2M followers
CNN
@cnn
61.7M followers
X
@x
60.7M followers