Sixia "Leask" Huang

break the wall or bring the war

[Google Gemma @googlegemma]

Meet Gemma 4 12B!

A unified, encoder-free multimodal model designed to bring high-performance intelligence directly to your laptop, and released under an Apache 2.0 license.

Bridging the gap between edge efficiency and advanced reasoning. Here is what’s new with Gemma 4 12B: 👇

[Perplexity @perplexity_ai]

Today we're announcing that hybrid agentic inference is coming to Perplexity Computer.

Computer can split tasks between a local model running on your machine and frontier models in the cloud. This keeps private data on your device and maximizes token efficiency.

Coming soon.

[Sixia "Leask" Huang @LeaskH]

@sxzz @cyber_homestead 哈哈，最終還是換了～

[Intelligent Internet @ii_posts]

II-Agent is now live on the App Store.

Your sovereign AI workspace for building, researching, writing, designing, and automating from one intelligent interface.

Download it. Bring your own key. Build with agency.

https://t.co/Q6zH3XdbRV

[Sixia "Leask" Huang @LeaskH]

@HalfuTeamo @nasaboy56 UPS 主要是提供安全關機的時間就好了。否則需要上發電機，在切換backup的時候讓 UPS 撐過過度的幾分鐘。

[Sixia "Leask" Huang @LeaskH]

UPS 的電池是不是一般就4年？話說，換電池還有意義麼？還是應該直接換一個 UPS？😄這個 STATUS: On battery. Replace battery. 是不是電池要掛了？

[Sixia "Leask" Huang @LeaskH]

@forevertjt 這幾年瘋了～😆��且現在看供應鏈～估計往後幾年都一樣～😭

[Sixia "Leask" Huang @LeaskH]

🤣我也算是補過proxmox的人了。

[Sixia "Leask" Huang @LeaskH]

@perryyeh 我這樣問，就��～因為～看上一個～新～的～哈哈哈哈哈。unifi的那個。https://t.co/TDXPMbYQSO

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn 大集群smoke幾次的價格就可以��了呀？😄所以，它其實很適合做集群預演。如果你模型規模真到了，就會覺得，這反而是省錢呀。

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn GB10結構它從chip2chip之間是更直接的NVLink/RDMA，芯片到芯片之間吞吐更自然，且支持遠程記憶訪問，芯片一起運算時，是不需要copy遠程記憶體數據的。thunderbolt整個設計太依賴橋接芯片，它做不到RDMA，我們早期也玩過多個mac連一起，我之前也發過推，它目前只適合串行推理加速，做寬度並行還比較難。

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn https://t.co/RJUBNHMiEJ 所以我上次才說，spark 的好處是，你能有一個真的集群，它的代碼和你上大訓練集訓的代碼徹底一樣，你可以做任何大集群上一樣的訓練測試，最終scale up。這是目前mps做不到的。

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn 對。我看了GTX直播，傷心的是，這次沒有第一方機型。另外這東西對我有沒有用主要看40/80G網口有沒有。🤣這主要看離線開發方便以及dock起來之後gpu能不能連在一起加速做運算。

[Sixia "Leask" Huang @LeaskH]

@yiliuai @hengdm 另外，SigLIP 2 的確也不錯。

[Sixia "Leask" Huang @LeaskH]

@yiliuai @hengdm 讚！這個已經很簡單，而且基本上是比較成熟的解決方案，大家坑都踩完了。😄

[Sixia "Leask" Huang @LeaskH]

@hengdm @yiliuai 你們需要的是 embedding啊。多模態 embedding照片庫，就可以模糊搜索了。讓ai寫一個，超級簡單，用Gemini Embedding 2之類的模型。如果怕丟某些語義，用vlm再打一個description，在搜索的時候embedding和desc文本匹配一起做。

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn 我有個定製頂配的studio，兩個都在用。不過我最近更多用spark，別的都是假cuda不可取代。🤣mac 推���還湊合，訓練缺太多東西。而且你完全不能保證代碼能上集群。🤣

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn 事實上現在很多人希望把spark做成筆記本。🤣想想有個筆記本在外面開發方便測試，回到家或者公司可以接上三四，五六個dgx spark作為桌面集群加速。這個場景相當實用。是實打實生產力。

[Sixia "Leask" Huang @LeaskH]

@forevertjt @JunLoveToLearn Consumer 暫時不是市場，但是 Prosumer 的話。這個產品值得期待的。我們最近在用Spark做訓練，這個小機器相當實用。對於小模型的訓練用來smoke，信號驗證甚至直接產出初期的模型都很好。如果可以做成筆記本，對我還是有吸引力。主要的原因是，可以統一很多大訓練集群和本機smoke的環境，這點相當重要。