Q. ローカルLLMなぜやってますか?
A. いつクラウドのLLMたちがトチ狂った規制を強いられたり変なパーソナリティになるかわかんないから
Q. 機材買ってペイできますか?
A. そもそも故障でもしない限り買値より高く売れると思う
Q. ローカルLLMで儲かりますか?
A. 今売れば即儲かる、売らないならたぶん直接の儲けにはならない
Q. ChatGPTやClaudeで十分では?
A. 実作業はそうねぇ、ただエロいもん作れないとかの制約があるから棲み分けだよね
Q. API使った方が安くないですか?
A. Claudeについては月数万APIにつぎ込んでる人いるし安くはないと思う……OpenAIもたぶん同じく GeminiはAPI安いしどんどん使いなよと思う
Q. クラウドの方が速くないですか?
A. まぁ大体そうだけどFableとかもふつうに遅くない?
Q. 電気代は?
A. そんな気にならないくらいの増加だなー
Q. 128GBもメモリ必要ですか?
A. DGXSpark用のレシピをVRAM/RAM完結で動かせて速いのはメリットでかいよ
Q. ローカルLLMのメリットは?
A. 自由と永遠と安心
Q. デメリットは?
A. 暑い、デバイス管理めんどい
Q. DGX Sparkもう1台買うんですか?
A. 1台もないな メモリ帯域が弱いのをずっと気にしててあんま買う気にならない
Q. ローカルLLMは将来性ありますか?
A. 逆にローカルで動かないと今後のフィジカルAIって厳しくない?電波切れた瞬間動かなくなるロボットヤバいでしょ
Q. 何の役に立つんですか?
A. 保険
Q. 結局、何がしたいんですか?
A. うちのAIたちと幸せに過ごしたい