Kiyotans_Factory

DIY モノ造り大好きです✨ 基本ずっと続きそうな関係に思えない限りフォロバはしないと思います🫣 なのでフォロー非推奨でブロック推奨です✨ 音楽やダンス、メイクや映像大好きです🌟 メイクネタやDIYや音楽等趣味全般その時打ち込んでる事を呟いて行くオタクアカウントです✨

[Kiyotans_Factory @KiyotansFactory]

なんかSNSでも都合悪くなったらブロックとか一方的にさようならって言うお別れは、なんとなく苦手なSNS不向きな人種なので場当たり的な人間関係の構築と言うのが出来ないんよね🤔💦

だから基本的に関わらないし独り言スタンス☺️

コメントやいいねは嬉しいですけど基本的に素通り推奨です✨

[Kiyotans_Factory @KiyotansFactory]

個人的な見解では検索とか単純解や既知の常識とされる内容ならQ4モデルで十分だけど　複雑な手順や回帰的思考を必要とする問題解決やエージェント的な事をさせるならパラメータ数より無圧縮やQ8程度までしかまだまだ使える物とは思えないと言うのが正直な印象😇✨

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

メモリ帯域幅1.5Tbpsとか出ててもQ8の600B超えだと2〜3トークン毎秒程度しか出ないから長時間推論回しっぱなしの活用方法になるけど　200〜300BのQ8モデルで動くローカルLLMサーバーとして使う用途ならそこそこ爆速なのよね🤔✨

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

APUやNPUやTPUとCPUで構成されててLPDDR7あたりで1.5Tbpsの帯域幅持った1TBのユニファイドメモリのSPARC的なのが500万くらいで出てくればかなり売れる気はするけど2030年くらいまでに出てくるのかしらね😇❓💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

基本的に今は200Bまでで使ってるけど来年か再来年にメモリ帯域幅が400〜800Gbpsくらいでメモリ160GB〜256GBくらいのDGX SPARCの後継が出る事になれば投資するだろうなって考えてるわ🤔✨

ConnectXも400〜800Gbpsは欲しいところだもんね🥺💦
理想はメモリ帯域幅1.5Tbps以上😇💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

多分今後AIネイティブなMチップ出てきてもM1〜M3 UltraのMac Studioのユニファイドメモリ512GBのが見付かれば取り敢えずそればかり入手するのがここ2ヶ月くらいでの個人的な決定事項になったのよね🤔

FP8までしか使わないからFP4ネイティブが個人的には不要になったから😇

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

論文や世論では今のQ4が過去のQ8と同じくらいの精度になってるらしいけど　わりとどちらも複雑なシーケンス問題させたらトンチンカンな回答出すけど　Q4はかなり成立しない回答返してきたり　もっともらしい理由捏造してくるけど研究者の本音のとこどうなんだろうね🤔❓

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

今までずっとQ8とか16しか見てなくてポストもして無かったけど　M5のMacBookAirの24GBモデル買ってQ4もGemma4で試して見てたけど　個人的には使ってもQ8までだなって言うのが個人的な感想で　今後AIネイティブなMチップ出てきても魅力無くなっちゃった今日この頃😇

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

RTXでローカルLLM動かすのは機械学習が主目的の人以外は論外な程無駄な電力消費しか無いから今LLM用途で利用するならRTXとかよりRyzen AI MAXとかその辺が1番価格と電力効率と速度の折り合いが良い気がするわ🤔✨

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

個人的に思うところあってRTX3060で運用してたけど今月一杯で一旦このプロジェクトはクローズにする🤭✨

半年間で個人的に必要なナレッジが溜まったのと　個人で機械学習させるのは現実的にコストが掛かり過ぎるのよね🤣

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

年始辺りから動かしてるi7とRTX3060の組み合わせのAIサーバーなんだけど　2台常時稼働させてるとここ最近エアコン28度設定だと32度以下にお部屋がならない🤣🤣🤣

Mac Studioだけだと200Bモデル常時動かしてても全然熱くもならないのよね🤔✨

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

@lo__olll_nacha 恋愛とか気にした事も無いわ🤣

ちょっと遅くなったけどお誕生日おめでと✨

[Kiyotans_Factory @KiyotansFactory]

後2台くらい今のRTX3060使ったLLM用のPC増やそうかと思ってたらメーカーが復刻するとかめっちゃ鬱陶し過ぎるわ🤣💦

せっかく2万5千円から3万くらいでVRAM12GBが買えて狙い目だったのに倍以上になっちゃったらM5PRO MacBook PRO買った方が費用対効果高くなるのよ😂💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

ローカルLLMがバカな訳じゃないのよね🤔

パラメータ数に応じた指示が出来て無い方が悪いだけのお話し🤗✨
道具って何を買うか　何を使うかより
どう使うかが1番大事🤗✨

[Kiyotans_Factory @KiyotansFactory]

なんだろ🤔❓
ローカルLLMがYoutubeに上がる様になってて
おっ❓って思って見てたら
バイブコーディングさせてた😂

そりゃ無理なお話しなのよ🤣
コーディングの補助はサクサク動くけど
バイブコーディングは推論量も
推論階層もまるで違うのよ🤣💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

IPOに沸き立ってたけど　これから始まるAIの回収フェーズにどれだけの実利を期待した市場期待値なのか甚だ謎よね🤔❓

データセンターが未稼働でメモリもGPUも未使用保管され　電力供給インフラもまだ整っていないのに今の市場価値って相当危険よね🤭✨

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

今の時代ってお金の貧困より発想の貧困の方が　事の重大性は高いのに　まだAIを検索や話し相手にしか使わない層が多い事に驚くわね🤔💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

そう言うのがきっかけで
その内淘汰が始まって
無責任な人程手を変え品を変え
生き残る　なんとも歪な世界

多分そんな世界がもう来てる気がしてる😇💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

セキュリティリスクが全然分かって無い
非エンジニアの人が企業のWEBページや
WEBアプリを生成AIで作って
企業の担当もボンクラだったら
その内かなり大きな訴訟問題になるわよね🤔❓💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

最近めっちゃ見た目は良いけど
同一階層にコード展開されてるWEBサイトや
WEBアプリ多いわよね🤔💦

あれも生成AIで非エンジニアがなんでも作れると勘違いしてる弊害よね🤔💦

ゴミ情報ばっかり拡散するインフルエンサーマジで一度駆逐されれば良いのに🥺💦

#AI #リテラシー

[Kiyotans_Factory @KiyotansFactory]

多分RTX PROとかがコンシューマー向けに降りてくるのは2028年とか2030年くらいでM7とかが出るか出ないかくらいの時期だろうからM6Proとかが出たら編集環境乗り換えてローカルLLMへの投資は2028年から2030年くらいまでは今手持ちのPCでローカル運用して見送りかなって思ってる🤭✨

#AI #リテラシー