イトー

本業でAI/ML周辺のアーキテクト (Microsoft Japan) 、趣味でお金転がしたりソフトウェアエンジニア (Omamori) したりしてる人

[イトー @ep_ito]

LLMOpsを整理していて、特に評価周りについて詳しくまとめました
「LLMでLLMを評価するの気持ち悪くね？」という人は結構居ると思っていて僕もその1人ですが、スケール的にLLMを持ち出さない限り厳しいのも理解していて、その辺りに対する現実解の話をしています
https://t.co/oNBaELZmby

[イトー @ep_ito]

小さい人、「バイバイ」と言うと手を振れるようになった。最も初期の言語理解っぽい。とてもかしこいし何よりかわいい。大きい人達が大喜びしていてますます小さい人の生存を有利にしてる。生物としてとてもしたたかで偉い。

[イトー @ep_ito]

小さい人、手を振ると振り返すことができるようになったので出張で家出る瞬間に「小さい人の声が聞こえるところで仕事していてぇ」と思う大きい人の未練を断ち切って仕事に送り出せるようになってる。大きい人には衣食住のコストを負担させないといけないからね。とてもかしこい。

[イトー @ep_ito]

まあ最終的にはEVだろう。通常用途で問題になることは無いし、核融合発電と言わずとも原子力が動く前提なら夜間電力でずいぶん安く走る。パーツが少なく単純な構造なら量産で安くもなる。問題は過渡期 (HEV、PHEV) がいつまで続いた後に本格的な普及があるかで、30年を見据えると予測がしんどい。

[イトー @ep_ito]

不動産考える上で目下最大の懸案の1つがEV充電器なんよね。付けるべきか否か、付けるとしたらどの程度必要か、今後EVが当たり前になる時代を想定するとなれば当然各駐車場に1ついることになるがその場合キュービクルが要るのか否かとか、コストと設計にぶつかる要素が多すぎる。

[イトー @ep_ito]

ガソリン対電池で現在50倍のエネルギー密度差があって航続距離差がせいぜい1～4倍ということなら、別に電池のエネルギー密度を50倍にするまでもなく2倍程度でガソリンの航続距離を上回るケースが出てきそう。

[イトー @ep_ito]

エネルギー密度がガソリンと電池で1桁違うのはそれはそうという感じなんだけど、EVとガソリン車（ハイブリッドカー）の航続距離が1桁も違わないというか、極端なケースでせいぜい4倍程度、車種によってはほぼ変わらないというのはなぜ？熱に変わることによるエネルギーのロス？

[イトー @ep_ito]

モグリのソリューションアーキテクトから認定のソリューションアーキテクトになった。これで堂々とクラウドソリューションアーキテクトを名乗れるね(アーキテクト7年目の顔)

[イトー @ep_ito]

「見た目がキレイ」のただ1点で出たばかりのWindows 11 (当時アホほど批判されてた) を受け入れた筋金入りなので……。

[イトー @ep_ito]

「Fluent UI は見た目がキレイなだけじゃん」というご意見に対し、「見た目がキレイなこと以外何をUIに求めるのだ……？」となる程度には強火な「キレイなUI」指向が僕にはあります。

[イトー @ep_ito]

今日も今日とてDNSに仕事の円滑な進行を阻まれる。キラキラしたAIの仕事だろうがAgentの仕事だろうが全部インフラの上に築かれたものなのでインフラが崩壊するとビタイチ役に立たない。人類に救いは無い。三途の川を渡れ。

[イトー @ep_ito]

小さい人に笑いかけると笑い返してくれるので、さらに笑いかけると無限に笑い声が響くほぼ狂気みたいな状況になるのだけど、その場にいる全員小さい人の笑い声を聞くとセロトニンやらオキシトシンが出るタイプの大きい人なので、これは実質無限バフ掛けの現場と言える。

[イトー @ep_ito]

@sohekrt 「前提」の項目に気づいてなかったんですけど普通に受験できてしまいまして、受かったものの該当の資格(ソリューションアーキテクトエキスパート)が有効にならないという感じですね。必須トレーニング要件も厳密にはAZ305ではなくてソリューションアーキテクトエキスパートで、ちょっと困ってます。

[イトー @ep_ito]

モグリのソリューションアーキテクトではいけないとのことだったので認定のソリューションアーキテクトになろうとAZ-305を受けて無事合格したんだけど、どうもこれAZ-104とかいう奴も取らないといけなかったらしい。ということで相変わらずモグリのまま。

[イトー @ep_ito]

メモリは高速小容量と低速大容量を階層的に組み合わせてシステム全体の性能を引き上げてきているわけだから、高速小容量側に強い大容量化圧力がかかった結果として下にも波及してるというのは分かる。値段が上がるのが分からん。高速大容量が求められるようになった分を数で解決してるんかね。

[イトー @ep_ito]

推論ワークロードでメモリ帯域がボトルネックでHBMの需要爆増はまあそれはそう。そのために低速なメインメモリとかの製造を減らしてHBMに振り分ける決断の結果HBM以外の揮発性メモリの値段が上がるのもまあ分かる。不揮発性メモリの値上がりはマジで何？

[イトー @ep_ito]

なんでここまでストレージの値段上がるんやろ。メモリはまだ分かるがストレージが分からん。LLMのKVキャッシュでそんなに食うか？生成されたデータの保存先とか、GitHubの負荷増大みたいな感じで間接影響を受けるのか？

[イトー @ep_ito]

小さい人、赤ちゃんから幼児への過渡期に立っていて、ひたすら遊び笑い喜び世界がプラスで溢れててすごい。一方の大きい人達は世の色々との摩擦でしんどくなってるのだけど、不思議なことに小さい人の喜色満面の振る舞い一つでだいぶ緩和されるので小さい人がひたすらにプラスを生んでて偉い。

[イトー @ep_ito]

小さい人、顔を認識できるようになったらしい。まず近くに人が居ないか確認して居なければ泣いて呼び、誰が来たかを顔をまじまじ眺めて確認してる。大変知的でよろしい。

[イトー @ep_ito]

小さい人、金属光沢に異常反応を示すと同時に紐にも異常反応を示すのだけど、そうなると金属製の紐に狂った反応を示すわけで、お風呂の栓を留めてるボールチェーンに狂喜乱舞してる。延長コードが好きでたくさん集めてご満悦であった僕(2歳)の遺伝子を感じる。自由電子は最高なので仕方ないね。

[イトー @ep_ito]

自然言語処理屋さん的にはRAGの設計をするにあたり精度を出したいならデータを引く検索エンジン側に適切なチューニング、多分推薦で使ってるような仕組みが必要なんだけど、音声出力などレイテンシが問われる用途以外だとAgentic Searchという名の富豪的プログラミングのRAG版に呑まれる気配は感じる。