KUNITOMO｜AIエージェント実装

AIエージェントを実務に組み込む話を書きます。
Claude Codeの多層構成を自宅で構築・運用中。
詰まったところと、直し方を投稿。

技術記事→Qiita @kunitomo926／相談→DM

米国駐在経験あり

[KUNITOMO｜AIエージェント実装 @kunitomo926]

ChatGPT、Work、Codex、Cloud、Local、Remote。

名前が6つあるように見えて、実は3×2でした。

・何を頼むか → Chat / Work / Codex
・どこで動くか → Cloud / Local

Remoteは3つ目の環境ではなく、Localへの入口。

この2軸に畳むと、迷わなくなります。

https://t.co/CGMQnFnVNb

[KUNITOMO｜AIエージェント実装 @kunitomo926]

スマホから指示して、noteの下書きと画像まで作成した記録｜Shoji @ShojiKunitomo https://t.co/n3SWlB4oc7

[KUNITOMO｜AIエージェント実装 @kunitomo926]

AIがすごいのは知っている。でも、手が止まる。だから実験を記録します｜Shoji @ShojiKunitomo #はじめてのnote https://t.co/LZKNnvDtR4

[KUNITOMO｜AIエージェント実装 @kunitomo926]

いま気になるテクノロジー。もちろんAI関連はありつつ、衛星情報。いまや衛星からの情報もAPI経由でアクセスできると聞いたりしたので。

[KUNITOMO｜AIエージェント実装 @kunitomo926]

早くここまでの領域にたどり着きたい。

【Anthropic CPOが語る】Claude Fable 5、夜通しコーディングし自ら障害を解決——ソフトウェアエンジニアリングの常識を覆す — BigGo ファイナンス https://t.co/g69ydHAgsN

[KUNITOMO｜AIエージェント実装 @kunitomo926]

ループエンジニアリングのメモ
https://t.co/tW9Z8xngbB

[Anuj @anujcodes_21]

The creator of Claude Code teaches more about vibe-coding in 30 minutes than most tutorials do in hours.

Save this - it'll change how you build forever.

[Rahul @sairahul1]

The creator of Claude Code teaches more about vibe-coding in 30 minutes than most tutorials do in hours.

Save this — it'll change how you build forever.

[Qiitaマイルストーン @qiita_milestone]

25いいね！ | Vibe Coding、スペック駆動開発を一歩進める Superpowers という現実解で Flutte... by @ShojiKunitomo https://t.co/beNgFoWM34 https://t.co/PsEjnEYteP

[Kosuke @kosuke_agos]

AIと機械学習の世界トップの国際学会「NeurIPS 2025」で、2025年の最優秀賞を得た論文がついに発表されました。

受賞したのは、大規模言語モデル（LLM）の基盤技術であるTransformerモデルの根幹「Attention」メカニズムに、大幅な改善をもたらす研究です。

従来のAttentionが抱える「初期トークンへの過度な集中」という課題を、シンプルなGatingメカニズムで解決し、LLMの性能を劇的に向上させることが証明されました。

その驚くべき詳細を5つのポイントにまとめました。

1. TransformerのAttention問題への挑戦
従来のTransformerモデルにおけるAttentionメカニズムは、トークン間の関連性を計算する強力な手法ですが、学習の初期段階で導入される特定のバイアスや、不必要な初期トークン（特に $[CLS]$ や $[BOS]$ のような特殊トークン）が不当に大きな注意を引いてしまう「Attention Sinks」という現象を引き起こし、モデルの性能限界の一因となっていました。

2. シンプルな「Gating」の追加
研究では30以上のバリエーションを検証した結果、各Attentionヘッドの出力に、現在のトークンから計算された「学習済みゲート」を掛け合わせるという手法が最も効果的であることが判明しました。これにより、文脈に応じて各ヘッドが情報の流れを柔軟に制御できるようになります。

3. 学習の安定性と「Attention Sinks」の解消
この変更により、従来では発散してしまうような高い学習率でも安定して学習が可能になります。さらに、初期のトークンが不必要に注目を集めてしまう「Attention Sinks」現象が大幅に減少します。

4. 長文コンテキスト性能の劇的向上
このGatingを加えたTransformerモデルは、標準的な手法でコンテキストウィンドウを拡張した際、長文処理のベンチマークにおいて性能が大幅に向上することが確認されています。特に長い依存関係を持つタスクにおいて、その効果が顕著に現れました。

5. LLMアーキテクチャの標準となる可能性
複雑なTransformerの構造変更ではなく、Attention出力を的確に制御するGatingの追加だけでこれだけの成果が出るのは非常に興味深いです。このシンプルで効果的なアプローチは、今後のLLMアーキテクチャの新しい標準となる可能性があります。

[Poonam Soni @CodeByPoonam]

Goodbye ChatGPT

It’s only been 5 days since Deepseek R1 dropped, and the World is already blown away by its potential.

13 examples that will blow your mind (Don't miss the 5th one):

[こはく @Kohaku_NFT]

もう、AIでCM制作は余裕やん。

・動画生成→Luma,Gen3
・画像生成→Midjourney
・音楽生成→Suno
・編集→CapCut

AIで全編30分で制作。
制作費：16858円

Xのみなさん、おつかれ生です。

[あるる ChatGPT × AIツール @chatgptair]

GPT-4oが発表されてからまだ1週間しか経っていません。

革新的すぎるGPT-4oの使用例10個を紹介：

ブックマーク保存をおすすめします↓

[石川陽太 Yota Ishikawa @ytiskw]

GPT-4oの活用事例集、15選

早速、最新AIモデルGPT-4oの驚くべき活用事例がぞくぞくと投稿されてきています。
厳選した事例をスレッドに15個まとめました🧵👇

[Brett Adcock @adcock_brett]

OpenAI + Figure

conversations with humans, on end-to-end neural networks:

→ OpenAI is providing visual reasoning & language understanding
→ Figure's neural networks are delivering fast, low level, dexterous robot actions

(thread below)

[日本経済新聞 電子版（日経電子版） @nikkei]

人類の寿命「500歳も可能」　米発明家カーツワイル氏
https://t.co/jGxBkhf1Ru

[Yuta Kashino @yutakashino]

（´-`）.｡oO( あれだけ世界を独占するのではと思っていた3メガクラウド、去年あたりで潮目が完全に変わりましたね。 Cilium, Nats, Cockroachの成熟に加えて、Digital OceanやLinodeなどのk8sに強い中堅業者の使いやすいサービス、更にはオンプレ機器、特にストレージ性能とコストの向上と。 )

[kmizu @kmizu]

自分がChatGPTを特に「ヤバい」と思ってる理由なんですが、たぶん他の人と理由がちょっと違って、トランスパイルというタスクに関してドン引きする性能を発揮してるからだったりします。
↓

[ぷろっぷ @PropTrader88]

←今のツイッター　　　　　→前のツイッター