たひろ

渋谷にある会社でエンジニアリングマネージャー・機械学習エンジニア・MLOpsエンジニア・LLMOpsエンジニアやってます

[たひろ @rad0717]

出張直前で発熱続いてるんだが、なにこれ

[cv usk @cv_usk]

# AIエージェントをソフトウェアに組み込むプラクティス
# Streaming with Progressive Commit｜進捗ストリーミング＋遅延コミット

🎯 トークンは即座に見せたい、でも副作用は検証してからコミットしたい。
「見せる」と「実行する」を分離すれば、体感レイテンシの短縮と副作用の安全性を両立できます。

🔥 解決する課題
エージェントの応答はレイテンシのばらつきが大きく、全トークン生成まで待たせると体感が悪化します。一方でツール呼び出しの副作用を生成途中で確定すると、ガードレール検証で棄却された際にロールバックが必要になります。「全部待ってから返す」か「生成と同時に確定する」かの二択では、体感か安全性のどちらかを犠牲にしてしまいます。

💡 提案パターン
Streaming with Progressive Commit（進捗ストリーミング＋遅延コミット）は、生成中のトークンやツール実行結果をSSE/WebSocketでクライアントへストリーミングしつつ、副作用（外部API書き込み・DB更新など）は検証完了までコミットバッファに留めます。ストリーム上ではpreview（未確定）→ committed/rejected（確定/棄却）とイベントが遷移し、クライアントUIは中間状態を明示的に表示します。failure_costが高いほどバッファを深く取り、全ステップ完了後にまとめて確定します。

✅ 選定条件
使うとき：
- ユーザー向けUIがあり、first-token-timeの短縮が体験に直結する
- エージェントがツール呼び出しで書き込み副作用を持ち、誤った副作用の取消しが困難
- 生成結果にガードレール検証やドライランを挟みたい

使わないとき：
- 処理が常に数秒以内で、ストリーミングの恩恵がほぼ無い場合
- クライアントがSSE/WebSocketに対応できない場合
- 副作用が無い読取専用の質問応答（遅延コミットが不要）

⚠️ 落とし穴
- previewとcommitted/rejectedをクライアント側で区別しないと、未確定の結果を確定済みとして表示してしまいます。UIに「確認中」の中間状態を必ず設けてください
- 長時間のマルチステップ実行ではコミットバッファが肥大化します。ステップ単位でチェックポイントを切り、確定済みバッファを解放しましょう
- SSE接続が切れてもコミットバッファは残ります。再接続時の復元かタイムアウト破棄かのポリシーを事前に決めておく必要があります

🔧 実装方針
- LLMからのトークンはStream Buffer経由でSSE/WebSocketチャネルへ即座にプッシュし、ツール呼び出し結果はCommit Bufferに蓄積してpreviewイベントとしてクライアントに通知します
- 全生成完了後にCommit Buffer内の各ツール呼び出しをガードレール検証し、パスすればcommittedイベント、棄却すればrejectedイベントをクライアントに送ります
- ツール実行はまずドライランで結果をプレビューし、検証通過後に本コミットする二相構成を採ります
- SSEイベント設計ではtoken・preview・committed・rejectedの各イベントタイプを明確に分離し、クライアントUIが中間状態（確認中）を適切に表示できるようにします
- failure_costが高いワークフローではコミットバッファを深く取り、全ステップ完了後にまとめて確定します。低リスクの場合は単一ツール呼び出し単位で確定します

#AIエージェント #ソフトウェアアーキテクチャ

[たひろ @rad0717]

返信になってないな

[たひろ @rad0717]

あり
がと
うっ

[たひろ @rad0717]

はつ
ねつ
です

[たひろ @rad0717]

Claude in ChromeでUI上の面倒くさい作業が自動化できてよき（OpenClawでやる勇気はない）

[Serena Ge (Datacurve) @serenaa_ge]

Today we’re releasing DeepSWE, a new standard for agentic coding benchmarks.

On public leaderboards, top models often look relatively close in capability. DeepSWE shows where they actually diverge, reflecting the realistic experience of developers in their day-to-day work.

[たひろ @rad0717]

渋谷 Biz × AI: ビジネスにおける AI 利活用 事例勉強会 第5回 に参加を申し込みました！ https://t.co/owYneVxEOR #shibuya_AI

[現場猫bot @genbaneko_bot]

今日も一日

[たひろ @rad0717]

X PremiumのサブスクでOpenClawを駆動できると聞いて

[たひろ @rad0717]

OpenCode GoでOpenClaw駆動させてたら、頻繁にcontext window超える状態になっちゃったな

[ClaudeDevs @ClaudeDevs]

Starting June 15, paid Claude plans can claim a dedicated monthly credit for programmatic usage.

The credit covers usage of:
- Claude Agent SDK
- claude -p
- Claude Code GitHub Actions
- Third-party apps built on the Agent SDK

[たひろ @rad0717]

OpenCodeが使いやすい感じがしてきた

[みずの@ゆる言語学ラジオ @yuru_mizuno]

英国首相サッチャーがなぜか、インタビュアーに話を遮られまくっていた理由

[たひろ @rad0717]

寝落ち復帰後の寝ぼけた状態で一日の終了シーケンスを実行すると、マジで記憶にない操作がちゃんと実行されてて焦る（風呂入る前に麦茶用のお湯を沸かしてあった）

[たひろ @rad0717]

大学…？

[たひろ @rad0717]

人生のどこかで会ったことけど、なにも思い出せない人が近くにおる

[たひろ @rad0717]

Claude CodeでOpenClaw使用してそうなコミットが履歴にあったら制限される話、ちょっと試してみたさがある

[りょだ @RH__328]

ついに、あの日が現実と交わる！

明日、２０２６年４月２８日 午前

キリトくん、東都工業大学 大岡山キャンパス 西2号館401で重村教授の講義を受講予定

#sao_anime
#オーディナルスケール
#大岡山
#東京科学大学

[たひろ @rad0717]

Claude Codeが晴れてMAXプラン以上の提供になったらOpenClawから使える状態に戻りそう