喜志武弘

ヤフー、ソニー、SBIで、経営・M&A・ベンチャーを泥臭くIPOさせる経験。 東工大院で数理モデルを学ぶ。MATH EXPO 2025主催。 マジンガーZの大ファン。いつか乗ってみたい。

[喜志武弘 @takehiro1010]

三菱重工が「戦争の市場」を席巻…日英伊が共同開発する戦闘機「F3」が「ひとり勝ち」するワケ https://t.co/H84SN6clVR

[防衛省防衛研究所 @Nids1952]

本動画では、
第１章　中国人民解放軍に対するウクライナ戦争の教訓――台湾有事への影響を中心に――
著者の杉浦 康之室長による特別解説の様子を収録したものです。
＃中国 #台湾
→https://t.co/06bBVMW590

[喜志武弘 @takehiro1010]

軍事AIは、古典的ORやランチェスターモデルから、機械学習や強化学習を融合したシステムへと進化した。その中核がパランティア製品群や国防総省のメイブン・スマートシステム（MSS）である。これらは自動標的認識（ATR）やLLMを搭載し、大量のセンサーデータをリアルタイムで融合して、最適な行動計画や射撃アセットの自動推薦を行う。これらは統合全ドメイン指揮統制（CJADC2）の頭脳となり、通信途絶環境に対応する4層エッジ構造により意思決定を極限まで高速化させる。

[喜志武弘 @takehiro1010]

軍事領域における人工知能（AI）の適用：古典的ORから最先端戦場指揮統制ソフトウェアまでの包括的調査と学術分析｜喜志武弘 @takehiro1010 https://t.co/KMCrPb1BSP

[喜志武弘 @takehiro1010]

パランティア決算、売上70%増の理由─SaaS一括売りの誤読と「喋る体験」から「止めない運用」へのAI転換【米国株 #160】 https://t.co/gf43uAY6JP @YouTubeより

[喜志武弘 @takehiro1010]

急落局面で問い直すAI投資の本質｜軍事AI「MSS」×PLTR（パランティア）の骨格【米国株 #165】 https://t.co/vJnJ1x4blo @YouTubeより

[喜志武弘 @takehiro1010]

米国防総省がパランティアのAI「Maven」を指揮統制に正式採用 意思決定の迅速化と統合軍全体でのAI活用を推進｜ビジネス+IT https://t.co/IpdUFj5QgC #sbbit @bitsbbitより

[喜志武弘 @takehiro1010]

情報幾何

フィッシャー情報量は、パラメータ変化に対する分布の感度であり、確率的な差を測る空間の「計量」となる。

マクロな分布のズレを測るKLダイバージェンスを極小世界まで拡大（テイラー展開）すると、その2次微分の項にフィッシャー情報量が現れる。これが両者の結びつき。

さらに空間には、確率を積で混ぜる「e-直線」と、和で混ぜる「m-直線」という2つの直線概念がフィッシャー計量を介して裏返しの関係（双対性）で共存する。これが直交するとき「一般化ピタゴラスの定理」が成り立ち、機械学習の最適化を幾何学的に解ける。

[Yun-Ta Tsai @yunta_tsai]

Many people think any given ML project is 99% training.

In reality, it’s 50% evaluation, 40% data cleaning, 8% integration, and 2% training.

The first two set the noise floor for learning. No ML magic matters; the model cannot lower the noise floor, as that’s the optimal bound of Shannon encoding of your data.

Thus, not a single day goes by without me thinking about ontology. Even the old labels have to be constantly reviewed.

[喜志武弘 @takehiro1010]

深層学習の歴史：停滞と再興、そして現代への系譜

深層学習（Deep Learning）の発展は、「一度は停滞し、計算資源とデータの増大によって再興した」という流れで理解すると、その全体像が見えてくる。本稿では、深層学習がどのような技術的ブレイクスルーを経て現代のAI革命に至ったのか、歴史的な順序に沿って整理する。

◾️1. 始まり：パーセプトロン（1950〜60年代）

初期のニューラルネットワークとして登場したのが「パーセプトロン」である。入力値に重みを乗じて和をとり、閾値で判定する単純な線形分類器だ。しかし、当時は「線形分離可能な問題しか解けない」という理論的限界が指摘され、研究は一度目の冬の時代を迎える。

◾️2. 誤差逆伝播法の確立（1980年代）

深層学習の基礎となる「バックプロパゲーション（誤差逆伝播法）」が登場したことで状況が変わった。出力層で生じた誤差を層ごとに逆方向へ伝え、重みを更新するこのアルゴリズムにより、多層ネットワークの学習が理論的に可能となった。Geoffrey Hinton、Yann LeCun、Yoshua Bengioらによる貢献が大きいが、当時は計算資源の不足により大規模化は困難だった。

◾️3. 特化型ネットワークの発展（1990年代）

特定のデータ構造に向けたモデルが開発された。

●CNN（畳み込みニューラルネットワーク）： 画像の局所的な特徴を抽出する構造。LeCunによる「LeNet」が有名。

●RNN（再帰型ニューラルネットワーク）： 文章や音声などの時系列データ向け。ただし、過去の情報を保持し続ける「長期依存関係」の学習に課題を抱えていた。

4. 停滞とブレイクスルー前夜（2000年代前半）

この時期、機械学習の主流はSVM（サポートベクターマシン）や、人間が定義した特徴量（SIFTなど）を用いた手法に移っていた。しかし一方で、RBM（制限ボルツマンマシン）や深層信念ネット（DBN）を用いた「深いネットワークの事前学習」の研究が進み、再興の準備が整えられていた。

5. 深層学習の復活（2010年前後）

深層学習が劇的に進化した転換点である。

●GPUの活用： 並列計算による高速化。

●ReLUの採用： 勾配消失問題を軽減する活性化関数の登場。

●Dropout： 過学習を防ぐ正則化手法。
これらを統合した「AlexNet（2012）」が、画像認識コンペ（ImageNet）で圧勝したことがブームの決定打となった。

◾️6. より深いネットワークへ（2015年頃）

層を深くすると精度が落ちるという問題を解決したのが「ResNet（残差ネットワーク）」だ。スキップ接続を導入することで、数百層レベルのネットワークでも安定した学習が可能となった。

◾️7. Attention機構とTransformer革命（2014〜2017）

RNNの限界を打破するために「Attention（注意機構）」が登場した。「どの情報に注目すべきか」を重み付けするこの仕組みは、翻訳精度を大幅に高めた。2017年、このAttentionのみで構成される「Transformer」が発表される。並列計算を可能にしたこのアーキテクチャこそが、現代の大規模言語モデルの礎である。

◾️8. 事前学習モデルの時代（2018〜現在）

Transformerをベースに、BERT（理解系）やGPTシリーズ（生成系）が登場した。大量のデータと計算資源、そして自己教師あり学習の組み合わせにより、自然言語処理の性能は飛躍的に向上し、現在に至っている。

まとめ：深層学習の系譜

深層学習の発展は以下のステップで要約できる。

単純モデル： パーセプトロン
学習理論： 誤差逆伝播法
特化モデル： CNN・RNN
停滞： 手法としての一時的な衰退
復活： GPUとReLU（AlexNet）
深層化： ResNet
統一： Transformer

計算資源の向上とアルゴリズムの洗練が相互に作用し、現在の技術水準が形作られていることがわかる。この歴史的背景を理解することは、現在の生成AI技術の限界と可能性を見極める上でも不可欠である。

[喜志武弘 @takehiro1010]

深層学習の歴史：停滞と再興、そして現代への系譜｜喜志武弘 @takehiro1010 https://t.co/XXXCeAlqOM

[喜志武弘 @takehiro1010]

AIエージェントで活用される8種類のLLM

AIエージェントで活用される8種類のLLM（大規模言語モデル）について、その役割と特徴を体系的に整理する。これらのモデルは、単なる文章生成を超え、用途に応じて「思考」「認識」「行動」「構造化」といった特定の機能に最適化されている。

◾️1. 基盤モデル：知能のベース

AIエージェントにおける中核的な役割を担うモデルである。

●GPT（Generative Pretrained Transformer）

・役割：AIエージェントの「基本OS」。
・特徴：次トークン予測に基づく最も標準的なアーキテクチャである。膨大なテキストデータから学習しており、会話、要約、翻訳など汎用的なタスクを網羅する。

●MoE（Mixture of Experts）

・役割：効率性を重視した「専門家の集団」。
・特徴：入力に応じて、モデル内の特定領域（Expert）のみを選択的に活性化する。これにより、モデル全体のパラメータ数を大きく保ちつつ、推論時の計算コストを抑制し高速化を実現する。

◾️2. 推論と認識：深層思考とマルチモーダル
AIが複雑な論理を構築し、外部からの多様な入力を解釈するためのモデルである。

●LRM（Large Reasoning Model）

・役割：論理的思考を深化させる「哲学者」。
・特徴：即時的な回答ではなく、思考連鎖（Chain-of-Thought）を明示的に踏むことで、複雑な数学的問題や未知の戦略立案において高い精度を発揮する。

●VLM（Vision-Language Model）

・役割：視覚情報を理解する「目を持つ知能」。
・特徴：画像エンコーダを統合し、視覚入力を直接処理する。グラフの解析やGUI上の位置認識などを通じ、視覚情報に基づく判断を可能にする。

◾️3. 実践と効率化：道具の使用と最適化
AIが物理的な環境やデジタルツールへ介入し、タスクを完遂するためのモデルである。

●SLM（Small Language Model）

・役割：エッジ環境に適した「軽快な相棒」。
・特徴：パラメータ数を最適化し軽量化を追求している。スマートフォンなどのリソース制限がある環境下や、オフライン環境においても高速な応答が可能である。

●LAM（Large Action Model）

・役割：環境への介入を担う「実行エージェント」。
・特徴：テキスト生成にとどまらず、GUI操作やAPI実行といった外部ツール操作に特化している。環境観測と行動実行のループを通じてタスクを自律的に完結させる。

◾️4. 構造と概念：社会性と高度な抽象化
複雑なシステム設計や、言語の壁を超えた概念的理解を可能にするモデルである。

●HLM（Hierarchical Language Model）

・役割：組織的連携を管理する「階層的管理者」。
・特徴：マネージャーやワーカーといった役割を階層的に配置し、複数のモデルを連携させる。推薦システムや、大規模なマルチエージェント協調において有効である。

●LCM（Large Concept Model）

・役割：言語依存性を脱却した「概念の理解者」。
・特徴：単語単位ではなく「概念空間」上で推論を行う。これにより、言語や形式が異なっても同一の文脈を抽象的に理解でき、より高次元な思考が可能となる。

このように、現在のAIエージェント開発は、単一のモデルに依存するのではなく、目的に応じてこれらのアーキテクチャを最適に組み合わせる戦略が主流となっている。

[喜志武弘 @takehiro1010]

AIエージェントで活用される8種類のLLM｜喜志武弘 @takehiro1010 https://t.co/E5tS8PVcqU

[IISS News @IISS_org]

Japan is adapting its layered air- and missile-defence architecture to address its increasingly complex threat environment. This includes plans to better protect its remote areas and bolster its ability to counter hypersonic glide vehicles.

Read the latest #MilitaryBalance analysis by Rupert Schulenburg (@R_Schulenburg): https://t.co/oL9Ws3Hqdi

[喜志武弘 @takehiro1010]

最適化

①モデル化（線形代数）: データの構造をベクトルや行列として定義し、変換（アフィン変換など）を通じて空間的な特徴を抽出する。

②目的関数の定義（微分積分・統計）: 望ましい状態（誤差の最小化、尤度の最大化、分散の最大化）をスカラ関数として定義する。

③最適化（微分積分・線形代数）: 勾配（Gradient）を計算し、行列の性質（固有値分解や正定値性）を利用して、パラメータを更新する。

[Mühendislik Harikası @muhendisIiktr]

Bir kürenin yüzey alanının nasıl hesaplandığı.

[Matt Dancho (Business Science) @mdancho84]

8 Types of LLMs used in AI Agents (Must know for Gen AI Data Scientists & AI Engineers):

Here's what they are and what they do: 🧵

[喜志武弘 @takehiro1010]

軍事戦略論の必読リスト18冊｜喜志武弘 @takehiro1010 https://t.co/7E2Ptd1wnb

[喜志武弘 @takehiro1010]

1日中頭を使ったが実に楽しかった。

[喜志武弘 @takehiro1010]

生成AIの歴史的な流れ
1. 「GANs」でデータ生成の土台を作る。
2. 「Transformer」で大規模学習の基盤（言語理解）を作る。
3. 「GPT-3」で圧倒的な性能を証明する。
4. 「Diffusion」で高品質な画像生成を実現する。
5. 「ViT」で言語と視覚の融合を図る。
6. 「RLHF（InstructGPT）」で人間との自然な対話を実現する。