KISHIMOTO Toshiki

IT、自然科学、教育、金融、医療、地方創生などに興味あり/【趣味】自転車、スキューバダイビング、ハイキング、旅行、剣道、運転、読書/【資格】大型特殊・大型二輪・大型二種免許、小型船舶一級・特殊、学芸員、中高教員理科/ 無言フォロー失礼いたします

[古波藏契｜栄町共同書店｜『ポスト島ぐるみの沖縄戦後史』（有志舎） @tikyutaro]

栄町共同書店に次ぐ第二弾プロジェクト始動しました！
尼崎の先行事例「はたらくラボ」をモデルに、那覇・栄町市場に「仕事」をキーワードにした場所づくりを進めます。
まずは10月の地域円卓会議、次いでパイロットイベントと展開していくので、ぜひぜひご注目ください。

https://t.co/nDdLM3E5BV

[沖縄科学技術大学院大学 @OISTja]

研究チームは、子どもたちの物語を語る能力を分析することで、 ADHDに関連する困難を抱える子どもたちのための、より支援的な学習環境や社会環境づくりにつながる可能性を示しました。
https://t.co/MRAXE8wh6k

[沖縄科学技術大学院大学 @OISTja]

OISTと名護市は包括連携協定を締結しました。本協定は、相互の連携を包括的に強化し、それぞれが有する人的・知的・物的資源や研究成果などを活用することで、地域社会のさらなる発展と持続可能な地域づくりに貢献することを目的としています。詳細は：https://t.co/zgI9lDIjCn

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

LLMが事前学習中にどのように知識を獲得するのかを丁寧な統制実験で調べた研究によれば、同じ知識を何度も繰り返して学習させるより、その知識を教科書形式、Q&A、ブログなど異なる見方で表現して学習させたほうが、LLMはよりよく知識を獲得することがわかった。

著者らは、このような異なる知識表現をauxiliary viewsと呼んでいる。

これらの異なる表現は単なる言い換えではなく、説明の仕方、強調する関係、想定読者、知識の整理方法を変えている。例えば研究論文では数式と実験を中心に説明される知識が、教科書では背景から順番に説明され、Q&Aでは読者がつまずきやすい点を中心に再構成される。

実験では、arXiv論文、米国の判例、医学の症例報告から集めた36文書を、OLMo-2の1B、7B、13B、32Bモデルに追加学習させて評価している（Qwen 7Bでも検証してる）

ベースラインでは元文書を繰り返し学習させ、これに対して9種類の言い換えを利用した場合と、さらに教科書、ブログ、Stack Exchange風Q&Aを加えた場合を比較している。

なお、異なる条件で学習データ量が変わらないよう、対象となる知識に関するトークン量は揃えている。

直感的には、異なる説明を与えることで推論性能が上がることは予想できる。しかし、さらに事実想起（factual recall）まで改善している点が興味深い。

実際、この評価問題は元文書中に書かれている内容から作られているため、単純な暗記だけを目的とするなら、元文書を繰り返し読ませたほうが有利に思える。しかし、元文書の反復回数を減らしてでもauxiliary viewsを入れたほうが、元文書に含まれる事実を想起しやすくなることが示された。

これは、概念的な理解が記憶を助け、知識をより一般化された形で表現できることが、個別の事実の記憶にも役立つ可能性を示していることを示している。

また、言い換えの効果についても細かく分析している。小さいバッチサイズでは、言い換えを入れることで同じ文書の反復による過学習を抑えられる。一方、バッチサイズが大きくなると、言い換えのメリットは小さくなる。

実際、global batch size 1024のpre-trainingに近い条件では、言い換えを入れた場合の利点はほとんどなくなっている。しかし、auxiliary viewsを入れた場合はバッチサイズが大きくなっても、依然として大きな改善が見られる。

さらに、auxiliary viewsを生成させる際に、必ずしも強い教師モデルを使う必要がないことも示されている。生成モデル自身の問題回答性能と、そのモデルが生成した文書で学習したモデルの性能には、ほとんど相関がなかった。

ここから著者らは、強い教師から弱い生徒への知識蒸留が起きているというよりも、与えられた知識を複数の表現に展開するデータオーグメンテーションとして機能していると考えている。

さらに部分的な実験では、対象となる知識だけでなく、その理解に必要な前提知識も一緒に学習させることで性能が改善することが示されている。ただし、こちらはauxiliary viewsほど強固な結果ではない。

この結果は、Webが自然に同じ知識や事実に対する多数のauxiliary viewsを含んでいることが、pre-trainingデータとしての強さの一因である可能性を示している。

重要な知識ほど、原典だけでなく、教科書、解説記事、ブログ、Q&A、議論など、さまざまな形で繰り返し説明される。そのため、知識として重複しているデータは必ずしも捨てるべきものではなく、同じ知識を異なる見方から表現していること自体に学習上の価値がある可能性がある。

コメント
===

同じ事実や知識でも、異なる表現方法で繰り返し学んだほうが定着しやすいというのは、人間の学習を考えても実感に合う。

同じ知識を異なる文脈から学ぶことでより抽象的な基本知識として汎化される、同じ知識にアクセスする複数の想起経路が形成される、あるいはその両方が起きている、といった複数の説明が考えられる。

今後の大規模実験を含む追加実験などで明らかにしていきたいし、論文ではパラメータ変化の解析も行っているが、なぜこの現象が生じるかについて機構的に説明できた段階ではない。この現象をより単純なモデルで再現し、理論的に解析できるか試してみたいテーマである。

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【📢受講生募集中｜Physical AI 応用編2 知能ロボティクス講座 2026 Autumn】

AI×ロボットを支えるロボット工学・制御理論を、体系的に学びませんか？

本講座では、Physical AIの実現に欠かせないロボティクスの基礎理論から高度な制御手法まで、全5回で体系的に学びます。

🔹座標系・回転・並進などの空間表現
🔹順運動学・逆運動学・ヤコビアン
🔹運動方程式・順動力学・逆動力学
🔹運動制御・力制御・インピーダンス制御

など、AIによる判断を現実世界のロボットの動きへつなげるために必要な知識を身につけます。

強化学習やVLA、LLMによるロボット制御など、近年注目される技術をより深く理解するうえでも重要となる、ロボティクスのコア理論を学べる講座です。

💻完全オンライン
💰受講無料
🌏英語で実施予定・日本語字幕提供予定

📅ID登録締切：10/27（火）10:00
📅講座申込締切：10/29（木）10:00

Physical AIやロボティクスに関心のある学生の皆さまは、ぜひご応募ください！

▼詳細・お申し込みはこちら
https://t.co/12Y912LyD4

[彩恵りり🍀科学ライター兼Vtuber (お仕事募集再開) @Science_Release]

おまたせしました！
イグノーベル賞10賞、全部解説しましたよ🎖️🎖️🎖️🎖️🎖️🎖️🎖️🎖️🎖️🎖️

[彩恵りり🍀科学ライター兼Vtuber (お仕事募集再開) @Science_Release]

イグノーベル物理学賞の論文、「小便器からの尿の飛散は悪臭と衛生環状態の悪化を招く上に、清掃にかかる人的・環境的負荷もある。その飛散量は、米国の公衆トイレだけで1日あたり35万リットル、25mプール1杯分に匹敵する。」って書いてあり、冒頭を読むだけで大問題だと思わせるのがスゴい。

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【締切間近｜AXエバンジェリスト講座、社会人団体申込は明日9/3(木)14:00まで】

現場ですぐ使えるAI活用のスキルとノウハウを、今の組織は持っているでしょうか。

東京大学 松尾・岩澤研究室「AXエバンジェリスト講座（AX推進講座）2026」は、現場でAIを使いこなして業務を変革し、AI活用を組織に広げていく「AXエバンジェリスト」を育成する全7回の講座です（参加費無料・オンライン開催）。

▼締切が近づいています
・社会人（企業・団体単位）の申込締切：明日9/3(木)14:00（個人でのお申し込みは受け付けておりません。1団体10名以上 ※審査後の増加も可能です）
・学生の申込締切：9/10(木)14:00（ID登録締切：9/7(火)14:00）

▼お申し込み
https://t.co/rNBrOoV9Ts

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【📢受講生募集開始｜世界モデル Deep Learning 応用講座 2026】

本日より、「世界モデル Deep Learning 応用講座 2026」の受講生募集を開始しました。

「世界モデル」は、AIエージェントを取り巻く環境のモデルを、観測から学習によって獲得する枠組みです。

近年では、動画生成やロボティクス、AIエージェントなどにもつながる技術として注目を集めています。

本講座では、世界モデルを軸に、
🔹深層生成モデル・潜在表現
🔹モデルベース強化学習
🔹状態表現・潜在予測モデル（JEPA）
🔹3D表現・動画生成
など、基礎となる技術から最新の手法まで体系的に学びます。

さらに、講義内容に対応した実践的な演習を通じて、実際に手を動かしながら最新技術への理解を深めます。世界モデルに関するコンペティションも複数回開催予定で、講座後半ではグループで最終課題にも挑戦します。

📚全12回｜毎週月曜 18:45〜20:30
💻完全オンライン（Zoom）
📅開講：11/2（月）〜2027/2/1（月）
🎓対象：学生（深層学習の基礎知識・実装経験がある方）

📅ID登録・学年更新締切：10/16（金）14:00
📅申込締切：10/20（火）14:00

世界モデルを研究・開発に活かしたい学生の方、Physical AIや次世代のAI技術に関心のある方は、ぜひご応募ください！

▼詳細・お申し込みはこちら
https://t.co/05i627Qcqs

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【📢まもなく最終締切｜Physical AI 応用編1】

AI×ロボット開発を実践的に学ぶ「Physical AI 応用編1」の最終ID登録締切が、明日9/1（火）10:00に迫っています！

本講座では、実際にAIロボットを開発・運用するために必要なエンジニアリングを体系的に学びます。

🔹MLOps・RobOps
🔹コンピュータアーキテクチャ
🔹ROS2
🔹ハードウェア・通信
🔹AIロボットの開発・運用基盤
など、AIロボット開発を効率よく進めるためのシステム構築について、実例や演習を交えながら学習します。

AIモデルだけでなく、データ収集・モデル学習・検証からロボットの運用まで、Physical AIに必要な力を身につけたい方におすすめの講座です。

まもなく最終募集締切のため、Physical AI・AIロボット開発に関心のある方は、ぜひこの機会にお申し込みください！

📅ID登録締切：9/1（火）10:00
📅講座申込締切：9/3（木）10:00

▼詳細・お申し込みはこちら
https://t.co/hmOmo8xcsv

[かめ@フィジカルAIを本気で実現させたい @usdatascientist]

【フィジカルAIスタートアップ立ち上げメンバーを募集します!!🔥】
自分の残りの人生をフィジカルAI実現にAll inすることにしました．
一緒に夢を追う同志を募集します！

現行のロボットの関節角度を出力するVLA等のアルゴリズムでは，ロボットの機種が変わったら上手くいかないし，EgoCentricのデータ等を同一学習アルゴリズムにいれることができず，データ収集もスケールしません．

そこで今取り組んでいるのは，ロボットに3次元の物理空間を学習させること．ロボットには，関節をどう動かすかを学習させるのではなく，実際の物理現象を学ばせます．この手法が実現できたら，どんなモダリティ(テレオペ，シミュレーション，UMI, 動画, etc..)だろうと，同一空間でロボット学習ができ，さらには成功例だろうと失敗例だろうとオペレータがいないロボット軌跡ですら学習に使え，一気にスケールできると思う．そのためのデータ基盤や基盤モデルを開発します．

既に大手企業数社の有償PoCが決まっており，至急一緒に働けるメンバーを募集します！！

勤務地は渋谷です(実機使うので基本リモート不可)

少しでも興味ある人はDM or コメントください👇️ 　簡易的な応募フォームをお送りさせてただきます!! 正社員，業務委託，副業，インターンOKです．

ロボットxAIに情熱がある人に来てほしいです❤️‍🔥 まずはお話ししましょう！

[日本の研究.comニュース @rjp_news]

【注目プレスリリース】薬剤が結合した受容体の立体構造を迅速かつ高精度に決定する手法を開発 ―AIと人工設計タンパク質を用いた汎用的なGPCR構造解析パイプラインを構築― / 東京大学,科学技術振興機構
https://t.co/rpLazTBoC2

[宜保友理子@慶應イノベーション・イニシアティブKII（VC） @gibo_y]

パワーエックス、再エネを船で運ぶ　船の新たな用途開発へ - 日本経済新聞 https://t.co/jmSvy1hSUJ

[宜保友理子@慶應イノベーション・イニシアティブKII（VC） @gibo_y]

子ども支援、投融資でも　琉球銀行とケイスリーが協定　沖縄 https://t.co/6oT1yV4h0n

[Hideaki E. Kato @emeKato]

先日bioRxivにuploadしたこちらの論文が、（データを足した上で）NSMB誌にpublishされました。
https://t.co/dHSgtlaKTq
あらためてこちらの論文の内容を簡単に紹介すると、「特に阻害剤が結合したGPCRのcryo-EM構造解析を簡単に行うための手法を開発したよ」というものです。

[KISHIMOTO Toshiki @pishimo]

@kaz_medi 会議でPC使えるなら議事録作成しながら会議進めるのもありかと思います！

AI要約の修正しなくても済みますし、誰の発言かもその場で記載できますし

https://t.co/SR3o5Npl8M

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【NEWS】
東京大学 松尾・岩澤研究室、高校生向けAIカリキュラムの「トライアル校・パイロット校」を全国公募─2単位約60コマの本格的なAIカリキュラムを開発、検証協力校の募集を開始─

松尾・岩澤研究室では、「高校生向けAI教育プロジェクト」と題し、すべての高校生が学校教育の枠組みのなかでAIの本質と仕組みを学べる体系的なカリキュラムを開発し、全国の高等学校への普及を目指しています。この度、教材開発に一定の目処が立ったことを受け、2026年度中に先行実施いただく「トライアル校」および2027年度以降に通年で導入いただく「パイロット校」の募集を、全国の高等学校・中等教育学校および教育委員会を対象に開始いたします。

▼詳細・お申し込みはこちら（応募一次締切：9/30(水)）
https://t.co/yuB6X71jN2

[とよふく🎍Toyofuku @Yeq6X]

これ自作ツールだけどこれで日本語と英語を混ぜていろいろ読んでると英語を英語のまま理解できるようになります
https://t.co/ZoYtRD0oCv

[東京大学 松尾・岩澤研究室 @Matsuo_Lab]

【AXエバンジェリスト講座（AX推進講座）2026｜受講生募集中】

東京大学 松尾・岩澤研究室が、組織のAI活用（AX）を現場でリードする人材「AXエバンジェリスト」を育成する新講座の受講生募集を開始しました。

時代は、DXからAXに移りつつあります。現場でAIを使いこなして業務を変革し、AI活用を組織に広げていく伝道師＝「AXエバンジェリスト」をめざしてみませんか？

▼お申し込み
https://t.co/rNBrOoV9Ts

▼講座情報
・対象：①全国の社会人（企業・官公庁・自治体等でAI活用に関心のある方）②全国の学生（大学院生〜中学生・社会人学生も対象）
・全7回｜毎週木曜 19:00〜21:00｜参加費無料｜オンライン開催
※社会人は企業・団体単位の申込のみ（個人不可）／単位認定なし

▼スケジュール
・募集開始：8/14(金)　申込締切：9/10(木)14:00　選考結果：9/18(金)19:00　開講：9/24(木)
※社会人団体は9/3(木)、学生ID登録は9/7(火)までに手続き／応募多数の場合は選考あり

[KISHIMOTO Toshiki @pishimo]

@kaz_medi そんなこと起こるのか大変だな。

電話じゃなくて最初からチャットかメール。
または自動録音、文字起こし、チャットかメールに変換、送信まで自動化