ys

[やねうら王 @yaneuraou]

AIを使って馬鹿になる人について考えるとき、「AIに頼ると頭を使わなくなる」といった話は、あまり本質的ではない。電卓が普及して暗算をする機会が減ったとか、Google Mapsのせいで道を覚えなくなったとか、その程度の話なら、人類は文字を発明した時点ですでに相当馬鹿になっているはずである。

もっと興味深い問題がある。

1983年、心理学者・人間工学研究者のLisanne Bainbridgeは「Ironies of Automation（自動化の皮肉）」という有名な論文を書いた。そこで指摘された逆説は、40年以上たった現在の生成AIにも驚くほどよく当てはまる。

機械が人間より上手にできる仕事を次々に自動化していくと、最後に人間に残されるのは何か。それは、機械がうまく処理できなかった例外的で、複雑で、判断の難しい仕事である。ところが、日常的な仕事を機械に任せれば任せるほど、人間はその仕事を自分で行う機会を失い、技能も状況理解も衰える。つまり、自動化が進むほど、人間の出番は減るのに、人間が出番を求められたときの仕事だけは難しくなる。Bainbridgeが「皮肉」と呼んだのは、この構造である。

たとえば、毎日100本のプログラムを書かなければならない人がいて、そのうち99本をAIが完璧に書いてくれるようになったとする。これは一見すると素晴らしい。しかし人間に回ってくる1本は、「なぜか本番環境でだけデッドロックする」「仕様書そのものが矛盾している」「二つの設計思想のどちらを採用するか判断しなければならない」といった、AIが処理できなかった難問になる可能性が高い。

つまり、その人は99本の普通のプログラムを書くことで本来得られたはずの訓練を失った状態で、100本中もっとも難しい1本だけを解かなければならなくなる。

これはなかなか意地の悪い仕組みである。

1995年、EndsleyとKirisは、この問題を「out-of-the-loop performance problem」として実験的に調べている。人間がシステムを直接操作する立場から、自動化されたシステムを眺めるだけの立場に移ると、単に操作技能が落ちるだけではなく、「いま何が起きていて、この先どうなるのか」という状況認識まで低下する。そして自動化システムが故障して突然人間に操作を返したとき、対応が遅れる。研究では、能動的な情報処理から受動的な情報処理へ移ることが、この低下の重要な原因として示唆されている。

これはプログラミングに限らない。部下が作った契約書を毎日チェックしている人は、長年のうちに「この条項は妙だ」という感覚を身につける。しかし契約書をAIが作り、AIがチェックし、人間は最後に「承認」ボタンを押すだけになれば、その感覚を獲得するために必要だった何千回もの小さな判断が消える。そして本当にAIが見落とすような珍しい契約上の問題が起きたときだけ、人間に判断が戻ってくる。

AIによる能力低下の恐ろしさは、「簡単な仕事ができなくなること」ではない。簡単な仕事を大量に経験することでしか育たなかった、難しい仕事を処理する能力まで失われることにある。

さらに厄介な問題がある。自分の能力が落ちていることを、自分自身が認識できなくなる可能性である。

心理学には「metacognitive calibration」という考え方がある。簡単に言えば、「自分がどれくらい正しいか」という自己評価と、実際の正答率がどれくらい一致しているか、という問題である。知識が多少不足していても、自分が何を知らないかを正しく認識できる人は比較的安全である。危険なのは、能力そのものより、このキャリブレーションが壊れることである。

2026年に『Computers in Human Behavior』に掲載された研究には、実に象徴的なタイトルがついている。

「AI makes you smarter but none the wiser」

直訳すれば、「AIはあなたを賢くするが、自分がどれほど賢いのかは分からなくする」といった意味になる。この研究では、LLMを使うことでLSAT型の推論課題の成績そのものは向上した一方、人々が自分の成績をどれだけ正確に評価できるかというメタ認知には問題が生じた。特に興味深いのは、AIリテラシーが高いことや自信が強いことが、必ずしも自己評価の正確さにつながらなかったという点である。

考えてみれば当然である。

AIなしで10問中6問解ける人が、AIを使うと10問中9問解けるようになったとする。このとき本人が観察できるのは「私は9問解けた」という結果だけである。しかし、その9問のうち何問が自分の能力で、何問がAIの能力なのかは、結果からは分離できない。

ここで、自分自身の能力を測るためのフィードバック系が壊れる。

筋力なら、100kgのバーベルを持ち上げられなければ自分の筋力不足はすぐ分かる。しかし、AIと一緒に100kgを持ち上げている状態では、自分が何kgまで持てるのか分からない。そしてAIの補助があまりに自然になると、そもそも「これは二人分の力で持ち上げている」という感覚すら薄れてくる。

私は、AI時代に本当に危険なのはここだと思う。

人間は無知であることには比較的耐えられる。「これは知らない」と自覚していれば、調べることができるからである。しかし、知らないという自覚そのものを失えば、調べるという行為も発生しない。

もう一つ、この問題を理解するうえで面白い古典的な実験がある。「generation effect（生成効果）」と呼ばれる現象である。

SlameckaとGrafは1978年の実験で、答えをただ読んだ場合と、自分で答えを生成した場合を比較した。すると同じ情報であっても、自分で生成したもののほうが、その後の記憶成績が良かった。これはさまざまな条件で確認された。

この現象をAIに当てはめると、少し嫌なことが見えてくる。

たとえば会議で「この新規事業の問題点を三つ考えてください」と言われたとする。五分間考えて、「市場規模」「競合」「人材」という三つを自分でひねり出す。その後ChatGPTに聞いたら、「法規制」「顧客獲得コスト」「既存事業とのカニバリゼーション」まで出てきた。この使い方なら、自分の思考にAIによる追加が行われる。

ところが最初から「問題点を10個挙げて」とAIに尋ね、その中からもっともらしい三つを選ぶだけになれば、自分が問題を生成する工程そのものが消える。

成果物だけを見れば後者のほうが立派である。だが、脳の中で起きたことはまったく違う。

これこそ、AIについて議論するときに「生産性」という指標だけを見てはいけない理由である。ある人がAIを使って以前の三倍の文章を書き、二倍のコードを書き、五倍の資料を作れるようになったとしても、その数字から本人の能力が向上したとはまったく言えない。極端な場合には、成果物の品質が上がるのと同時に、本人が単独で判断する能力は下がり、しかも本人にはその低下が観測できない、ということすら起こり得る。

そして、ここまで考えると「AIを使って馬鹿になる人」の特徴も少し違って見えてくる。

AIに質問する人が馬鹿になるのではない。AIに文章を書かせる人でもない。コードを書かせる人でもない。

AIが担当した認知過程と、自分が担当した認知過程との境界が見えなくなった人が危ないのである。

自分が考えたのか、AIが考えたのか。自分が理解したのか、理解しやすい説明を読んだだけなのか。自分に判断能力があるのか、AIが常に正解を横に置いてくれているから判断できているように見えるだけなのか。

この区別を意識的に維持できる人にとって、AIは恐ろしく強力な知的増幅器になる。

維持できない人にとっては、もっと恐ろしいものになる。

なぜならAIは、その人の能力を奪うときですら、本人には「以前より賢くなった」という感覚を与えることができるからだ。

だから、AIなんか使うな。

ちなみにこの文章は全文ChatGPTが書いた。

[ys @yswbt]

折りたたんだ状態の使い勝手が悪すぎて微妙だな。iPhone17の見た目でパカパカ開けばいいのに。そもそも高すぎる。

「iPhone Duo」発表　Apple初の折りたたみスマホ　36万4800円から（ITmedia NEWS） - Yahoo!ニュース
https://t.co/OBvQZhIe4Q

[AGIラボ @ctgptlb]

世界の古典をAGIで訳し直すプロジェクト、「AGIアトラス」を始動しました。

『孫子』『ソクラテスの弁明』『ギルガメシュ叙事詩』など25作品を、現代日本語で全文無料公開。
選書・翻訳・校訂・挿絵をエージェントが担い、毎週一冊ずつ増えていく図書館です。詳細はこちら: https://t.co/9AFjSkMNA4

[ys @yswbt]

Geminiに反論するとすぐ意見を翻すの、以前はむしろ主張がおかしくても翻さず延々屁理屈を回答していたことに批判が多く来ての対応なんだろうか。以前は以前でイライラしたが今はいくらなんでもすぐに主張を変えすぎ

[ys @yswbt]

金持ってる老人からはいくらでもむしり取ればいいと思う

[おかぴー🏓卓球界のブッダ×施術家(小波津式コンプリート修了) @OKP_takkyu_Gifu]

『主導権を握れ！』大成功でした。生徒さんの声、言葉が今まで行ってきた技術講習会と全く違いました。過去を振り返り、今を感じ、未来を見る。あるいは、未来を見て、今を感じ、過去に感謝する。試合の目的は人生の目的でもある事に僕自身も気付きました。卓球って深い…。第2回目は9/27開催決定です

[NHK名古屋 @nhk_chubu]

名古屋市教委 空調設備ない環境での部活動中止を通知 https://t.co/AOxDynVX4U https://t.co/AOxDynVX4U

[ys @yswbt]

Gemini3.5Flash、回答に「みんなこう言っているけど」「専門家がこう言ってるけど」などと突っ込むとすぐに意見を翻し阿ったそれっぽい回答をしてくる。流石に酷い。

[ys @yswbt]

Gemini3.5Flashポンコツ過ぎんか。さすがにハルシネーション起こしすぎる。

[ys @yswbt]

昨日の22時にアマゾンでモバイルバッテリー注文して翌日の11時に着。今までで経験した最速。何か変わったのだろうか。

[MMGP @motto_motogp]

日本だと緊急地震速報が一般的だけど、海外だとAndroidはユーザー個々の端末の加速度計を地震計のように使って、揺れが到達する前にアラートを発する仕組みがあるそうだ。知らなかった。これは先日のベネズエラでの大地震のときの様子。揺れがくるかなり前から警報が鳴ってるのがわかる。いま現地では万人単位での犠牲者が出ているようだけど、中にはこれで助かった人もいるかも知れない。

[ys @yswbt]

部活なくなって外部の卓球スクールなどで卓球をしようという中学生が、試合には出場せず遊びとしてやるだけというのは想像しづらいし、そもそもライトにやるような層が卓球専門店で用具を買うとは思えない。いろいろ疑問な記事

https://t.co/amQTw067l4

[ys @yswbt]

明らかにルール違反なサーブは団体であれば勝負どころで指摘する場合もあるし個人戦であれば違反なので勝負どころで指摘して相手の心を乱すのもありだが自分の心も乱される可能性もあるので注意が必要と選手には言っている。そもそもルール違反なサーブを出しているのが悪い。

[卓球ホームパーティ @mouhitorinobobu]

中学の地区大会にいくと、試合がヤバくなった時に相手のトスを指摘して子供泣かして勝ちにきたり罵声浴びせてくる大人が多くて結構やばい。
昨日キレ返したら大人泣かせた
どっちが子供やねん。疲れた

[JSF @rockfish31]

これはロシア軍のヨルカ迎撃ドローンですよ… とんでもない誤解が広まっている気がする。

[marketmaker @marketmaker7]

キオクシアがスゴイのではなくて、ベインキャピタルがスゴイｗ

「３度の破綻危機」「2,400億円強の最終赤字」を叩き出しても、キオクシアを損切りしないで、年間3,000億円～4,000億円の投資をし続けてきたから、今がある！

[高山義浩 @hiro_icd]

しっかり分析しておくべきですね。もう少しデータを分解すると、自然死産が横ばいであるのに対して、人工死産が増加していることが分かります。経済的理由等による中期中絶の増加も考えられますが、2022年に始まったNIPT認証制度の影響はいかがでしょうか？　私には現場感覚がないので分かりません。

[ys @yswbt]

ひろゆきの議論の仕方って本当に無意味だわ。

[ひろゆき @hirox246]

@rockfish31 @TheCotori 「先ずそれが間違いの元。」
間違いの元と書いてると思うんですが、うちのモニターの問題ですか？

[ys @yswbt]

強いのは分かったけど怖すぎでしょ。次は人型ロボットで勝てるようにして欲しい

[链上阿北 @Zoozo2025]

震撼一幕！索尼 AI 乒乓球机器人 Ace，在正式乒联规则下，击败了世界排名前 26 的日本名将木原美悠。

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

MAI-Thinking-1のテクニカルレポートには、ベンチマーク上でSonnet級に近いモデルを一から開発するための知見が書かれている。特に、単一モデルの性能だけでなく、継続的にモデルを改善する能力を重視しており、大規模モデル開発の工程・運用・判断基準について興味深い記述が多い。

開発方針として、能力は継承されるべきものではなく、学習によって獲得されるべきものだという考えをとっている。また、複雑な特殊技法ではなく、単純でスケールする学習レシピと信頼できるデータを重視し、すべての技術採用は検証可能でなければならないという立場をとっている。

モデルは1T総パラメータ、35BアクティブパラメータのMoEであり、8K GB200 GPU上で30Tトークンの事前学習と3.55Tトークンの中間学習を行っている。学習には、公開データとライセンス済みデータを使っている。

ベンチマークでは、SWE-Bench Proで52.8%、AIME 2025で97%などの性能を示しており、STEM reasoningとcodingを重視していることが分かる。

アーキテクチャは、現在の強いモデルで使われる標準的な構成に近く、Decoder-only Transformer、local/global attention、RMSNorm、SwiGLU、GQAなどを採用している。MoE層とDense FFN層を交互に挟む構成が実時間効率で有利だったため、この構成を採用している。

MoEにはLatent MoEを使っている。また、学習時にはDropless MoEを採用している。通常のMoEでは、expert capacityを超えたトークンをドロップする場合があるが、これが微妙なcausal leakage問題や実験結果の歪みを生む可能性がある。そのため、可変メッセージサイズのall-to-all通信を使い、トークンをドロップしないDropless MoEを採用している。

この論文では、他であまり詳細が述べられない開発時の方針や評価方法の詳細が書かれている。

たとえば、Scaling Ladderを用いて、小さいモデルでの評価結果をそのまま採用して大規模化するのではなく、複数のモデルサイズを用意し、手法のスケール特性を確認している。モデル系列として、3.9B、13B、30B、58B、100B、159B、615B、1015B総パラメータのモデルを用意し、小〜中規模で検証したうえで、大規模でのスケール特性を見ている。この中で、大規模化するにつれて小規模で得られた結果が逆転する例も見られた。たとえばデータmixでは、小規模ではSTEM-heavy mixが良かった一方で、中〜大規模ではSTEM評価においてもcode-heavy mixの方が良いという結果が得られている。

また、アーキテクチャやデータ改善を単純なloss差ではなく、Efficiency Gain, EGで評価している。EGは、候補手法が達成した損失にベースラインが到達するには、何倍の計算量が必要かを表す指標である。さらに、FLOPs基準のEGだけでなく、実時間基準のEGTimeも参照している。実装上の通信やメモリ効率が悪ければ、FLOPsでは勝っていても実時間では負ける場合がある。たとえば、MoEを全層に入れる構成とinterleaved MoE + dense構成を比較すると、後者の方が実時間効率で優れており、採用に至っている（同じFLOPsではMoE onlyがよいが）

pretrainingにおいては、held-out NLL、すなわち負の対数尤度による評価を重視している。精度評価は、プロンプト形式やジャッジモデルなどに影響されやすく、安定しないためである。一方、NLLは安定して高速に評価できる。
pretrain開発時に、合計で約40個のNLL評価用の内部ベンチマークを持ち、単一の目標値にまとめるときは、次の重みを使っている。
コード: 0.5
STEM: 0.175
数学: 0.175
一般知識: 0.1
多言語: 0.05
ここから、MAIは事前学習段階からコードとreasoning、特に数学・STEMをかなり重視しているといえる。

中間学習後、RLでは事前にreasoning traceを与えず、RLによって推論能力を獲得させている。
STEM、agentic coding、安全性・helpfulnessの3つのspecialist modelを訓練し、その後、それらを元のモデルにSFTで蒸留して統合している。長くRLで性能を伸ばし続けられるように、学習方法にも工夫が加えられている。
RLでは、4096 chipsが推論・rollout生成用、768 chipsが学習用に使われており、推論と学習の比はおよそ5:1である。学習ステップ数の詳細はないが、数千ステップと書かれている。
RLではまず、現在のモデルにとって学習に適した難易度の問題を選ぶ。同じ問題に対して、成功するrolloutと失敗するrolloutが混ざるような問題を探す。これを行うために、最初に少数のrolloutを投げ、pass rateが適切な範囲に入るかを調べる。

次に、候補選別を通った問題に対して、追加で128本のrolloutを行う。各rolloutは採点され、全体のpass rateが計算される。pass rateが事前に決めた範囲に入っていれば、正規化advantageを計算し、GRPOで更新する。

長文能力については、直前のmid-trainingと同じデータmixを使い、それを目標長である256Kにre-packして作る。アブレーション結果から、短いコンテキストで効率よく学習し、最後に少量の長文extensionを追加すればよいと見ている。ここも詳細な記述が多く参考になる。

コメント
===
フロンティアモデルに匹敵するモデルの学習詳細が述べられているという点で有用である。特に、具体的な手法そのものよりも、学習方針、例えば、NLLで評価すること、Scaling Ladderを構築して評価すること、技術採用を検証可能にしていくことなどは、他で書かれていることが少なく参考になる部分が多い。

特に、事前学習は作ったモデルがどの程度良いか、採用を評価するには、後続タスクまで作らないと難しい場合があり、単純ではない。今回のテクニカルレポートには、その点で参考になる部分が多いのではと考える。

気になった点として、specialistを蒸留する際、最近はon-policy蒸留も増えているが、このレポートでは通常のSFTを採用している理由は特に書かれていなかった。複数のspecialistの能力を安定に統合するため、単純でスケールしやすい方針を優先したのかもしれない。

[ys @yswbt]

事実ならつまらんことするなトランプ

[Iran in Japan/ 駐日イラン大使館 @IraninJapan]

ニューヨーク・タイムズ紙の報道によれば、「26人の登録選手全員のビザ申請は受理されたものの、コーチ、トレーナー、アナリスト、医療スタッフなどを含む1ダース（12人）以上のサポートスタッフ、およびチームに帯同予定だったイランサッカー連盟の役員らの申請は却下されたと、4人の当局者が明らかにした」とのことです。

もしこれが事実であれば、アメリカの大会ではなく「世界的なトーナメント（ワールドカップ）」に参加するサッカーの代表チームが、コーチも、トレーナーも、アナリストも、そして医療スタッフもいない状態で戦うことを強いられる場面を、ただ想像してみてください。

これは、ワールドカップを開催するための法的・組織的な前提条件を定めた「開催国契約」に対する明白な違反に該当します。

このような事態に至った以上、FIFA（国際サッカー連盟）は自らの規律を維持し、加盟協会に対する統括団体としての規制上の責任を果たす義務があります。

[ys @yswbt]

まだこんなレベルなのか、、、

[Dana Chandler 🇨🇦🖖 @nursedanakay]

My Tesla with 14.3.3 will brake stab for a squirrel on the shoulder 100 yards ahead, yet yeets me nearly 30 mph over speed bumps. 🤷‍♀️