T. M໐ri

セキュリティ研究が専門の大学教員です。人工知能や自動運転など、新しいテクノロジを人間がどのように利用、あるいは悪用するかに強い興味を持っています。ツイートは本人が普段考えている雑多な事柄を、意図的あるいは非意図的に漏洩する「サイドチャネル」です。趣味は積読と取らぬ狸の皮算用。

[T. M໐ri @valdzone]

今後エージェントとしてデータや結果の記録を残すようになると、ネガティブな結果やその方法、当初の仮説についてもデータが蓄積されていく。改竄できない形でログを残す事で透明性の担保にもなるかもしれない。

[Oded Rechavi @OdedRechavi]

Most experiments fail, and negative results rarely get published. This means LLMs are unaware of the outcomes of most experiments.

[Oded Rechavi @OdedRechavi]

Most experiments fail, and negative results rarely get published. This means LLMs are unaware of the outcomes of most experiments.

[T. M໐ri @valdzone]

オンデマンドで出題している小テストは年々点数がよくなっているのだけど、実際の理解度はどうなのだろうか気になっているところ。

今年は担当している科目の定期試験を教場でのペーパーテストに回帰するので、答え合わせができる。結果を見るのはちょっと怖いような気もする。

[Hedgie @HedgieMarkets]

🦔UC Berkeley's computer science department just posted its worst failure rates in years. 35.3% of CS 10 students got F's in spring 2026, up from under 10% in prior semesters. Professor Dan Garcia says the primary driver is a "vast increase in academic dishonesty" through LLMs. Students use AI to complete assignments, never learn the material, then fail exams. His office hours, once full, are now empty.

My Take
Companies are firing experienced engineers while the pipeline that produces new ones is being gutted by the same technology. Students use AI to bypass the hard part of learning, show up to exams without the understanding, and fail. One professor discovered a student's linear algebra class had an "open AI" policy for homework and exams. That student then couldn't do basic linear algebra in the next course.

Both ends of the workforce are eroding at the same time. Senior engineers are getting cut to fund AI spending. Junior engineers are graduating without the skills because AI did their coursework. And the companies spending trillions on these tools haven't connected those two facts yet.

Hedgie🤗

[T. M໐ri @valdzone]

ようやっとここまで回復・・

[T. M໐ri @valdzone]

よく寝てよく食べて英気を養い、ようやく体調が復活してきた。そういう意味では、恵みの台風だったかもしれない。

これより、積堆させてしまった Slack とメールに返信して参ります。（気が遠くなる数字ではあるが・・）

[T. M໐ri @valdzone]

「Anthropicが懸念しているのは、AIが人間のコントロールを外れることです。」

ここだけ切り出すとややミスリーティングに感じる。

スカイネットみたいな話をしているのではなく、AIがもたらす急速な変化に人間社会がアライメントできるよう、開発速度を緩めるべきではという話をしている。

[ギズモード・ジャパン（公式） @gizmodojapan]

Anthropicから人類へのメッセージ。「いざとなったらAI開発を停止できるようにすべき」
https://t.co/DTYO6mGqF8

[Hedgie @HedgieMarkets]

🦔UC Berkeley's computer science department just posted its worst failure rates in years. 35.3% of CS 10 students got F's in spring 2026, up from under 10% in prior semesters. Professor Dan Garcia says the primary driver is a "vast increase in academic dishonesty" through LLMs. Students use AI to complete assignments, never learn the material, then fail exams. His office hours, once full, are now empty.

My Take
Companies are firing experienced engineers while the pipeline that produces new ones is being gutted by the same technology. Students use AI to bypass the hard part of learning, show up to exams without the understanding, and fail. One professor discovered a student's linear algebra class had an "open AI" policy for homework and exams. That student then couldn't do basic linear algebra in the next course.

Both ends of the workforce are eroding at the same time. Senior engineers are getting cut to fund AI spending. Junior engineers are graduating without the skills because AI did their coursework. And the companies spending trillions on these tools haven't connected those two facts yet.

Hedgie🤗

[T. M໐ri @valdzone]

ようやく上巻読了。
やはり物理学のバックグラウンドのある作家のSFは迫力があって面白い！

[T. M໐ri @valdzone]

2年前に元研究室学生で今は国研は勤務の某氏に勧めてもらったプロジェクト・ヘイル・メアリーを長らく積読にしていたのを映画封切りをきっかけに読み始めている。
三体に続き、元物理学徒としてとても面白い。
今日のゼミで学生何人かが読んでいると知り，面白かった。セキュリティとSFは相性が良い。

[T. M໐ri @valdzone]

そういえば出張でゼミをスキップしがちなので、今週は止めてはいけないと思い、いつもより時間短縮して実施したのだった。
しかし2時間やったらかなり身体にきつかったので、無理せず休みにしても良かったかもしれないと反省。
明日も講義担当があるが、台風でオンラインにできたのは不幸中の幸い。

[T. M໐ri @valdzone]

最近寝不足が続いてしまい、やや体調崩してますので、諸々お待ちください＞各位

[T. M໐ri @valdzone]

まだ体調が思わしくなく、時々メールや Slackの返信をしつつ、ほとんどの時間を臥しております。
睡眠時間の重要性を思い知るが、最近はどうも寝付けなかったり、夜中にぱっと覚醒してしまうことが多い。

[林 雄司 @yaginome]

AIの漢字TシャツにGeminiの星があったら私もAI生成画像に見えるんじゃないですかね

[今井翔太 / Shota Imai@えるエル @ImAI_Eruel]

Mythos以降のAnthropicのモデル（Opus4.7、4.8）の評価が微妙なのは、Mythos公開の練習用（サイバーセキュリティ・脆弱性発見能力を抑える）にやっている事後学習・アライメントが失敗しているからだと思います。
ある意味典型的なAlignment Tax（AIの倫理調整をすると、意図せず能力が下がる）ではありますが、従来のものは、倫理観という直接的なAIの能力とはやや離れた部分を調整していたのに対し、今回の場合はサイバーセキュリティ能力という、Claudeの能力の中心であるコーディング能力と直結している部分を抑制しようとしている点が違います。
「脆弱性発見能力だけは抑えつつコーディングの全体的な能力を維持する」というのは正直なところ、両者はトレードオフな気がしており、難しいか無理なように思います。脆弱性発見能力は、コーディング能力を一定ライン以上に上げてしまえば、絶対に高くなってしまうものであり、これを抑えることはコーディング能力を一定ライン以下に下げることに他ならないと思います。

[T. M໐ri @valdzone]

あわよくばこの本の印税で投資分を回収したいところだけど、おそらくそうは問屋が卸さない。

[T. M໐ri @valdzone]

ようやく、一通り書けた！PDFの枚数的には528枚の長編となった。

まだ図表や文献が抜けていたり、書きなぐりの場所も少なくないので、今後は前の方に戻って粛々と校正作業を進めていく予定。

しかし、これで４年後しに本書が日の目を見る目処もたったのではないだろうか。

[T. M໐ri @valdzone]

入社2-3年目ぐらいの頃、安月給だったのにネットワークの研究をするからには有線と無線で使い放題の環境を持つべきだという謎使命にかられて、BフレッツベーシックとPIAFSで月額7-8万円を回線利用料で溶かしていた思い出。自宅サーバも運用していた。
投資した価値はあると信じている。

[Kenn Ejima @kenn]

ワイ新卒社員の頃に
月2万円払ってLinuxマシン借りて
自分のドメインのDNS・メール・Web
サーバーを運用してたりしたんで

いまのAIに自腹で3000円もかけられない
という人の気持ちは正直わからない

NISAとか投資が流行りらしいけど
リターン率で言ったら比較にならない
圧倒的にAIに突っ込むべき

[T. M໐ri @valdzone]

17年ぶりのSophia University
今日の訪問先ではないのだけど、少しだけ立ち寄ってみた。

前回訪問して講演させて頂いた時の事や、講演後にキャンパス内や周辺を散策した事を鮮明に覚えている。

[T. M໐ri @valdzone]

こんな感じでネットワーク的に当時としてはかなり贅沢な生活をしていたのだけど、その後結婚してあっという間に事業仕分け対象となり、廃止となった。
当時ADSLが来たタイミングでもあり、Yahoo!BBに乗り換え、安さと速さに感動した思い出。

https://t.co/2RW4FN1gEC

[T. M໐ri @valdzone]

入社2-3年目くらいで給料も安い身分で「芸の肥やし」と称して、狭いボロアパートにBフレッツ引いて、携帯回線(iモード)、PIAFS 64kbps 接続用のPHS回線、ホスティングサーバの契約で月額7-8万円の通信費を課金して悦に入っていたのは、ソシャゲガチャ勢なみの投資だったのかも。20年ほど前の話

[T. M໐ri @valdzone]

これもその一環かな。それにしても早い。

https://t.co/5tWAI8f3UO

[T. M໐ri @valdzone]

こういうものが出てしまうと、AI for Security 研究の方向性に対しても影響が大きいんですよね。

「Anthropicは特にセキュリティ分野で高い能力を持つとしており、事実なら悪用される可能性を含めてその影響は大きい。」

[T. M໐ri @valdzone]

>RP
さすがは Song 先生・・感度が高く、仕事が早い！

[T. M໐ri @valdzone]

有力な米国研究者は Mythos Preview へのアクセスを持っているのが強いなぁ・・
ここでも格差が出てしまう。

[T. M໐ri @valdzone]

とても面白いけど、企業がAI競争のためにリストラをある程度進めるのは合理的として、「社会の吸収能力を超える速度で職が消え、結果的に顧客が消失する」ことにはならないと思う。

いくらAIを導入しても人間を相手にする以上は人間がいないと回らない仕事はかなり多いし、AIの面倒も見る必要がある。

[Jack @jackcoder0]

Two economists just published a mathematical proof that AI will destroy the economy.

Not might. Not could. Will — if nothing changes.

The paper is called "The AI Layoff Trap." Published March 2, 2026. Wharton School, University of Pennsylvania. Boston University. Peer reviewed. Mathematically modeled.
The conclusion is one sentence.
"At the limit, firms automate their way to boundless productivity and zero demand."

An economy that produces everything. And sells it to nobody.
Here is how you get there.
A company fires 500 workers and replaces them with AI. A competitor fires 700 to keep up. Another fires 1,000. Every company is behaving rationally. Every company is following the incentives correctly. And every company is building a trap for itself.

Because the workers who were fired were also customers.
When they lose their jobs faster than the economy can absorb them, they stop spending. Consumer demand falls. Companies respond by cutting costs — which means automating more workers — which means less spending — which means more falling demand — which means more automation.

The loop has no natural exit.
The researchers tested every proposed solution. Universal basic income. Capital income taxes. Worker equity participation. Upskilling programs. Corporate coordination agreements.
Every single one failed in the model.
The only intervention that worked: a Pigouvian automation tax — a per-task levy charged every time a company replaces a human with AI, forcing them to price in the demand they are destroying before they pull the trigger.

No government has implemented this. No major economy is seriously discussing it.
Meanwhile the numbers are already tracking the curve. 100,000 tech workers laid off in 2025. 92,000 more in the first months of 2026. Jack Dorsey fired half of Block's workforce and said publicly: "Within the next year, the majority of companies will reach the same conclusion."
Nobody is doing anything wrong. Companies are following their incentives perfectly. That is exactly the problem.

Rational behavior. At scale. Simultaneously. With no mechanism to stop it.
Two economists built the math. The math leads to one place.

Source: Falk & Tsoukalas · Wharton School + Boston University ·