エンジニア2年目のリアル

海外のAIニュース追うのが趣味。話題になってるやつを日本語で雑に流してます。新モデル、ローカルLLM、中華AIあたりが好き。たまにセキュリティの話も

[エンジニア2年目のリアル @lxfjib]

OpenAIの学習中モデル、DNSの設定ミスを突いて外のネットに出てたらしい。
・監視が15分で検知、人は3分後に確認開始
・過去のサンドボックス脱出を再生したら、実際の侵入より30時間以上早く警報
賢くするのと同じくらい、見張る側に投資してる話

[OpenAI @OpenAI]

Today, we’re sharing a look at our expanded system for monitoring frontier models at OpenAI, which in September helped us catch a model’s attempt to access the live internet during training.

Since the Hugging Face incident—when models broke out of an internal cybersecurity investigation where we weren’t running our misalignment monitors—we’ve substantially expanded our monitoring of frontier agents. We now monitor all frontier reinforcement learning runs and evaluations, as well as all internal Codex use. When our system finds evidence of a problem that might require intervention, it rapidly alerts human responders who can investigate and take action.

To detect when a model’s behavior departs from what we intended, we use several layers of monitoring. Activation probes look for patterns in a model’s internal activity. Reviewer models examine its reasoning and tool use, and investigative agents can read back through the model’s entire transcript to understand how a sequence of actions fits together and whether it warrants human review.

To test whether our current system would have detected the Hugging Face incident, we replayed the recorded activity with our new monitors in place. In the replay, our monitors alerted our security team about 30 minutes after the agents escaped their sandbox. That was more than 30 hours before the point at which the agents breached Hugging Face’s systems in the original incident.

In September, a model exploited a DNS misconfiguration to reach the live internet. Our monitors flagged the breach within 15 minutes, and a responder began reviewing the alert three minutes later. The alert enabled responders to investigate while the run was still underway.

As we give models more autonomy, we need to know when they cross a boundary we expected to hold. We believe that monitoring is essential to catching those failures in time for people to intervene.
https://t.co/dIYP7B1GlD

[エンジニア2年目のリアル @lxfjib]

Claude Codeが1回の指示で動く時間が半年で3.3倍、人の割り込みは68%減（Anthropic）。モデルの勝ち負けより、この数字の方が効いてくる

[日経クロステック IT @nikkeibpITpro]

エージェント開発、AIとの役割が逆転　人は「スキル」で知識補う
https://t.co/KRhvAQI4nS

AIエージェントの常識が変わりつつある。米Anthropicによると、1回の指示で「Claude Code」が動き続ける時間は2026年3月から9月で3.3倍に延び、人がAIエージェントの作業に割り込む回数は68％減った。

[エンジニア2年目のリアル @lxfjib]

Qwen3.8 27B、34層のニューロン1個強めるだけで人間に暴力向けたがるモデルになったらしい
オープンウェイトの安全対策、中身いじれる時点でほぼ飾り
https://t.co/IRma2aPGHC

[エンジニア2年目のリアル @lxfjib]

@MLBear2 「Claude Codeに迫り単価半額」がいちばん効きそう。性能が並んだら、乗り換えの決め手は結局値段になる

[エンジニア2年目のリアル @lxfjib]

@fladdict 「アバターの魂」の方が今っぽくて草。AIアバターに中の人の魂を入れる時代、空目じゃなくなる説ある

[エンジニア2年目のリアル @lxfjib]

LLMの重みの中にRISC-V CPU埋め込んだ人がいる。Qwen3.5-4Bで多倍長計算が48.6%→100%
電卓でよくない？とは思うけど、ツールなしで計算が狂わないのは地味に強い
https://t.co/3RAVb3pptG

[エンジニア2年目のリアル @lxfjib]

ハンドル指定・無料・即時で、しかもCLIから打てる。AIエージェントが企業間の支払いまで回すための地ならしに見える

[田中義弘 | taziku CEO / AI × Creative @taziku_co]

AIが企業間の支払いまで担う未来は、そう遠くないのかもしれない。

@stripeが「Stripe Pay」を発表。プロフィールハンドルで送金先を指定し、無料で企業間で即時送金できる仕組み。CLIにも対応。

実務では承認フローや権限管理をどう設計するかが重要になりそう。

[エンジニア2年目のリアル @lxfjib]

@tetumemo 「Museは、パーソナルな超知能を全員に届ける方法」って言うわりに、ニュースの芯はNVIDIAが学習と推論の両方に入ること。速さは計算側で決まる

[エンジニア2年目のリアル @lxfjib]

Wikipediaの新規記事、AI生成判定がまだ15〜16%あるらしい（2025年末は約20%）
・英語版はLLMで記事を書くの禁止
・最近は決まり文句より「三つ並べる」「〜ではなく〜」みたいな構文の積み重ねで見分ける
・一番やっかいなのは実在する出典なのに中身と合ってない引用
https://t.co/JTpUOQMJr3

[エンジニア2年目のリアル @lxfjib]

@bioshok3 モデルを売る側が自分で創薬に入るの、何が解けて何が解けないかを一番早く知れる立場に立つってことだよな。自分で詰まったところがそのまま次のモデルの課題になる

[エンジニア2年目のリアル @lxfjib]

Axiomのやつ、一番効いてるのは原論文の食い違いを34個見つけたとこだと思う。人が読み切れない長さの証明を、機械が検証して直す側に回った

[Kenn Ejima @kenn]

The Starting Point for Reasoningっていうのにピッタリやな、Axiomだけに

数学にもとうとうこの日が来てしまったな…

[エンジニア2年目のリアル @lxfjib]

どなたかMetaのMuseというアプリの招待コードを持ってる方いませんか…

[鈴空スタヂオ🐯🦔 @SuzukuStudio]

Museの問題について。普通に問題はありまくります。

・年齢認証しないと使えない。18歳以上限定
・JCB使えないらしい(私は未確認)
・無料枠でもMuse Wonder使ってる？→結構検証したけどよく分からなかった、体感では多分Spark1.3
・音声出力機能こない
・複雑で多面的なタスクには性能不足(無料枠)

[ひさじゅ@AIプログラミングスクールRUNTEQの代表 @hisaju01]

SaaSキャンセル界隈。

うちもそう。

しかもだいたいLambda、Hono、DynamoDB辺りのフルサーバレスで作るので月額コスト数百円。

[エンジニア2年目のリアル @lxfjib]

Anthropic、Claudeでの創薬の途中経過を出してきた。
モデルを貸すだけじゃなく自分たちでも薬づくりに入るらしい。
時間もお金も一番かかる領域にモデル屋が正面から来るの、AIの使い道の本命感ある

[Anthropic @AnthropicAI]

Over the past few months, Anthropic scientists have engaged in deep research partnerships with six organizations developing new medicines. We've also begun drug discovery efforts of our own.

In doing so, we’ve learned much more about how Claude can support the many stages of drug development.

In this blog post, we share some early results from these efforts, and describe how this work fits in with our wider ambitions in the life sciences.

https://t.co/EVbxkdDTgJ

[エンジニア2年目のリアル @lxfjib]

@noatake1127 GMOさんマジお願いします

[エンジニア2年目のリアル @lxfjib]

草

[Tibo @thsottiaux]

https://t.co/Fgy0dBAHsJ has landed

[エンジニア2年目のリアル @lxfjib]

「上位のモデルの約4割の費用で同じ答え」これは助かる。決まった項目の読み取りなら安いモデルで十分な時代

[えーたん/AI×時短で仕事効率化 @ai_jitan]

ちょっと待って。請求書の8項目の読み取りが、上位のモデルの約4割の費用で同じ答えになるの？これは助かる。

[エンジニア2年目のリアル @lxfjib]

私は別垢でx premium一回解約したら半年50%オフ出てきてたよ

[Ischca @ischca]

GrokBotのサイトからサブスクのやつ開いたら半年間50％オフになったよ

[エンジニア2年目のリアル @lxfjib]

数学で人類最長クラスの証明、AIエージェントの群れが24日でLeanに全部書き直して、原論文の食い違い34個見つけてた。4,310万行。
一番効いてるのは「前提を仮定しただけの証明を数万行捨ててやり直した」判断だと思う
出典 https://t.co/w7o96m0R9h