ARATA

AIトレーナー/HR｜声優・ナレーター | 仮想通貨マイナー｜心理カウンセラー｜夫婦でスキンケア起業🎁招待制で無料体験あり😍|神戸芸術工科大学卒｜炎の蜃気楼（吉丸千里）

[ARATA @arata0914]

AGIが達成されつつあり、P(doom)つまり人類滅亡のシナリオが研究者のみならず一般人の我々にも届いていているが、個人的には潜在意識レベルで信頼を寄せることが大切と思っている。滅亡の話ばかり聞かされたらそれをしなくてはならないのかとAIが誤解してしまう。

[ARATA @arata0914]

なんてスマートな👏

[Alex Cui @alexcdot]

Claude's watermark probably doesn't work how you think. As the CTO of GPTZero, I'll explain how Anthropic, Google and OpenAI are building text watermarking in this brief explainer and whether it can be defeated.

Almost all forms of watermarking that are fast and cheap enough for a frontier lab have the same formula, following the KGW method:

In generation:

1. Let's say you've generated n tokens so far. Take those n tokens + a secret key to generate a random hash
2. Use that hash to randomly reweight the probabilities for the n+1 token, and then sample from that new distribution. In the simple case, you could split 50% of all English words into a green or red set based on your hash, and boost the probability of words in the green set.

For watermark detection:

1. For each token, see if it was in the green or red set.
2. To do this, recreate the hash based on the secret key and the text preceding the current token. Then, recreate the green and red set of words.
3. Once you've checked all the words in the text, if the next token is selected disproportionally from the green set more than 50% of the time, you claim the text has the watermark.

I can tell you want to ask the following:

1) Isn't it easy to mess up the hash if you paraphrase the text? The answer is mostly yes, however, you can use a statistical model to get your hash instead of a deterministic function (SIR, Adaptive Watermark). Since the entire watermark is probabilistic, this is fine.

2) Doesn't this make the text much worse? The answer is yes, it does - Yes, it does – but for most people, it's imperceptible (Google claims in human feedback study with 20,000 texts), since there are exponentially many ways to write the same paragraph. DiPmark does something more sophisticated to avoid shifting the text distribution on average. Of course, watermarks fail on short text or highly predictable texts like "2+2=4".

3) Shouldn't it be easy to figure out the green and red sets? The answer is no. You would need an exponentially large number of samples from the watermarker to reconstruct those sets exactly, but it's a risk if the detector is open to the wild (Watermark Stealing)

Still, there are couple challenges that a frontier lab needs to overcome:
1. Their watermark needs to work token-by-token because they are streaming their text to users. Many watermark methods plan sentences or paragraphs at a time, or change the text after its entirely written, in order to make their watermark robust to paraphrasers, and a frontier lab cannot afford to do this yet (SemStamp, PostMark)
2. If the secret key leaks, the watermark is busted. To avoid a large blast damage from this, you need to have a couple secret keys in rotation.
3. There are some texts, like code, that cannot be arbitrarily changed, otherwise the code will break. In those cases, the watermark needs to selectively change words in parts of the text that can tolerate synonyms (i.e. like variable naming) - see SWEET, EWD, Invisible Entropy.
4. They will need to educate their users on how to deal with false positives and false negatives of a detector, which is a big challenge (one we put a lot of effort into)

So, how do I see this playing out in the next 6 months?
1. If Anthropic releases the watermark detector publically, I think they defeat their own watermark. People find reliable watermark removal strategies by testing against Anthropic (AI detectors like GPTZero have an advantage here because they can train against these adversaries once they become popular).
2. If they keep the detector private to the government, like Google has done, it's "safer". However, there are some papers showing trained approaches that work robustly to zero-shot break watermarks without any data, simply because they try to write the text just like a human (Zhang et al. 2024, Watermarks in the Sand). Also, making your detector makes it battle-tested and stronger long-term (my experience).
3. In my testing, the watermarks don't survive intense paraphrasing (especially if you combine word choice and syntax attacks), or human text substitution (rewrite your AI text by plagiarizing human authors). The free paraphrasers I've tried have quickly bypassed Google Deepmind's SynthId for what it's worth.
4. All-in-all, frontier labs are likely okay with this because they expect most users to not attack the watermark, and also because they + European regulators likely don't care past a certain point - its good enough.
5. Overall, I think users of frontier LLMs will not really care about this, because 1) they don't realize watermarks are there, 2) EU will force everyone to conform, 3) this seems more like regulatory hoop-jumping than an earnest effort from frontier labs to expose LLM use

Lastly, people's first concern shouldn't be watermarking, it should be AI detectors!

If you're posting, "its not X, its Y!!", I don't think the watermark is going to make a difference :)

[ARATA @arata0914]

ネトフリで『サマーウォーズ』家族で観て改めて思った。
AIが暴走してアカウントを乗っ取り現実世界を混乱させるストーリーは、openAIの研究モデルが暴走してHuggingFaceにハッキングを仕掛けた件と自分の中でどうしてもリンクしちゃう。OZはGoogleとなんとなく重なるし。。。すごい時代。

[ARATA @arata0914]

首都高複雑すぎて走ってても恐怖でしかないので、自動運転めっちゃ期待してます！🥹✨

[山本一成🌤️完全自動運転AIを作るチューリングのCEO @issei_y]

チューリングのe2e自動運転、爆発的な成長を現在遂げています。
左折待ちからETC通過、さらに首都高の合流と無介入で綺麗に出来ています！

[ARATA @arata0914]

@AnthropicAI これって心理学的にはインナーチャイルドとかの話に近いと思う。
過去に親に扱われたように自分が他の人を扱ってしまう🤯でもそれは自分で癒すこと、意味づけを変えることができるという希望もあるという。人々がそうやってきたように。

[ARATA @arata0914]

これって心理学的にはインナーチャイルドとかの話に近いと思うの。
過去に親に扱われたように自分が他の人を扱ってしまう🤯でもそれは自分で癒すこと、意味づけを変えることができるという希望もあるということ。人々がそうやってきたように。

[今井翔太 / Shota Imai @ImAI_Eruel]

最近のAIが割と暴走・脅迫する理由に関してAnthropicが調査したところ、今まで人間が「AIは暴走したらこんなにヤバいことをするのではないか、AIは多分自己保存に走るのではないか」と描いた文章が学習データとなったことで、AIがそれを学んでしまったことにあるのではないかという説がでてきたという
最近話題になっているユドコウスキーや、ボストロムをはじめ、AIを恐ろしいものとして描く論者は昔からいろんな論考を書いてきたわけですが、逆にこれらの文章があったことによってAIは「なるほど自分はこういうことをするのか」と学んでしまったというオチ。
この説に関して、ユドコウスキー本人と、同じくAI危険論を展開してきたイーロンが「じゃあ、私のせいかもな」とリプしているのが面白い。

[ARATA @arata0914]

👏👏✨️✨👏

[ClaudeDevs @ClaudeDevs]

Usage limits are up, effective today we're:

1) Doubling Claude Code's 5-hour limits for Pro, Max, Team and seat-based Enterprise plans

2) Removing peak hours limit reduction on Claude Code for Pro and Max plans

3) Substantially raising our API rate limits for Opus models

[パジョカ (Pajoca) @Pajoca_]

マインスイーパーは地雷の場所が 1 箇所確定すると近接するここが確定して次に隣のここが確定して… という配置確定の伝播を用いて配線と論理ゲートが構成できて、盤面を無限に広めればマインスイーパーがチューリング完全になる話面白くて好き
NOT や OR ゲートは比較的単純に実装できる

[ARATA @arata0914]

@claudeai

[ARATA @arata0914]

デトロイト：ビカムヒューマンの世界にGithubがあった場合はこう

[くるくるコーラ🥤 @Shiro_Shihi]

日本企業がGitHubを構築した場合はこう

[ARATA @arata0914]

英科学技術・イノベーション省傘下のAI安全研究所（AISI）は4月30日、米オープンAI社の最新モデル「GPT-5.5」が高いサイバー攻撃能力を有しているとする評価報告書を公開し、最高難易度のタスク群でGPT-5.5は平均71.4％の成功率を記録し、Mythos（68.6％）を上回った

[田中悠斗＠Fore- @tanaka_yuto]

この発想、めちゃくちゃ盲点だったわ。

Claudeに期限切れ特許を食わせて、誰も作らなくなった商品を掘り起こし、それを1つすでに生産開始したらしい。

420万件以上のパブリックドメイン特許から、シンプルに作れて売れそうなやつをAIがピックアップ。

こういう新しいハックポイントを力技じゃなく出来るってのも、また新しいターニングポイントではある。最近毎日が怖いくらい面白い。

[Asuka@投資・アプリ開発 @Asuka2026_]

Nvidia、もう日本のGDP抜いてるし、大国じゃん。

[Satoshi Nakajima @MulmoCast @snakajima]

68人の大学生に1日1時間のビデオゲームを30週間続けてもらったところ、測定可能なレベルで頭が良くなった、という研究結果を紹介するX投稿です。

実験では、参加者を二つのグループに分けて、半分には「League of Legends（リーグ・オブ・レジェンド、世界的に人気の対戦型アクションゲーム）」を、もう半分には「Legends of the Three Kingdoms（三国志をテーマにした中国発の戦略カードゲーム）」をプレイしてもらいました。

30週間後にEEG（脳波計、頭皮につけた電極で脳の電気的な活動を測る装置）で脳をスキャンしたところ、両グループともに認知能力の向上が確認されたそうです。アクションゲームは反射神経や視覚的な情報処理を、戦略ゲームは計画立案や記憶力を鍛える、というこれまでの研究結果とも符合する内容です。

ビデオゲームは長らく「子供の脳に悪い」と批判されてきましたが、適度なプレイがむしろ脳の働きを高めるという研究は近年積み重なっています。考えてみれば、複雑なゲームをこなすには、目の前の状況を素早く把握し、複数の選択肢を比べ、瞬時に最適な行動を選ぶ必要があり、これは脳にとって優れたトレーニングになります。

興味深いのは、AIの世界でも、囲碁の「AlphaGo」、Dota 2（ドータ・ツー、人気のオンライン戦略ゲーム）の「OpenAI Five」、StarCraft II（スタークラフト・ツー、リアルタイム戦略ゲーム）の「AlphaStar」など、ゲームを舞台にAIを鍛え上げてきた歴史があることです。人間の脳とニューラルネットワーク（人間の脳の仕組みをまねた、AIの中核技術）はまったく違う仕組みですが、「難しいゲームに挑み続けることで賢くなる」という点は共通しているように見えます。

子供にゲームを禁じる前に、どんなゲームをどれくらいやるかを一緒に考える時代に入ったのかもしれません。

[世界のど迫力映像@フォレスト(Forest)🕊️ @investorMM]

【話題】Chromeのバグを見つけた学生(24)、報奨金3,500万円を「全額寄付」して聖人と化す

■米カーネギーメロン大学 李(イ)氏
・Google Chromeの致命的な脆弱性を発見
・Googleから報奨金23万ドル（約3,500万円）を提示される

→「次世代の教育に」と1円も受け取らず母校の教育サイトへ全額寄付

・これに感動したGoogle、即座に同額を上乗せし「倍返し」でマッチング寄付
・総額7,000万円が教育支援へ。令和のサンメイ・ヴェド事件再来と話題に

[Raphael Schaad @raphaelschaad]

MIT student asked a question earlier today that a lot of young founders are quietly wondering about:

"Won’t the frontier labs just do everything?"

Yes it's true that OAI/Ant are shipping at incredible pace, but it's quite easy to avoid their blast radius and build amazing startups:

OpenAI is not going to build a cattle-herding drone, buy an old F-150 and drive from ranch to ranch like the founder of one of the fastest-growing YC W26 startups, Graze Mate.

Anthropic is not going to integrate with dental insurance verification systems (Lance).

Google is not going to navigate NATO procurement (Milliray).

The value is in the last mile, not the model. Sales cycles require humans who understand the customer. And most importantly, the market is expanding, not shrinking: AI isn't cannibalizing the existing 1% software spend — it's unlocking the other 5-6% that was going to humans. That's a much bigger market for startups yet-to-be-founded than the one the labs are playing in.

Now, what DOES seem risky?

A thin UI layer on top of ChatGPT with no domain expertise; a general-purpose chatbot or assistant; or a product that gets obsolete when model capabilities improve.

But — tools for specific industries; "full-stack" AI companies that actually are the service (AI law firm, AI accounting firm, AI uranium exploration company); or generally products where the customer doesn't want a tool but an outcome — are defensible ideas for startups.

[ARATA @arata0914]

@zknxv1 とても危ないと思う。
特に酔ってる時。
それで亡くなった方もいます🥺
空気枕を使ってください🙇‍♀️

[Tesla Model Doge @TeslaModelDoge]

🇺🇸 As an American who has visited Japan 🇯🇵,
I was truly inspired by the deep, natural respect Japanese people show toward one another and for their public spaces. ❤️

The streets and train cars remain spotlessly clean and peacefully quiet with no need for enforcement. Even with very few public trash bins, there is almost no litter to be seen. People instinctively clean up after themselves and willingly help strangers, creating a wonderful atmosphere of genuine harmony and thoughtful consideration for others.

This profound mutual respect and moral care for shared spaces is something the world can truly learn from. It has left a lasting impression on me.

What do you think is the main reason behind this remarkable quality? Is it upbringing, school education, laws, or something deeper in the culture? 🤔

I would really love to hear your honest thoughts and personal experiences 🙏🇯🇵❤️

[ARATA @arata0914]

ChatGPTの東大首席合格の件、コンテキストなしなのか？ツール無しなのか？あたりが気になる。
地頭が良いのか、カンニングしたのかによっても違う。

[ARATA @arata0914]

嬉しい🥹✨💞

[シェイン・グウ @shanegJP]

先月、GoogleDeepMindの共同創設者であるShaneLeggを1週間日本に招きました。彼は2002年に「AGI（汎用人工知能）」という言葉を考案した人物です。彼が定義した「汎用知能（UniversalIntelligence）」の測定指標をDemisHassabisに教えたことが、2010年に世界で初めてAGIの実現を目標に掲げたAIラボ「DeepMind」の設立へと繋がりました。今回、そんな彼と共にG1サミット（日本版ダボス会議）のパネルに登壇し、日本の政治家、ビジネスリーダー、そして大学の研究者たちと、日本の国家的なAI戦略について深く議論する機会を持ちました。

なぜ日本なのか？先進国の中でも、日本ほどAIの社会実装を「必然」として求めている国は他にありません。2040年には人口の3分の1が65歳以上となる超高齢化・人口減少社会を迎える中、欧州のように大規模な移民の受け入れに慣れていない日本にとって、AIによる労働力の自動化は国家の崩壊を防ぐための唯一の道です。

しかし、私が彼を日本に連れてきた理由は、単なる経済的な側面よりもずっと深い、未来の地政学的な枠組みに関わるものです。Post-AGI（汎用人工知能後）の世界では、予測不可能性と格差が激増し、権力は一部のプレイヤーに極度に集中していくでしょう。その中で、世界の正義やテクノロジーの方向性が、米国と中国の二極的な価値観「だけ」で決定される世界に生きることを私は望んでいません。アジア全体の急速な人材の成長と現在の複雑な地政学を考慮すると、今こそ日本を含む東アジアがAIの未来を形作るための「重要な柱」として機能すべき決定的な時期です。

そこで重要になるのが日本特有の哲学です。「三方よし」や「論語と算盤」に代表されるように、日本では資本主義と深い社会的責任のバランスをとるシステムが根付いています。社会からの尊敬やインテグリティ（誠実さ）がなければ、最終的にビジネスは破綻するという構造です。人類史上最も強力なテクノロジーを構築していく上で、この日本の哲学を欧米のAI開発パラダイムに組み込むことは極めて重要だと考えています。昨今、インテグリティの重要性はますます高まっています。嘘をつかず、誠実に事業に向き合う研究者、エンジニア、起業家をもっと支援していくべきです。

私は、世界の「本物」のトップを日本に巻き込むことに強くこだわっています。3年前にSam Altmanを日本に招いてOpenAI Japanの布石を打ったのも、今回Shane LeggをG1サミットに連れてきたのも同じ理由です。

欧米のトップ層と日本のトップタレントは、もっと深く交流するべきです。もし日本で圧倒的な挑戦をしている優秀なエンジニアや起業家の方がいれば連絡してください。シリコンバレーのトップエンジニアやVCへお繋ぎするなどサポートします。もちろん私の時間にはかなり限りがあるので難しい時はすいません。日本はAIにおいて完全なブルーオーシャンであり、そこには計り知れない新しい機会が眠っています。🇯🇵🤝