おいなり

nlpとロボットを学ぶどこかの大学生

[今井翔太 / Shota Imai @ImAI_Eruel]

Fable/Mythos5では推論中に人の言語とも思えぬ意味不明な思考過程を出力することが報告されてましたが、Claude Opus5では推論の過程で「うおおおおおおおお」「NOO0!!」みたいな発狂ワードが出る模様
DeepSeek R1の論文でも、突然LLMの出力挙動が不自然になる（でも性能は上がる）「Ahaモーメント」が報告されてましたが、ある意味で、極限まで考えると発狂する人間の性質を受け継いでいるのか、言語的にも発狂ワードを入れた方が飛躍的な発想につながるのか、はたまた整理されてロジックが通った自然言語は邪魔になるのか

[Yuzo Maruyama @umaruyama]

Stanfordの学部レベルの確率統計の授業で使われているonline textbook「The Art of Chance」。証明は略されていないし，それより目を引くのは至るところにRコードが置かれていて，Run Codeをクリックすると計算が実行されたり，グラフが描かれる。どんな仕組みなのだろう？
https://t.co/gIyLNF7MU3

[オスマン帝国買うて @4niruddha]

発表されたGPT-4oについて、驚き屋やPR動画に惑わされないためのポイントに触れると、まず普通は公開するTechnical Reportが公開されていないので、他モデルと比べて、一定の他ベンチマークで負けている可能性がある。また、Geminiが圧倒的性能を示したコンテキスト維持力を測るNIAHを出していない。

[カルビーPR部公式 @calbee_PR]

東京ディズニーシーⓇ
#ファンタジースプリングス へ
グランドオープン前にご招待✨

＼すぐに抽選結果が届く／
ファンタジースプリングスを先行体験できるプレビューパスポートが【25組様】に当たる🎁

1⃣このアカウントをフォロー
2⃣本投稿を4/25 16:59迄にリポスト
3⃣自動リプライから結果を確認

[Nimda @nimdanaoto]

これ一人化け物エンジニアがいたやろ

NASAで深宇宙ネットワーク（Deep Space Network：DSN）を担当するエンジニアがこのコードを見たところ、異常信号を解読し、FDSの全メモリ読み出しが含まれていることを発見した。
https://t.co/mFxUDxK1SM

[LiberalArts @arts_lib]

統計学やML関連の参考書でよく引用される「Matrix Cookbook」にまとめられる式の導出に関して作成を始めました〜
よく出てくる式などを中心に追記を行う予定です🌿
https://t.co/Fio9WCimB0

[小猫遊りょう（たかにゃし・りょう） @jaguring1]

うおぉ、グーグルがすごい！実世界で700以上のタスクを97%の成功率で実行する汎用ロボット「RT-1（Robotics Transformer 1）」を発表！新しいタスクや環境や物体に対して従来よりも効率的に汎化するロボット！大規模にスケールする可能性！しかもコードはオープンソース！
https://t.co/h7OluJuh8a

[Omiita | オミータ @omiita_atiimo]

ChatGPTの学習方法について解説記事を書きました！

https://t.co/RhKUP24cXm

ChatGPTでは、「人間のフィードバックに基づく強化学習（RLHF）」という手法を用いて、GPT-3.5を微調整しています。記事の中では、RLHFやInstructGPTについて解説しています。ぜひご覧ください。
#ChatGPT

[おいなり @minoinari]

ついーとてすと

[Jim Fan @DrJimFan]

Like Chinchilla, embodied agent research also needs a ton of diverse data to scale. An agent generates its own experience data via interaction & exploration. Its abilities are upper-bounded by the simulator complexity. ProcTHOR offers a scalable way to enrich the experience 3.2/

[Jim Fan @DrJimFan]

ProcTHOR: Large-Scale Embodied AI Using Procedural Generation. Deitke et al, @allen_ai. TLDR: ProcTHOR is a simulator that procedurally generates a large variety of interactive, customizable, and physics-enabled houses for training embodied agents. Huge open asset library! 3.1/

[akira @AkiraTOSEI]

https://t.co/e61yNLshgv
トランスフォーマーの計算量削減において、KとVを平均プーリングでダウンサンプリングさせるという手法がある。そこにWavelet変換を適用することで従来手法よりも情報のロスが少ないまま計算量が削減できるとのこきるという研究。

[Seitaro Shinagawa @sei_shinagawa]

NAIST DSC サマーセミナー2022の講演資料を公開しました。Transformerと基盤モデルの話を中心に据えました。（Diffusionなtext-to-imageの技術的な話はしてないので悪しからず・・・）
2022.9.7 NAIST DSCサマーセミナー「Vision and Language技術の最新動向」 https://t.co/RB9QXzrbeX

[布留川英一 / Hidekazu Furukawa @npaka123]

最近話題になった AIエージェントの強化学習環境 のまとめ｜npaka #note https://t.co/J0YTPDyMoi

[mi141 @mi141]

テキスト指示通りに画像を編集するInstructPix2Pix、学習データの作り方が凄い！
(1)captionから編集指示と編集後captionのペアを（700samplesでfinetuneした）GPT-3で生成
(2)編集前後のcaptionからprompt2promptで画像生成

これで編集指示と編集前後画像ペアの出来上がり…
https://t.co/bgYaNi8dB4

[Sho Sakaino (境野 翔) @shosakaino]

上田先生自身による詳解確率ロボティクスの解説。わかりやすすぎる。やっとSLAM理解できた。
https://t.co/pGTOnWUBDS

[″新″きゅあにーと @cureneet17]

この程度では何事も無く走らせてた九州最強といわれる西鉄バスが運休を決めた時点でただ事じゃないことが分かる

[Karol Hausman @hausman_k]

Training RL from scratch can be very hard, if there is any prior policy you can use to help, you should.
But using prior policies with value-based RL is difficult for various RL reasons.

Introducing Jump-Start RL: a simple, widely applicable method that addresses this problem.

[小川雄太郎 @ogawa_yutaro_22]

PyTorch日本語チュートリアルを更新

書籍「PyTorch 実践入門」の翻訳者、大串さんが第7章音声を翻訳をしてくれました

7.1 torchaudioによる音声データの取り扱い
7.2 音声認識用ニューラルネットワーク

発話や動作音など、音データ利用時の参考にいただければ幸いです

https://t.co/WdtnKBUgqw

[TJO @TJO_datasci]

今年3月に書いたスキル要件記事が引き合いに出されて話題になっていたようだけど、毎回思うのが「ジュニアとシニアとでは望ましいレベル感が違うので、初学者からDS/ML専門職を目指す人はまず緩くても良いのでジュニアレベルを目指して欲しい」ということ
https://t.co/jgFScNR8XA