ikuto

最近は機械学習が気になる。Twitterちょっとわかった python/c++/java ゲームではMinecraft, splatoonが好き

[ikuto @ikuto32]

進捗管理AIとか絶対売れる

[ikuto @ikuto32]

少なくなることは言えるけど1になることは厳密に言えないってこと?

[ikuto @ikuto32]

コラッツ予想って二進数表記したときの上位桁の振る舞いを考えれば、高校生でも証明出来ると思うけど何が難しいの?

[LΛMPLIGHT (詳細は自己紹介欄を) @L4MPLIGHT]

���� @L4MPLIGHT (更新報告)
🎶 @lamplight_music (微分音･音楽)
🔠 @lamplight_lang (言語創作･言語学)

Web サイト：https://t.co/xhJVt0PknV
YouTube：https://t.co/XlZ52g0Li7
自己紹介アート：https://t.co/ChLaA51v1v

[ikuto @ikuto32]

Apple vision proに双眼鏡機能がついたら買う。ジェスチャーで

[ikuto @ikuto32]

https://t.co/o7bVYeX5kH
最初のアニメが色��ツッコミどころありすぎる

[ikuto @ikuto32]

問題点はテキストは離散的で一文字変わるだけで意味が変わることと可変長で処理が難しいことだけど、VAEで潜在空間に押し込んでデコーダとエンコーダに頑張ってもらうしか無いかな

[ikuto @ikuto32]

LMM(GPT系)は今はどれだけ最初の指示から正確に続きを生成できるかだけど、画像生成のdiffusion modelみたいに文章全体の整合性を考えられるようになれば、step数で精度指定できて便利なのに。

[ikuto @ikuto32]

この意味ではchatGPTは1stepで文章を生成してて、ものすごい訓練で生成済みの文章との整合性がとれてるけど、��数stepに分割できれば文章全体の整合性を簡単にとれるようになる。image GPTの改善点そのままだと思う。

[ikuto @ikuto32]

好き勝手未来予想をできるサイトが欲しいな。で史実のタイムラインと比較したい

[bioshok @bioshok3]

まじ？？？これ本当なら相当凄いぞ？？
「GPT-5のトレーニングは20億から25億ドルのコストをかけて90日間ほど50万台のH100のGPUを使い来年から行われる」
つまり3000億円だぞ！？このレベルのトレーニングは3年後と予想してたが？？
SemiAnalysisから概算→2×10^27FLOPs？！！
https://t.co/yztlERdVtB

[ikuto @ikuto32]

𝕏ロゴを閉じるボタンと間違えて押す現象に名前を付けてくれ

[cvpaper.challenge | AI/CV研究コミュニティ @CVpaperChalleng]

「CVPR 2023 速報」のスライドが公開されました！300ページ超だった速報資料も研究メンバーの熱量で40ページ程度に圧縮しております！ #MIRU2023
https://t.co/H3YKW5A5vb

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

LLMの生成テキストに電子透かしを入れる手法。直前のトークンから計算したハッシュ値と、乱数生成種を元に、次のトークンを生成する際に、トークン候補をグリーン集合（G）とレッド集合（R）に分け、Gに属するトークンの生成確率のlogitを定数分増やす。このようにして生成された文はGに属するトークンの数の割合が、一般文よりずっと多く、生成されたのかどうかを調べられる。
直前トークンのみ依存する���で生成文を途中で切り取ったとしても検出できる。また、logitに定数を加える方式なので、エントロピーが低いトークンは変更されず、高いトークンが変更されるため生成文の品質劣化を抑えられる。そしてこの定数は状況（利用状況やユーザー）に応じて変えることができ、電子透かしの強度を動的に変えられる。
また、手法を開示したとしても、生成時の乱数種さえ隠していれば攻撃者は電子透かしを外すことは困難。
このアプローチ自体はLLM以外でも生成モデル一般に使える
ICML2023のベストペーパーの一つ
なお、商用サービスではこのような電子透かしがいくつか既に入っていると思われる。
https://t.co/sjQ091A4SX

[スドー🍞 @stdaux]

ディスコード（不和）の対義語がコンコルド（調和）なのだが、前者が成功しているのに対して後者がぽしゃったということに皮肉を感じる

[ラムダ🥒ラムダ技術部 @yoidea]

恐るべき底絞り・上げ底のパワー

[ikuto @ikuto32]

機械学習による株価の推移の予測はよくあるけど売買タイミングの提案はあるのだろうか

[ikuto @ikuto32]

diffusion modelにもdata augmentationは使えるかな?

[ikuto @ikuto32]

一対一
#Splatoon3 #SplatNet3 #ガチ��グラ #スクリュースロッシャー #スプラトゥーンクリップス
https://t.co/G04IVJWDX9

[ikuto @ikuto32]

#BeyondFast Minecraft and Deep Learning

[NVIDIA GeForce @NVIDIAGeForce]

Our First #BeyondFast Card Spotlight: GeForce RTX 4090 Founders Edition

⚫ 3rd Gen RTX & RT Cores
⚫ 4th Gen Tensor Cores (2x AI Perf)
⚫ Superfast G6X memory

Want your chance to win this card?

RT + Reply with the first game you would crank to max settings (use #BeyondFast!)