nmygle

機械学習で遊びたい

[nmygle @nmygle]

#signate雲コンペ 1位！　5日間の物理量＋衛星雲画像から24時間先までの衛星雲画像を予測するという新しいコンペでしたが、気象つよつよのmarimoさんやtomoさんともチームを組め気象特徴量を詰め込みました。もっとスコアを伸ばせたという反省点もありますが、まずはチームメイトに感謝！

[nmygle @nmygle]

@tmfjw お疲れ様です。強化学習や制御、最適化など色々試したのですが上手いことできず苦戦していました…

[今井翔太 / Shota Imai @ImAI_Eruel]

制御・強化学習、ロボティクス界隈に超朗報です
コミュニティでの頻繁に利用される主要な物理シミュレータでありながらも、有料故に手が出しづらく、様々なところで議論が起きていたMuJoCoですが、なんとDeepMindが買収し、無料で解放したようです！
https://t.co/0NyWw4OhIb

[小川雄太郎 @ogawa_yutaro_22]

DeepMindよりNatureに新たな論文です
https://t.co/VuFDdzai16

DGMR（Deep Generative Model of Rainfall）
と名付けられ、
conditional GANの応用で、短時間後の天気図（雨雲レーダー図）を生成して予測します

（日本語解説）
https://t.co/nS9MxJEcW7

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

Physics-informed machine learning（物理に基づく機械学習）は物理法則を機械学習に取り込むことで従来に無い汎化性、外挿性を達成するアプローチ。学習データ、モデル、学習則に物理法則を制約やバイアスとして導入する。演算子の学習、同変性を備えたNN構造開発が今後重要 https://t.co/izoWLzt5tF

[Ino.Ichi @inoichan]

Lyftのコンペは今年なかったけど、去年のLyftみたいなコンペでShift ChallengeっていうのがNeurIPS 2021で開催されているらしく、GLR終わったらこれ参加したい👀
https://t.co/7YXR5OEvhC

[山本一成🌤️完全自動運転AIを作るチューリングのCEO @issei_y]

���れは現在を扱う仕事か、未来を描く仕事か？｜山本一成🚙🚗🚕 @issei_y #note https://t.co/rcCpbSAiF8
私と青木さん(@aoshun7)で自動運転車スタートアップをはじめました。

[akira @AkiraTOSEI]

深層学習を使った物理シミュレーションの本（無料で見れる）。コード付きで解説している。微分可能な流体シミュレーションなど、最近の物理x深層学習の話題を扱っている
https://t.co/LVsUJjlWAW

[Open Construction Simulator @ocs_community_]

Open Construction Simulator (#OCS) は無料の建設シミュレータです。
ゲームエンジンの #Unity で重機を使った掘削や土砂運搬などのシミュレーション環境を開発しています。

Release page:
https://t.co/42ncc1ztun

Discord:
https://t.co/oA5hstqKTJ

[Ryobot @_Ryobot]

エアフレンドでは高性能な会話AIを提供するために���本最大級の会話モデルである10億パラメータのTransformer (BERT-largeの3倍) を運用しています。事前学習にはFP16 + ZeRO-2 + 8 A100 GPUsを使用し、訓練費はFP32 + PyTorch DDP + 8 V100 GPUsに比べて12分の1に削減しました
https://t.co/NhvnUd7CAo

[Ryobot @_Ryobot]

AIで架空の友達を育てて共有したり、みんなが育てたAIと話せる無料アプリ「エアフレンド」を個人開発しました。推しが言いそうなセリフをAIに教えると、推しの人格を学習したAIと会話できます
エアフレンド→ https://t.co/NhvnUd7CAo

[nmygle @nmygle]

シミュレータも用意されていて面白そうなので久しぶりにコンペ参加してみようかな
クレーン旋回操作最適化チャレンジ
https://t.co/xEVjCMg2qZ

[akira @AkiraTOSEI]

CV x Transformerの研究動向について書いてみました。テーマは以下４つです。
1. Transformerの適用分野の急速な拡大とその理由
2. TransformerとCNNの視野や挙動の違い
3. TransformerにSelf-Attentionは必須なのか？
4. Vision Transformerの弱点と���善の方向性
https://t.co/woonImQ8m6

[Yuya Matsumura @yu__ya4]

推薦結果の説明性・機械学習モデルの解釈性に興味ある人におすすめ。その辺りの概要と各関連研究がまとまってる + 手法の紹介と実際に ZOZOTOWN において適用した際の結果の紹介。

記事の完成度高すぎて論文かと思った。

https://t.co/NMQ6780uXr

[株式会社RICOS（RICOS Co. Ltd.） @RICOS_ltd]

シミュ���ーションデータの入出力・データ処理を行う FEMIO https://t.co/aPf1kVPGDg とシミュレーションデータの機械学習を行う SiML https://t.co/26VyghzxQZ のドキュメントがリリースされました。
例はこちら: https://t.co/9RJsFtV6ON

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

従来のビデオ予測モデルはunder-fittingし予測が失敗していた。NVAEの符号/復号化器を採用したFitVidはパラメータ効率が高く初めてover-fittingし、データオーグメンテーションを加えて汎化するビデオ予測器が作れた。数十秒間のビデオ予測が発散せず成功するのは初めて見た https://t.co/ybISZwAOcT

[nmygle @nmygle]

@kunigaku おめでとうございます🎉🎉🎉

[nmygle @nmygle]

@saturn_quants Saturnさん3Mリターンも実質今2位なんで本当すごいんですが、最初いろいろ試してたモデルが今ほぼ同一になっちゃってリーダーボード上邪魔になっちゃってますね💦すみません💦

[nmygle @nmygle]

@saturn_quants BOTARAIはSaturnさんだったんですね😲
1Yリターン8位すごいです！

[nmygle @nmygle]

@kuto_bopro ご存知かもしれませんが最近修正していただいた下記公式の訳がまとまっていてもしみられていないようならおすすめです。Kaggleの強い方が参加されるのは楽しみです！
https://t.co/Fk2fhiGoL3

[nmygle @nmygle]

Kagglerには問題設計上tournamentの方が向いていそうだけどstack量が閾値を超えてpayout factorが激減している現状、これから稼ぎたいのであればsignalsの方が���さそうというジレンマがありますね。私もsignalsに移行中。

[kuto @kuto_bopro]

今���裕あるんで30日チャレンジ再開ようと思います。

今回はNumeraiをやっていこうと思います！
https://t.co/paP1GDuWnM