Hironsan

OSS developer | Interested in ML and NLP | Author of and | Translator of

[Hironsan @Hironsan13]

RAGの性能を改善するための検索テクニックを紹介している記事。前処理、メタデータによるフィルタリング、チャンキング戦略など。
https://t.co/SheoiFLwBl

[Hironsan @Hironsan13]

Cohereが新しくリリースした埋め込み用のモデル、MTEBでの性能が高かったので日本語でも試してみたが、良い性能ですな。文書用、クエリ用、分類用、クラスタリング用の設定をできる。
https://t.co/yJxoq4BIUF

[Hironsan @Hironsan13]

何日か前に、多言語E5の大きなモデルが公開されていたので、日本語で試してみた。
https://t.co/kUBsJiRPiB

[Hironsan @Hironsan13]

ChatGPTの日本語タスクに対する性能を日本語言語理解のベンチマークである「JGLUE」を使って評価。レビュー分類や一般常識QAの性能が高い。特化したドメインや、より難しい分類問題での性能が気になるところ。
https://t.co/WQWW5Jhflg

[Hironsan @Hironsan13]

OpenAIの埋め込みをチューニングして、医療データの意味的類似度タスクで評価している話。JSTSに対して、OpenAI Cookbookにあるコードでチューニングしたときは、あまり変化はなかった（設定が悪かった可能性はある）
https://t.co/yyBfergM5q

[Hironsan @Hironsan13]

商用の生成型検索エンジンの検証可能性（Verifiability）を評価した論文。生成した内容が引用によって裏付けられているか（再現率）、生成した引用が内容を裏付けているか（適合率）などで評価。また、どういったクエリの場合に再現率や適合率が高く/低くなるのか分析。
https://t.co/vbTWP6vcSR

[Hironsan @Hironsan13]

『機械学習エンジニアのためのTransformers』が届きました🤗 来週発売です。

[Hironsan @Hironsan13]

@rizk_rodrigue @tkasasagi The original book is in English.
https://t.co/xi1sv2BwQS

[Hironsan @Hironsan13]

『機械学習エンジニアのためのTransformers』の目次が出ました。自然言語処理のタスクだけでなく、蒸留、量子化、枝刈りといったモデルの高速化技術、ゼロショット学習や少数事例学習、多言語転移やドメイン適応についても解説しています。
https://t.co/6O3xi3pFoq

[Hironsan @Hironsan13]

『NLP with Transformers』の訳書である『機械学習エンジニアのためのTransformers』が出ることになりました。まだ目次は出ていないようですが、Hugging Faceの開発者たちがTransformersを使った学習やスケールについて解説してくれています。
https://t.co/RwLNMdUIAj

[Hironsan @Hironsan13]

名著の最新作「ゼロから作るDeep Learning 4強化学習編」をいただきました。読むのが楽しみです。4/6発売予定のようです。

[Hironsan @Hironsan13]

『実践 自然言語処理』のプレゼント企画が2/13まであるそうですよ。

[O'Reilly Japan @oreilly_japan]

【2月4日発売】最新刊プレゼントキャンペーン
➡下記書籍を抽選で3名様に＼プレゼント／
✅応募方法
❶当アカウントをフォロー❷このツイートをRT
応募締切2/13まで／当選連絡はDM

『実践 自然言語処理』
https://t.co/duLUDsDDt0
#自然言語処理 #NLP #BERT #AI

[Hironsan @Hironsan13]

翻訳しました。最先端の研究をしている人向けの本ではありませんが、企業で自然言語処理を活用したシステムを作ろうとしている人に適した本だと思います。

[O'Reilly Japan @oreilly_japan]

実践 自然言語処理 https://t.co/QCOsX0e9PC

[Hironsan @Hironsan13]

SageMakerのml.P3インスタンスが10/1から安くなったようだ。SageMaker使っているからありがたい。
https://t.co/0b6vr4G57a

[Hironsan @Hironsan13]

@satori_blogger Pythonです。

[Hironsan @Hironsan13]

オライリーさんから、10月5日発売予定の「生成 Deep Learning」を献本いただきました。画像や自然言語、音楽の生成を学べる楽しそうな本です。
https://t.co/CgU5z02rYM

[Hironsan @Hironsan13]

benchmark関数でデータセットの処理時間を計測してみました。定量的な改善に役立ちそうです。
https://t.co/uC3jomdccG

[Hironsan @Hironsan13]

Wikipediaをきれいにしたデータセット「Wiki-40B」をTensorFlow Datasetsから使ってみました。すぐに使えるので、自分で前処理する必要がなければ、使用を検討してみてもいいかもしれません。
https://t.co/Ca646ULTPA

[Hironsan @Hironsan13]

Web APIへのアクセスが発生するアプリケーションを単体テストする3つの方法（モック、アダプタ、VCR）を紹介している記事。コード付きで、各手法のPros/Consを解説していので、わかりやすい。
https://t.co/6bhsmSvEna

[Hironsan @Hironsan13]

TensorFlowで推薦システムを構築するためのパッケージ「TensorFlow Recommenders」の紹介記事。Kerasでコードをシンプルに書ける。初リリースが一週間前なので、これからに期待。
https://t.co/CizEfLHWGK