Arkor

Ship models as you ship the products🛳️
The TypeScript Framework for fine-tuning.

[Hina @soleil_colza_]

TypeScript でファインチューニングを行うフレームワーク「Arkor」のリポジトリを公開しました！💻

GUI や YAML ではなく、TypeScript でトレーニングやデプロイのワークフローを書くことができます。

コードで書ける最大の利点は、目的に応じて自分で処理を書き、目的を柔軟に実現できることです。

作り始めのため、機能はかなり限定的で、フレームワークを名乗るには拡張性やツール群が欠けています。

正直公開するか迷いましたが、皆さんの意見をいただきながら開発を進めたいので、このタイミングで公開しました！
必要なピースを爆速で追加していきます🙂

日次・週次でリリースを行ってまいりますので、Star して見守っていただけると嬉しいです！

私たちはパフォーマンス改善が大好きです。

AI を組み込んだアプリを開発する中で、アプリレイヤーでできる改善には限界があり、コストやレイテンシの観点から、だんだんモデルレイヤーがボトルネックになっていきました。

そこからファインチューニングにのめり込み、アプリ開発のスタック、たとえば Node.js や TypeScript と、ML / Python のエコシステムの慣習がかなり違うことに気づきました。

「普段アプリを作る感覚で、モデルを作れないか？」

そう考えたのが Arkor の始まりです。

既存の Fine-tuning framework や tool の多くは、GPU を持っている前提で作られています。

私は GPU を持っていません。

GPU コストを見積もることも、GPU 自体を管理することも、知識がなかった頃は怖く、大変な作業でした。

ファインチューニングを始めてみるまでの最初のラーニングコストが、非常に大きく感じられたのです。

だから、GPU の心配をせずに、アプリ開発者のみなさんが直感的にモデルを作って使える仕組みを構想しました。

できることはかなり限られていますが、ぜひ GW に少し覗きに来ていただけると嬉しいです。

厳しい FB やご要望をいただけると、泣いて喜びます…！！

@arkorlab #buildInPublic