Tsultra

機械学習 (主に画像系) の研究開発などをしているエンジニア 最近はシステム開発、モデルチューニングが半々 色んな深層学習モデルの実験するのが趣味 博士 (情報科学) データ構造とアルゴリズムを研究してました

[Tsultra @Tsultra_K]

用を足せないトイレ

[Tsultra @Tsultra_K]

ストロー アズ ア マドラー

[Tsultra @Tsultra_K]

これ気になる技術。
実装が公開されたら要チェック。

[Odashi @odashi_t]

大澤氏の論文はこれか（現在はabstractのみ）
https://t.co/zVz4eGbREH
小規模分類器の学習にLLM上の空間を使用するという話で、それ自体はとても良さそうである。しかし作るのは分類器なので手法自体は生成AIと呼ぶ類のものではないし、もちろんLLMの代替にはならない。

[Tsultra @Tsultra_K]

ファイルシステム ZFS を使ってみたけど、遅すぎて1日で辞めた。
利用ケースが合ってなかった。

[Tsultra @Tsultra_K]

Mambaをいれると論文になって、Mambaを取り除いても論文になって、たくさん論文が書けるの面白い。

[yu4u @yu4u]

ちょうど回答的な資料が流れてきた…
Manbaいれると新規性（）がクリアされて、良い実験結果がチェリーピックできると論文になるから、みたいな流行りではという印象

Manbaは系列データ以外にはスキャン順をどうするかを考えないといけなくて筋が良くない感がある

https://t.co/bnF1FEYUD0

[Tsultra @Tsultra_K]

@Shiho_tksam 是非！なんでもかこつけましょう！

[Tsultra @Tsultra_K]

日本在住の英語話者コミュニティー独特の症状「マイジャパン症候群」をご存じですか？（グレゴリー ケズナジャット） | 群像 | 講談社

この作者、自分を俯瞰してて尊敬するレベル。
マインドも素敵で、こんな日本人が増えて欲しい。 https://t.co/Pkg0AzDeAl

[Tsultra @Tsultra_K]

@Shiho_tksam 回文になるようにひらがなトークンや「かい」「いか」のようなペアトークンで生成する等の調整が必要になる感じです🤔

[Tsultra @Tsultra_K]

LLMを使ったら、長くて自然な凄い回文が作れるのでは？

[Tsultra @Tsultra_K]

@Shiho_tksam 自分が考えたのは、
マスクしたトークンを復元するタスクを学習させたLLM (Masked Autoencoder ) があれば、
最初に全部マスクした状態から先頭と終端を同じトークンで生成していけば、最終的にトークンとして回文に必ずなるというアイディアです🤔

[Tsultra @Tsultra_K]

自分の頬に生える産毛を可愛らしく顔毛と呼んでたんだけど、それは髭と呼ぶと指摘されて🥺

[Tsultra @Tsultra_K]

#AHC050 Pythonで挑戦したけど、存在確率の制限時間内で計算できず、
今年はRust のアルゴ力を向上したい。

[Tsultra @Tsultra_K]

無限に時間が足りない。

[Tsultra @Tsultra_K]

落選。

[Tsultra @Tsultra_K]

ワイAIに負ける😇

[Sakana AI @SakanaAILabs]

Introducing ALE-Bench, ALE-Agent!
Towards Automating Long-Horizon Algorithm Engineering for Hard Optimization Problems

Blog: https://t.co/jjfLyIYQcY
Paper: https://t.co/PdHvigUCa3

ALE-Bench is a coding benchmark primarily focused on hard optimization (NP-hard) problems. We developed this benchmark with AtCoder Inc., a leading coding contest platform company.

What makes ALE-Bench unique is its focus on hard optimization problems that demand long-horizon and creative reasoning. It’s open-ended, in the sense that true optima are out of reach (NP-hard) and scores can continuously improve. We believe this benchmark has the potential to become one of the key benchmarks for reasoning and coding in the next generation.

ALE-Agent is our end-to-end agent that we specifically designed for this challenging domain. In fact, our ALE-Agent has already built an impressive track record in the wild! In May 2025, our agent participated in a live AtCoder Heuristic Competition (AHC), alongside 1,000 other participants in real-time. AHC is considered to be one of the most challenging coding competitions in this domain.

Our ALE-Agent achieved an impressive ranking of 21st out of 1,000 human participants in the competition (top 2%), marking a turning point for AI discovery of solutions to hard optimization problems with a wide spectrum of important real world applications such as logistics, routing, packing, factory production planning, power-grid balancing.

We look forward to applying this technology to real industrial optimization opportunities. Building on the insights from this study, Sakana AI will continue to tackle the challenge of developing AI with even greater algorithm engineering capabilities.

ALE-Bench Dataset: https://t.co/tH7DuYk129
ALE-Bench Code: https://t.co/fbJhvKXlxQ

This research was conducted in collaboration with AtCoder Inc. (@atcoder). We are deeply grateful for their outstanding expertise and contributions in optimization and algorithms, which were invaluable in providing data, analyzing results, and enabling our AI agent’s participation in their contests.

[Tsultra @Tsultra_K]

今のLLMって表形式のテキスト (Markdown等) ってどれくらいのサイズまで解釈してくれるんだろう？
列番号を数えるのが難しそうだけど。

[Tsultra @Tsultra_K]

良き。 https://t.co/qcJB7wziv3

[Tsultra @Tsultra_K]

ホンダの赤裸々記事読んだけど、消さなくても良かったと思った。
環境は概ね予想通りだなって感想で、悪い部分はこれから改善されるのではという期待が持てた。
課題が洗い出されたのは、これから就職する人には良い情報だったと思う。
だが、もしも隠して採用したいなら削除するべき

[Tsultra @Tsultra_K]

@__leopardus__ 確かにメカニックとして魅力的だけど、実用的に大量に印刷が必要なケースは滅多にない