yos

Software Architect, Snowflower Apps(Text Editor, Archiver etc...) Author, Snow Flower LnF UI Designer, Java / JavaFX Developer

[yos @yosbits]

Snow Flower Text 3.1.0 has been released. This release includes the following:
* Improved Input Method (IME) stability
* PlantUML v1.2024.7 update
* JavaScript editor improvements
* Tango icon set 20% lighter
* Many other stability improvements
https://t.co/qKuoAyS9mN

[yos @yosbits]

PHPに緊急度の高い脆弱性が見つかっていますが、yosbitsのサイトはPHPを使っていないので、影響は一切受けません。AIによるセキュリティリスクを回避するために、全て静的コンテンツに移行しています。

[yos @yosbits]

訂正） Qwen 3.8->Bonsai 2 27B(Qwen 3.8 27B)
メモリ搭載容量が増えれば、Qwen 3.8のより大きな量子化モデルを選べるため、実際のトークン生成速度も変わってくる。そのため、Bonsai 2 27Bの量子化モデルに限定し、メモリ帯域だけで換算した参考値。

[yos @yosbits]

Qwen3.8を実際に動かすと、thinkモードではデコード時間が支配的。M4（120GB/s）で40分かかる処理をメモリ帯域だけで単純換算すると、
・M6 16GB（153GB/s）：約31分
・M6 32GB（170GB/s）：約28分
・Mac Studio M5 Max（460GB/s）：約10分
・M5 Max（614GB/s）：約8分
・M5 Ultra（1.2TB/s）：約4分

[yos @yosbits]

Qwen3.8を実際に動かすと、thinkモードではデコード時間が支配的。M4（120GB/s）で40分かかる処理をメモリ帯域だけで単純換算すると、
・M6 16GB（153GB/s）：約31分
・M6 32GB（170GB/s）：約28分
・Mac Studio M5 Max（460GB/s）：約10分
・M5 Max（614GB/s）：約8分
・M5 Ultra（1.2TB/s）：約4分

[yos @yosbits]

Qwen3.8はthinkモードでの生成トークン数が多くデコード時間が処理時間の大部分。M4（120GB/s）で40分かかる処理は、M6では32GBモデル（170GB/s）なら約28分、16GBモデル（153GB/s）なら約31分となる。Bonsai 2 27BはRAM 16GBで十分に動作するため、32GBモデルを選ぶかどうかは3分をどう考えるか次第。

[yos @yosbits]

Qwen 3.8 27Bで90分程度かかっていた処理時間が、Bonsai 2 27Bの方だと約40分になった。テンプレートでシステムプロンプトが同一になるように調整して動かしているので、思考の深さはほとんど同じ。続く...

[yos @yosbits]

Qwen 3.8 27Bで90分程度かかっていた処理時間が、Bonsai 2 27Bの方だと約40分になった。テンプレートでシステムプロンプトが同一になるように調整して動かしているので、思考の深さはほとんど同じ。続く...

[yos @yosbits]

Qwen 3.8 27B は 3.6 27Bと比較にならないくらい reasoning が長い。3.6で数分で終わっていたコードレビューは1.5時間くらいかかる。しかし、かなり高品質である。これは時間と質のトレードオフである。Qwen3.6 27Bを単純に置き換えるものではなく高品質という選択肢が増えたという理解が正しい。

[yos @yosbits]

https://t.co/jgHT0wxuI2 のYOS BOOKS、YOS OpenSonarのサービスは終了して、サイトをリニューアルしました。

[yos @yosbits]

この投稿してから僅か三日後にこのリニューアルが行わた。Qwen 3.8 27Bのような外部サービスに依存せずトップレベルの知能が得られるモデルが発表され性能不足を感じる丁度よいタイミング。

[yos @yosbits]

Apple M5は Metal 4 で ハードウェア実装のTensor API 対応によってM4比較で最大4倍くらい高速化するらしいので、M5以降のプロセッサのMac Miniや Mac Studio がリニューアル販売されたら爆発的に売れるように思う。

[yos @yosbits]

Apple M5は Metal 4 で ハードウェア実装のTensor API 対応によってM4比較で最大4倍くらい高速化するらしいので、M5以降のプロセッサのMac Miniや Mac Studio がリニューアル販売されたら爆発的に売れるように思う。

[yos @yosbits]

Snapdragon Reality Elite搭載のスマートグラスが販売されて一般化されるかどうかだが、グラス向けのUIをAppleがお手本を示していない段階では難しいように思う。ただ、VRヘッドセットのペルソナディスプレイは無くて良いような代物だと思うが。

[yos @yosbits]

メモリー供給不足による価格の高止まりは2027年後半まで続く。メモリー価格高騰はコンピュータ製品の多様性の強い淘汰圧になる。実際に消えているのは高コスパ製品。低価格、大量販売は消えていく。具体的には 低価格スマホ、高コスパPC、スマート家電、IoT、Raspberry PIの大容量メモリモデルなど。

[yos @yosbits]

Qwen 3.8 27B, 3.6 27B、3.6 35B A3Bと、その派生モデルが優秀で、Gemma 4 系は使う機会が減っている。トレーニングデータの違いがあるため、Gemma 系はセカンドピニオンという位置付けで機会がなくなることはない。

[yos @yosbits]

Qwen 3.8 27B は 3.6 27Bと比較にならないくらい reasoning が長い。3.6で数分で終わっていたコードレビューは1.5時間くらいかかる。しかし、かなり高品質である。これは時間と質のトレードオフである。Qwen3.6 27Bを単純に置き換えるものではなく高品質という選択肢が増えたという理解が正しい。

[yos @yosbits]

私が開発しているアプリのコードは、オープンウェイトモデルのLLMを使用してコードレビューを徹底する開発サイクルとなっていて、成熟したアプリの実装であっても、短期間でコード品質を上げるのに非常に役立っている。特にQwen 3.6 27B を使うことが多く明日公開予定のQwen 3.8 27Bには期待している。

[yos @yosbits]

Snow Flower Text v4.1.0 has significantly improved processing times by optimizing the execution method of its built-in GraphViz engine, resulting in speeds approximately 3 to 10 times faster. This has also led to improved processing times for PlantUML.
https://t.co/vllu0WxmVS

[yos @yosbits]

Snow Flower Text v4.1.0 では内蔵している GraphViz エンジンの実行方式を最適化したことで大幅に処理時間を改善しました。約3倍から10倍くらい高速になりました。これによってPlantUMLの処理時間も改善されています。
https://t.co/4HjGPLqNwY

[yos @yosbits]

ローカルLLMで大きな問題となるのはコンテキスト入力サイズである。段階的に、メソッド、クラスおよびインタフェース、パッケージ、モジュールの段階があるが、この加工ツールは3:パッケージレベルの入力最適化を行う。入力から溢れる場合のために予測可能性を最適化してスケールさせる。

[yos @yosbits]

Snowflower AIは 私が開発しているJavaFXのテキストエディタエンジンであるSnowflower CodeAreaの開発支援に実際に使っている。これとは別にコードを分析に適した入力に加工するツールも開発している。ローカルLLMでシステム開発支援で最大限活用するには、どうコードを入力するかが重要である。

[yos @yosbits]

Snowflower AIは 私が開発しているJavaFXのテキストエディタエンジンであるSnowflower CodeAreaの開発支援に実際に使っている。これとは別にコードを分析に適した入力に加工するツールも開発している。ローカルLLMでシステム開発支援で最大限活用するには、どうコードを入力するかが重要である。

[yos @yosbits]

Qwen 3.6 35B-A3B にApple Silicon の Unified Memoryの 自作ゲーミングPCに対する利点の記事を書かせた。このスクリーンショットは私が #JavaFX で開発中の生成AIフロントエンドアプリで生成AIに多くのメモリを割り当てるために、WebViewを使用せずに実装している。

[yos @yosbits]

AIによってはシステム開発が楽になるが、多くの要素技術を作っている開発者視点だと、研究コストは劇的に下がったが、同じレベルのライバルや先行技術が増えたように全く見えない。
スクラップビルドを繰り返すのが敷居が下がり、レモン市場化して市場が小さくなり熟練者が去って減ったのでは？

[yos @yosbits]

Qwen 3.6 35B-A3B にApple Silicon の Unified Memoryの 自作ゲーミングPCに対する利点の記事を書かせた。このスクリーンショットは私が #JavaFX で開発中の生成AIフロントエンドアプリで生成AIに多くのメモリを割り当てるために、WebViewを使用せずに実装している。

[yos @yosbits]

Gemma 4 26B A4B と Qwen 3.6 35B A3B は 16GB 統合メモリの M4 Mac Mini 16GB で動作する。巨大な筐体で、大消費電力で高価な部品のゲーミングPCは不要で、Mac だと数十ワットの消費電力で動作する。だから部屋の冷房の設定温度を下げなくて良い。複数の意味でクールだ。