Windows で Ternary Bonsai を動かしてみた
1.58 ビット 3 値量子化 LLM「Ternary Bonsai」を Windows で動かすため、q2 packed ONNX を q4 に変換して CPU で推論してみました。(一応動きましたが遅いです…)
変換スクリプトや詳細な実行手順は以下のリポジトリで公開しています。
https://github.com/7shi/ternary-bonsai-test
!
本記事は Claude Opus 4.6 の生成結果をベースに編集しました。
Ternary Bonsai とは
2026 年 4 月、PrismML が Ternary Bonsai という言語モデルファミ...