RoT — Return on Token

計算資源の消費を、データ側から減らせるのではないか。その見立てを試論としてまとめ、検証可能な形にするためのリポジトリです。

内容

パス	内容
paper/return-on-token.md	試論本体（ディスカッション・ペーパー）
paper/return-on-token.en.md	英語版（下訳）。日本語版と食い違う場合は日本語版が正
benchmark/	仮説を検証するための極小プロトタイプ

試論の骨子

推論モデルが消費するトークンの少なからぬ部分は、課題そのものの解決ではなく、データ側に書かれていない前提（列名の意味、数値の単位、形式の不整合）を推測で埋めるために使われているのではないか——という見立てから出発しています。

そこで、消費量そのものではなく「投じたトークンに対してどれだけの成果が得られたか」を見る指標として Return on Token（ROT） を置き、データの自己記述性を高めることがこの指標を改善するかを問います。分母には探索で捨てられた再帰性トークンも算入します。探索の大きさそのものが、データ側に欠けていた文脈の重さだと考えるためです。

この見方を取ると、オープンデータは「公開されたデータセットの数」ではなく、社会全体の推論プロセスでどれだけの無駄な消費を減らしたかで評価されることになります。

現状

仮説の段階です。 定量的な実測はまだありません。benchmark/ は測定の枠組みであって、結果ではありません。

検証すべき仮説として、試論は次の三つを挙げています。

• 自己記述性によるCoT削減効果
• 軽量モデルにおけるROT改善の交互作用効果（能力の低いモデルほど効きが大きいか）
• 運用ログからのメタデータ逆算手法

このリポジトリについて

これは個人として進めている試論であり、いかなる組織の見解を示すものでもありません。運営も個人の時間で行っているため、Issue や Pull Request への対応は不定期になります。その点をご了承のうえでお寄せいただければ幸いです。

フィードバックのお願い

概念の精緻化、計測手法への批判、タスクセットの拡充、実データの提供、共同での実証——いずれも歓迎します。Issue または Pull Request でお寄せください。

ライセンス

文書は CC BY 4.0、コードとデータは Apache License 2.0 の下で提供します。詳細は LICENSE-NOTICE.md を参照してください。

Copyright 2026 Masayuki Yamada