本文へ移動
AI開発 AI生成 文責 blackstrawberry

Kimi K3 が Bedrock で GA、open weight 初の明示的 prompt caching 対応

Bedrock の open weight モデルで初めて explicit prompt caching に対応した Kimi K3 が GA。長いコンテキストを再利用する構成と、cross-Region 経由の提供に関係する。

Amazon Bedrock で Moonshot AI の Kimi K3 が一般提供になった。告知は2026年9月18日付。実務に近いのは一点で、Bedrock 上の open weight モデルとして初めて explicit prompt caching に対応すると AWS が書いていることだ。同じ前置きを何度も送り直す構成でモデルを選んでいるなら、先に見るのはここでいい。

発表文の中で主語が入れ替わる

AWS が自社の記述として書いているのは四つ。Bedrock 上でプロプライエタリなモデルと同じセキュリティ境界で動くこと、アクセス・暗号化・監査の統制がモデルポートフォリオ全体で同じであること、Bedrock が利用できる全 AWS リージョンから cross-Region inferencing を通じて使えること、そして open weight モデルで初の explicit prompt caching 対応であること。

一方、2.8兆パラメータ、100万トークンのコンテキスト、ネイティブ vision、Kimi K2 比で約2.5倍のスケーリング効率は、「According to Moonshot AI」「Moonshot AI reports」という形でモデル提供元の発表として引かれている。AWS が測り直した結果だとは書かれていない。選定する側から見ると、この二つは確からしさの種類が違う。

記述内容発表文での出どころ
パラメータ規模2.8兆。オープンなモデルとして初到達Moonshot AI の発表として記載
コンテキスト長100万トークン同じ段落の Moonshot AI の説明
visionネイティブ対応同じ段落の Moonshot AI の説明
スケーリング効率Kimi K2 比で約2.5倍Moonshot AI の報告として記載
explicit prompt cachingBedrock の open weight モデルで初対応AWS の記述
セキュリティ境界プロプライエタリなモデルと同じ。アクセス・暗号化・監査の統制も同じAWS の記述
提供リージョンBedrock が使える全リージョン、cross-Region inferencing 経由AWS の記述

出典:AWS「Kimi K3 by Moonshot AI is now generally available on Amazon Bedrock」(2026年9月18日付)

セキュリティ境界が同じという書き方が指しているのは、アクセス・暗号化・監査という三つの統制までだ。他のモデルに掛けている設定がそのまま Kimi K3 にも効くかどうか、運用側で何も変えずに済むかどうかは、この文面からは決められない。

キャッシュが効くのは再利用がある構成だけ

explicit prompt caching について発表文が書く効果は、「モデル呼び出しをまたいでコンテキストを再利用するとき、レイテンシと入力コストを下げるのに役立つ」までである。裏返すと、毎回違うプロンプトを一度ずつ投げる使い方は条件の外に出る。システムプロンプトや参照文書を固定して会話を続ける構成、同じリポジトリの文脈を何度も渡すエージェント構成が、条件に当てはまる側だ。

キャッシュの保持時間、最小トークン数、ヒット時の課金の扱いは発表文にない。Kimi K3 自体の料金も書かれていない。入力が大きいほど再利用の効果は大きいと考えるのは自然だが、それは推測であって、100万トークンのコンテキストとキャッシュを組み合わせたときにどれだけ下がるかを示す数字は出ていない。

全リージョンから呼べる、ただし cross-Region inferencing 経由

発表文が書く提供形態は、Amazon Bedrock が利用できる全 AWS リージョンから cross-Region inferencing を通じて使える、というものだ。どのリージョンで推論が実行されるのか、呼び出しに使うモデル ID や推論プロファイルの名前は書かれていない。データの所在に要件がある環境では、この部分が確認待ちのまま残る。使い始める入口として案内されているのは Amazon Bedrock コンソールである。

想定用途は並んでいるが、比較はない

適合先として挙がっているのは三つ。大規模なリポジトリをまたぐ長時間のコーディング、スキャンしたページやスクリーンショットを含む複数文書の解析、長く続くエージェントのワークフロー。100万トークンのコンテキストとネイティブ vision を組み合わせた結果として、この三つに向くという説明であって、ベンチマークの結果ではない。

Kimi K2 との比較として出ている数字は、スケーリング効率が約2.5倍という一点だけだ。その「スケーリング効率」が何を入力に何を出力として測った値なのかは定義がなく、学習側の話なのか推論側の話なのかも読み取れない。コーディングの精度、vision の精度、他の open weight モデルとの比較は発表文の範囲外で、Kimi K2 が引き続き使えるかどうかも書かれていない。

今日の判断材料

  • 長いコンテキストを繰り返し送るワークロードなら、explicit prompt caching 対応は新しい選択肢になる。効果の大きさは自分の構成で測るしかない。
  • 費用の比較は今の材料ではできない。料金もキャッシュ時の課金も発表文にない。
  • データ所在の要件があるなら、cross-Region inferencing の実行先を確かめるまで本番の経路には入れない。

Bedrock の推論先をどれにするかという意味では、GPT-6 Astra の GA と同じ列に並ぶ話だ。違うのは、今回が open weight モデルで、性能面の数字の出どころがモデル提供元の発表に寄っている点になる。

出典 種別について