AWS、SageMaker AIに学習ループを自分のPythonで書ける「training session APIs（トレーニングセッションAPI）」GPUの運用はAWS任せ、課金はトークン単位

AWSは2026年10月22日（ブログ記載は10時、日本時間では23日午前3時ごろ）、Amazon SageMaker AI（セージメーカー）のサーバーレスなモデルカスタマイズに「training session APIs」を加えたと発表しました。forward_backward()・optim_step()・sample() といった学習の操作が SageMaker のAPI呼び出しになり、学習ループは自分のPythonで書き、GPUの確保・分散実行・障害からの復旧はSageMaker AIが引き受ける、とAWSは説明しています。あわせて、そのまま動かせるSFTとRLのレシピ集「SageMaker training sessions cookbook」もGitHubで公開されました。

3行まとめ

1. AWSがSageMaker AIに training session APIs を追加。学習ループを自分のPythonで書き、GPU運用はAWSが担当する（2026年10月22日発表）。
2. 課金は処理したトークン数。対応モデルは gpt-oss-20b など4つで、リージョンは米国東部・米国西部・ムンバイ。東京は今回確認したページに記載なし。
3. AWS自身の試行では、GSM8K（算数）の正解率が10ステップで56%から75%、競技プログラミングのRLでは200問の正解率が40%から50.5%に上がったという。

本記事の内容は、日本時間10月23日3時台に公式ページで確認したものです。

何ができるようになったのか

AWSのブログは、LLMのファインチューニングには「学習ループを細かく制御できること」と「運用の手間が少ないこと」のトレードオフがあると書いています。サービスにモデルとデータを渡して任せる方式は手軽ですが、独自の損失関数やデータの順序、自前の強化学習（RL）の報酬関数は書けません。逆に自由度の高い方式では、GPUやフレームワークの面倒を自分で見ることになります。

training session APIs は、この境目を「アルゴリズム」ではなく「計算資源」のところに引き直したものだとAWSは説明しています。セッションを開くと、選んだベースモデルとLoRAアダプターを載せたGPUが立ち上がったまま保たれ、手元のPythonから次の操作を呼べます。

損失関数は引数で選びます。cookbookのREADMEによると、SFTは cross_entropy、強化学習は ppo・importance_sampling・cispo です。ブログは、選好最適化や蒸留のような独自の目的も、同じ部品から組めるとしています。

SageMaker Python SDK 側の構成は3つのクライアントです。ServiceClient がロールやS3出力先などの設定を持ってセッションを開始し、TrainingClient（学習とチェックポイント）、SamplingClient（生成とスコア計算）を順に作ります。ブログによると、動いているセッションはOpenAI互換のchat completionsエンドポイントも提供するため、既存のOpenAIクライアントのコードからサンプリングできます。

操作はすべてfutureを返します。1ステップ分のサンプリング要求を先に全部投げてから .result() で待つので、バッチの生成は並列に進みます。学習の操作は呼んだ順に実行されるため、forward_backward が終わる前に optim_step を投入できる、とブログは説明しています。

前のSageMakerの選択肢と何が違うのか

ブログは、SageMaker AI内の選択肢を次のように並べています。

つまり、既存のサーバーレスなカスタマイズ（別のドキュメントでは SFT・DPO・RLVR・RLAIF・マルチターンRL などを手順の決まった形で提供と説明されています）に、「自分でループを書く」層が1つ増えた形です。技術文書は、プログラミングなしの管理されたワークフローが欲しい場合は Serverless model customization、完成した学習スクリプトをジョブとして出したい場合は SageMaker AI Training Jobs を見るよう案内しています。

誰がいつから使えるのか・日本では

発表日は2026年10月22日です。技術文書の「Supported models, pricing, and Regions」の表では、対応モデルとリージョンは次のとおりです。

cookbookのREADMEも、提供は米国東部（バージニア北部）・米国西部（オレゴン）・アジアパシフィック（ムンバイ）と書いています。日本の読者向けに確認したところ、今回取得した5つの公式ページには、東京リージョン（ap-northeast-1）の記載はありませんでした。日本から使う場合は、少なくとも現時点の記載では、米国かムンバイのリージョンになります。

使う前の準備として、前提条件のページは次の3つを挙げています。

• セッションを作る呼び出し側のIAMアイデンティティに、マネージドポリシー AmazonSageMakerTrainingSessionAccess を付ける
• セッションが引き受ける実行ロールに AmazonSageMakerTrainingSessionFullAccess を付け、信頼ポリシーにサービスプリンシパル training-session.sagemaker.amazonaws.com を加える
• チェックポイントを登録するモデルパッケージグループを作る

同時に開けるファインチューニングのセッション数は、既定で2です。技術文書によると、この上限はService Quotasコンソールから引き上げを申請できます。ブログは、stop() を呼ぶか期限が切れるまで、動いているセッションがこの枠を使い続けると注意しています。エラー時も含めて止めるか、with ブロックでクライアントを開くよう勧めています。

料金はどうなるのか

ブログによると、課金は処理したトークン数に応じた従量制です。技術文書は課金の軸を3つに分けています。

ブログは、手元で報酬を10秒かけて採点している間はGPU時間が課金されないと説明し、時間課金と比べた利点として「アイドルのGPU費用がない」「費用がデータ量と生成量に比例し、経過時間やクラスター規模に比例しない」の2点を挙げています。複雑な報酬モデルやツールを使うエージェント的なロールアウト、人手の評価のように手元の計算が重い作業ほど、GPUを確保し続ける場合との差が大きくなりうる、というのがAWSの見立てです。

単価は、今回確認した公式ページには載っていません。技術文書は「SageMaker AIの料金ページを見るように」と案内しているだけで、ドル建ての数字はありませんでした。cookbookのREADMEは「前払いの契約なし」と書いています。実際にいくらかかるかは、料金ページで確かめる必要があります。

動かすコードはどのくらいの長さか

ブログは、算数の文章題GSM8K（約8,500問）で、OpenAIのGPT-OSS 20BのLoRAアダプターをGRPOで学習する最小の例を示しています。LoRAのランクは32、αは64です。課題に固有の処理は、正解なら1.0、不正解なら0.0を返す compute_reward と、グループ内で報酬を中心化して正規化する compute_advantages の2つの短い関数で、どちらも手元で動く、とブログは説明しています。ループ本体は、①問題ごとに複数の応答をサンプリング、②手元で採点、③forward_backward(loss_fn="ppo") と optim_step、④サンプラーの更新、の4段階です。

チェックポイントは、保存のたびにモデルパッケージとしてモデルパッケージグループに登録されます。最後に save_weights_for_sampler(merge_weights=True) でデプロイ用の統合モデルを、save_state() で再開用の状態（重みとオプティマイザ）を保存でき、統合モデルはリアルタイムエンドポイントにデプロイできるとブログは書いています。

AWSが示した結果

ブログに載っている数字は、いずれもAWS自身の実行結果です。

code_rl は競技プログラミングの問題を使い、モデルが書いたPythonを手元のSandboxFusionコンテナで単体テストにかけます。全テスト通過で報酬1、コードブロックがなければ0.1の減点です。2ターンの設定では、モデルが check_solution ツールを呼んで結果を見てから答えを直せます。

cookbookのレシピ一覧には、別の参考結果も載っています。

筆者が公式ページを読んで気づいたこと

日本時間3時台に5つのページを順に読んだ時点で、気づいた点が2つあります。1つ目は、GSM8Kの数字が二通りあることです。ブログ本文の「56%から75%」は、40問・10ステップの最小例での保留問題の正解率です。cookbookの表にある gsm8k_rl の「報酬0.71から0.90」は、ブログが「フルスケール」と呼ぶ版での40ステップの報酬（reward）で、指標も設定も違うため、並べて比べる数字ではありません。

2つ目は、cookbookのGitHubページを取得した時点で、リポジトリのコミットは9件、スターは3でした。公開直後の段階で、使われ方を測れる材料はまだありません。なお、ここに書いたのは公式ページの記載を読んだ範囲のことで、筆者がtraining session APIsを実際に動かして確かめたものではありません。

試す前に確認しておきたいこと：発表から読み取れる範囲

• 数字はすべてAWSの自己申告です。 56%から75%、40%から50.5%は、AWSが自分の例で動かした結果です。第三者の再現は今回確認した範囲にありません。しかもGSM8Kの例は40問・10ステップの短い実行で、ほかのモデルやデータで同じ改善が出ると読み取れる材料は、ブログには書かれていません。
• 説明されているのはLoRAアダプターの学習です。 ブログと技術文書は、ベースモデルにLoRAアダプターを載せる形で説明しています。全パラメータを更新する学習について、今回取得したページには記載がありません。
• 対応モデルは4つです。 技術文書の表に載っているのは gpt-oss-20b・gemma-4-31B-it・Qwen3.6-27B・Qwen3.8-27B だけで、モデルによって使えるリージョンも違います。
• 日本の東京リージョンは載っていません。 前述のとおり、今回確認した5ページには東京の記載がなく、データを国内に置きたい場合は注意が必要です。
• 長い評価を挟む間も、セッションは同時実行の枠を使います。 ブログは「手元で報酬を計算している間はGPU時間が課金されない」と書く一方、その間もセッションは同時実行の枠（既定で2）を使い続けます。長い評価を挟むときの運用は、実際に試して確かめる必要があります。
• ブログの内容を技術文書と突き合わせた限りでは、食い違いは見つかりませんでした。 ただし、API参照・SDKリファレンス・トラブルシューティングなど、技術文書の下位ページは今回取得していません。

関連: SageMaker Studioの新しい登録方式は AWS、Amazon SageMaker Studioを新規アカウントですぐ使える形に で扱っています。

本記事が参照した公式ページ

2026年10月23日（日本時間）3時0分から3時1分に取得しました。

• AWS Machine Learning Blog: https://aws.amazon.com/blogs/machine-learning/write-your-own-training-loop-without-managing-gpus-with-amazon-sagemaker-training-sessions/
• Training session APIs（技術文書）: https://docs.aws.amazon.com/sagemaker/latest/dg/customizing-models-training-sessions.html
• Prerequisites（技術文書）: https://docs.aws.amazon.com/sagemaker/latest/dg/training-sessions-prereqs.html
• SageMaker training sessions cookbook（GitHub）: https://github.com/aws/sagemaker-training-sessions-cookbook
• Serverless model customization（技術文書）: https://docs.aws.amazon.com/sagemaker/latest/dg/customize-model.html

本記事は続報があり次第更新します。