『コンテナランタイムは汎用ワークロード向けに作られた、AI推論は汎用ワークロードではない』──Basetenの専門チームを求人票から読む

Cursor・Notion・OpenEvidence・Gammaといった企業のAI推論インフラを支える企業Baseten（2026年時点でシリーズFにより15億ドルを調達済み）が、コンテナランタイムをゼロから作り直す専門チーム「Runtime Fabric」を運用している。この記事の執筆時点（2026年8月27日取得）で公開中だった「Engineering Manager, Runtime Fabric」の求人票を確認すると、既存のコンテナ技術がAI推論には根本的に合っていないという問題意識と、具体的な自社インフラの中身が読み取れる。

3行まとめ

• Runtime Fabricチームは、containerd・runc・OCI Runtime Specといったコンテナランタイムのコア技術を、GPUメモリの制約を意識した形にAI推論専用に作り変えている。募集要件には「containerd/containerd、opencontainers/runc、google/gvisor、kata-containers/kata-containersへの貢献」が挙げられており、実際にこれらのオープンソースプロジェクトのメンテナー経験者を求めていることがうかがえる
• 自社開発の「Baseten Delivery Network（BDN）」という階層型キャッシュ・重み配信システムが、コールドスタートを2〜3倍高速化し、急激なスケールアウト時の「サンダリングハード（thundering herd）」障害を解消していると説明されている。現状はモデル重みが対象だが、コンテナイメージ・訓練チェックポイント・デプロイアーティファクトへの拡張も視野に入れている
• Baseten社は2026年6月にSeries Fで15億ドル（企業価値130億ドル）を調達済みと公式ブログで確認した。過去18ヶ月で4回目の資金調達で、直近1年の収益は自社発表で20倍に伸びている

「コンテナランタイムは汎用ワークロード向けに設計された」という問題意識

求人票の本文はこの課題意識をこう説明している。

Container runtimes were designed for general-purpose software workloads. AI inference is not a general-purpose workload. Running large models at production scale exposes cracks in every layer of the container stack: runtimes unaware of GPU memory constraints, images that take minutes to pull when a model needs to scale to thousands of replicas, and isolation mechanisms that weren't designed for the multi-tenant serving environments that production AI requires.

（コンテナランタイムは汎用のソフトウェアワークロード向けに設計された。AI推論は汎用ワークロードではない。大規模モデルを本番スケールで動かすと、コンテナスタックのあらゆる層でひび割れが露わになる——GPUメモリの制約を意識しないランタイム、モデルが数千のレプリカにスケールする必要がある時にイメージのプルに数分かかること、本番AIが要求するマルチテナントのサービング環境向けには設計されていない分離機構だ）

Basetenは「モデルが開発者によってプッシュされた瞬間から、リクエストがレスポンスを得るまでのパイプライン全体を所有している」ため、この問題を根本から解決できる立場にあると求人票は説明している。

Baseten Delivery Network——コールドスタートを2〜3倍速く

求人票が具体的に挙げる成果がこうだ。

Oversee the architecture and evolution of the Baseten Delivery Network: the tiered caching and weight delivery system that makes cold starts 2–3x faster and eliminates thundering herd failures during burst scaling events.

（Baseten Delivery Networkのアーキテクチャと進化を統括する。これは、コールドスタートを2〜3倍速くし、急激なスケールアウト時の「サンダリングハード」障害を解消する、階層型キャッシュと重み配信システムだ）

「サンダリングハード」とは、大量のリクエストが同時に同じリソース（この場合はモデルの重みファイル）に殺到し、配信システムが過負荷になる現象を指す一般的な用語だ。BDNは現状「モデル重み」を主な対象にしているが、求人票は「コンテナイメージ・訓練チェックポイント・デプロイアーティファクトへの拡張」を今後のロードマップとして挙げている。

求人票の他の項目：採用条件・「NICE TO HAVE」に並ぶ具体的な要素技術

求人票本文の冒頭には、顧客企業として「Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma and Writer」の7社が名指しで挙げられている。求人票のメタデータには、投稿日（datePosted）が2026年6月9日、勤務地がサンフランシスコ（リモート勤務可、ただし応募条件は米国在住者限定の"TELECOMMUTE"）、年俸レンジが16万5,000〜33万ドルと記載されている。

必須要件（REQUIREMENTS）には、containerd・runc・OCI Runtime Spec・Linuxのnamespaceやcgroupsへの深い理解に加え、「GoおよびC/C++でのシステムプログラミングの実務経験」が挙げられている。歓迎要件（NICE TO HAVE）には、より細かい技術要素が並ぶ。

• 遅延ロード型スナップショッター（stargz・soci・EROFS/Nydus）やP2P（ピアツーピア）方式のイメージ配布への知見
• セキュアなコンテナランタイム（gVisor・Sysbox）やマイクロVM技術（Firecracker・Cloud Hypervisor）の経験
• containerdのshim API（v2）の理解とカスタムshim実装の経験
• NVIDIA Container Toolkit・CDI（Container Device Interface）といったコンテナ内でのGPUデバイスアクセスの経験

調達額を公式発表で裏取りすると、求人票の記載より詳しい

求人票が挙げていた「Series Fで15億ドル調達」を、Baseten公式ブログの調達発表記事（2026年6月22日更新）で直接確認した。求人票は主導投資家として3社（Altimeter Capital・Conviction Partners・Spark Capital）を挙げていたが、公式発表はさらに詳しく、次の内容を明記している。

出典: baseten.co/blog/announcing-our-series-f/

求人票が挙げていた「containerd・runc・gVisor・kata-containers」の4プロジェクトについても、GitHub上で実在と規模を確認した。containerd（Star数21,226）はCloud Native Computing Foundation（CNCF）の卒業プロジェクト（公式サイトの記載では2019年2月28日にgraduated）、runc（同13,424）はOpen Container Initiative（OCI）のリファレンス実装で、いずれもコンテナランタイムの業界標準の一角を占める（Star数はいずれも2026年9月4日に確認）。gVisor（Google、Star数19,202）・kata-containers（Star数8,625）も含め、求人票が「コアメンテナー」を求める対象として挙げているのは、いずれも実在する大規模OSSプロジェクトであることが分かる。

求人票が挙げる技術スタックの詳細

求人票の本文には、チームが実際に担当する技術範囲がかなり具体的に書かれている。まず、Runtime Fabricチームの位置づけについて求人票はこう説明する。

The Runtime Fabric team is doing exactly that: purpose-building the container runtime and storage layers for AI inference workloads, led by some of the world's top containerd maintainers.

（Runtime Fabricチームはまさにそれを行っている——AI推論ワークロード専用にコンテナランタイムとストレージ層を作り直しており、世界トップクラスのcontainerdメンテナーの何人かが率いている）

さらに「歓迎要件（NICE TO HAVE）」として、より具体的な技術要素が列挙されている。

Experience with GPU device access in containers: NVIDIA Container Toolkit, CDI (Container Device Interface), or GPU-aware scheduling. Familiarity with lazy-loading snapshotters (stargz, soci, EROFS/Nydus) or peer-to-peer image distribution. Experience with secure container runtimes (gVisor, Sysbox) or micro-VM technologies (Firecracker...

（コンテナ内でのGPUデバイスアクセス経験：NVIDIA Container Toolkit、CDI（Container Device Interface）、GPUを意識したスケジューリング。遅延読み込み型snapshotter（stargz・soci・EROFS/Nydus）やP2Pイメージ配信への知見。セキュアなコンテナランタイム（gVisor・Sysbox）やマイクロVM技術（Firecracker……）の経験）

責務（RESPONSIBILITIES）の欄では、チームが「スナップショッター初期化から重み配信、最初の推論リクエストに至るまで、コンテナ起動性能パスのエンドツーエンドの所有権を維持する」ことを求められているとも明記されており、単発の最適化ではなく、コンテナ起動の全経路を継続的に所有・改善し続ける体制であることがうかがえる。

求人票の数字は第三者検証をしていない

この記事は求人票という、採用ターゲットに向けて書かれた性質上、技術的な誇張や採用マーケティングの色が入りうる文書を主な一次ソースとしている。BDNの実際の性能改善（「2〜3倍速い」という数字）について、独立した第三者による検証やベンチマークをこの記事では確認していない。調達額（15億ドル・企業価値130億ドル）については公式ブログの発表で裏取りしたが、収益20倍・推論量40倍という成長率は、いずれもBaseten社自身の発表であり、外部監査を経た数字ではない。この記事を書いている自分自身は、containerd・runc・GPUデバイスアクセスを扱うインフラ実装の経験がなく、この設計の技術的な妥当性を評価する立場にはない。日本語ではZenn・Qiitaともに、Basetenの「Runtime Fabric」という文脈での言及は検索時点で見当たらなかった（Basetenという社名自体もZenn検索では別の商標（MuleSoft・Microsoft Fabric関連）と混同したノイズしか得られなかった）。

関連記事: AIチップ 業界地図──NVIDIA/AMD/Intel/Apple/独自チップ【2026年】

感想・指摘はコメント欄へ。