CUDAの堀に同じ日に2発の穴——AmazonとGoogleが「PyTorchを共通言語」に変えた日【2026】

2026年10月20日、AI半導体の世界でよく似た発表が2つ重なりました。米Amazonが自社チップ向けのTorchNeuronを、米GoogleがTorchTPUを、どちらもオープンソースとして公開したのです。

共通するのは、自社チップの上でPyTorchのコードをほぼ書き換えずに動かせるという点です。PyTorchはAI研究者や開発者の85%が使うフレームワークであり、これまでは実質的にNVIDIAのGPUでしか快適に動きませんでした。

つまりこの2日間で、NVIDIAの強さの源泉とされてきた「CUDAの堀」に、競合2社が同時に橋を架けたことになります。本記事では発表の中身と技術的な仕組み、そして何が変わり何が変わらないのかを整理します。

何が発表されたのか——2日で揃った「PyTorchネイティブ」という選択肢

まずは発表の骨格を押さえます。どちらもPyTorch Conference North America（10月20〜21日・米サンノゼ）に合わせた投入でした。学会の初日にAmazonが、2日目にGoogleが登壇する形で、競合の発表が連続したことになります。

AmazonのTorchNeuronは10月19日（米国時間）に発表され、20日にApache 2.0ライセンスでGitHub上に公開されました。リポジトリはaws-neuron/torch-neuronxで、現時点ではパブリックベータです。対応するのはTrainium2とTrainium3の2世代です。

GoogleのTorchTPUは、10月21日付のGoogle Cloudブログで「本日オープンソース化した」と告知されました。最大の特徴は、PyTorchの生みの親であるMetaのPyTorchチームと共同開発された点です。つまりフレームワークの本家が、TPU側の実装に名を連ねています。

Amazon TorchNeuron——「1行の設定変更」が意味するもの

TorchNeuronの使い方は、既存コードの初期化を1箇所変えるだけです。モデルを.to(‘neuron’)に渡せば、あとはTrainium上で学習ループが回ります。PyTorchが新しいハードウェアを登録するための標準的な仕組みに接続しているためです。

Amazonの説明では、同じ学習スクリプトを従来チップとTrainiumで走らせ、違いはチップ指定の設定だけでした。学習の進み方と速度は同等だったとしています。検証環境を丸ごと作り直すのではなく、実行先だけを差し替える発想です。

周辺ツールの対応も進んでいます。Hugging Faceは開発ツールでTrainiumをネイティブに扱えるようにし、分散学習フレームワークのTorchTitanとも統合されました。Amazon固有のコードを書かずに大規模学習へ進める経路が用意された格好です。

先行利用者は30社以上にのぼります。リアルタイム音声AIのCartesia、神経精神疾患の研究を行うLieber Institute for Brain Developmentなどが名を連ねました。用途はロボット、動画、世界モデル、自動運転、創薬、金融と幅広く紹介されています。

Google TorchTPU——Metaと組み、推論エンジンまで揃えた

TorchTPUは、TPUをGPUやCPUと同じ「PyTorchの標準デバイス」として扱えるようにするスタックです。これまでTPUでPyTorchを動かすには、XLA向けのライブラリと細かなコード調整が必要でした。この制約をほぼ取り払った点が核心です。

3つのEagerモードと「Fused Eager」

Googleは「Eager First」という設計方針を掲げました。1命令ずつ実行して同期するDebug Eager、非同期で動かすStrict Eager、そして命令の流れを自動で融合するFused Eagerの3種類です。用途に応じて開発と本番を使い分けられます。

注目はFused Eagerの効果です。連続する演算をその場で大きな塊にまとめ、TensorCoreの稼働率を上げます。Googleの説明では、Strict Eagerと比べて50〜100%以上の性能向上が、利用者側の設定なしで得られるとされています。

本番性能を狙う場合はtorch.compileを使います。グラフをTorch Dynamoで捕捉し、Torch InductorではなくXLAへ渡す構成です。演算はStableHLOという中間表現に変換され、TPU向けのバイナリへ落ちます。独自カーネルはPallasやJAXで書けます。

配布の実装まで一気通貫で揃えた

今回の発表で実務に効くのは、推論エンジン側の対応です。Hugging FaceのTransformers v5ではdevice_map=”tpu”を渡すだけでTPUへ配備できます。Diffusersもeager実行とtorch.compile、テンソル並列に対応しました。

さらにvLLMとSGLangのネイティブバックエンド、分散推論基盤のllm-d 1.0が揃いました。llm-dはRed HatとIBMを中心に500人以上の貢献者、25組織が参加するCNCFサンドボックス案件です。GKE上でGPUとTPUを同じ入口から振り分けられます。

導入事例の数字も出ています。Zenteiqはllm-dとGKEを組み合わせ、TPU v6e 1,000基あたりの生成トークン量を1日14.7億から59.7億へ増やしました。ルーティングの改善だけで4倍以上になった計算です。

【比較表】4つの「PyTorchの動かし方」を並べる

現在選べる主な経路を、公開形態と制約の観点で並べます。同じPyTorchでも、誰が面倒を見ているかで性格が変わることが見えてきます。

項目	CUDA（NVIDIA）	TorchTPU（Google）	TorchNeuron（Amazon）	ROCm（AMD）
対応ハード	NVIDIA GPU	TPU（第8世代など）	Trainium2／Trainium3	AMD Instinct
提供開始	2006年	2026年10月にOSS化	2026年10月にOSS化	継続的に更新
コード変更	NVIDIA向け最適化が前提	初期化をtpuに変更	設定を1行変更	書き換えと検証が必要
ライセンス	プロプライエタリ	オープンソース	Apache 2.0	オープンソース
強み	19年の蓄積と全ツール対応	Metaとの共同開発、推論基盤が充実	既存PyTorchコードをほぼ無改修で移行	ハード価格が安価
弱み	ベンダー固定と価格交渉力の低下	TPU固有の性能差は残る	対応世代とカーネルが限定的	人材と道具立てが不足

なぜ2026年に一斉に動いたのか——学習から推論へ重心が移った

背景にあるのは、AIの仕事の中身が変わったことです。モデルを鍛える学習より、出来たモデルを動かし続ける推論の費用が重くなりました。推論は量が読めるぶん、単価への感度が跳ね上がります。

2026年4月のGoogle Cloud Nextでは、第8世代TPUが学習用の8tと推論用の8iに分けて発表されました。同年3月のGTCでは、NVIDIAが推論特化チップ「Groq 3 LPU」を投入しています。両社とも、推論のコストを主戦場と見ています。

需要側の事実も揃っています。AnthropicはGoogleのTPUを100万チップ規模で契約し、AmazonのTrainiumも50万チップを専用配備していると報じられました。CUDAがなくても最先端モデルは訓練できるという実例が、すでに積み上がっている状態です。

Amazonの自社シリコン事業は、年間売上換算で250億ドルを超えました。AWSの説明では、Trainium3 UltraServerは先代比で演算性能が最大4.4倍、メモリ帯域が約4倍、エネルギー効率も4倍です。導入企業は学習と推論のコストを最大50%削減できたとされています。

CUDAの堀はどれだけ固いのか

ここで冷静に、守る側の厚みを確認します。CUDAの開発者数は590万人超、累計ダウンロードは4,000万回以上、対応アプリは3,000本を超え、利用企業は4万社に達します。2006年から19年かけて積まれた数字です。

対抗側の人的厚みはまだ薄い状態です。AMDのROCmを使いこなせるエンジニアは世界で1,000〜2,000人規模とされ、CUDAスキルを掲げる人材との差は数十倍になります。移行したくても、書ける人がいないという壁が残ります。

NVIDIAは技術以外の防御も使ってきました。CUDAコードをAMD GPUで動かす互換レイヤー「ZLUDA」は、ライセンス改定によって事実上封じられています。特許も18,600件以上を保有し、ソフトと知財の両面で固めています。

もっとも、アナリストの見方は「崩壊」ではなく「正常化」です。NVIDIAのシェアは85%超から75%程度へ緩やかに下がる、という予測がコンセンサスになりつつあります。Windowsが72%、Androidが72%という例を出せば、75%でも十分に支配的です。

技術の核心——「PrivateUse1」という公式の穴

なぜ今回、書き換えが要らなくなったのか。鍵はPyTorchが数年前から用意していた拡張点にあります。カスタムハードウェアを登録するためのPrivateUse1という仕組みと、torch.accelerator系のAPIです。

両社はこの公式の差し込み口を使いました。サブクラスもラッパーも作らず、普通のPyTorchテンソルとして扱います。そのためテスト、デバッグ、分散実行の道具がそのまま動きます。プロファイラも同じ画面で扱える点が実務では大きいのです。

Amazonはさらに、PyTorch本体へ変更を還元しています。特定チップに縛るコードを削る作業をコミュニティと進め、毎ビルドで数十万のモデルに対するテストを回しているといいます。自社の都合ではなく、フレームワーク側をハード非依存に近づける方向です。

皮肉な事実もあります。次世代のTrainium4は、NVIDIAのNVLink Fusionに対応する設計です。競合の相互接続技術を採り入れ、GPUサーバとTrainiumサーバを同じラックで混ぜられるようにします。対立と共存が同じロードマップに同居しています。

産業へのインパクト——変わる3つの景色

ここからは、発表が現場の判断にどう響くかを見ます。影響が大きいのは料金、資金調達、そして国内の開発体制の3点です。

クラウドの料金表が「交渉可能」になる

これまでクラウド各社のAI料金は、GPUの調達価格に強く縛られていました。自社チップへ同じコードを流せるようになると、価格の付け方が変わります。同じ処理をTPU、Trainium、GPUへ振り分け、単価の安い場所を選べるからです。

スタートアップの調達判断が変わる

初期のAIスタートアップにとって、最大の費用はチップ代ではなくエンジニアの時間でした。移植に数カ月かかるなら、性能が良くても乗り換えられません。移植コストがほぼゼロになれば、比較の軸は性能と単価だけになります。

日本の開発現場にも届く

日本企業も無関係ではありません。AWSはTrainium3の利用企業としてリコーとカラクリを挙げています。日本語モデルの推論コストは国内でも課題であり、コードを書き換えずに試せることは検証の回数を増やします。

残る課題——「動く」と「速い」は別問題

最初に断っておくべきは、移植のしやすさと性能は別物だという点です。TPUは行列演算に強い一方、分岐の多い処理や一部の演算はGPUほど得意ではありません。ワークロードによっては、書き換えなしでも遅くなります。

カスタムカーネルの習得も必要です。TPU側はPallasやJAX、Trainium側はNKIという独自の書き方になります。速さを極める段階では、結局は各社固有の作法を学ぶことになります。抽象化が進むほど、最適化の入口は狭くなります。

ロックインの場所が変わるだけ、という見方もあります。CUDAからPyTorchへ移れば自由になるのではなく、フレームワークとクラウドの組み合わせに縛られます。どの層で固定されるかが入れ替わるだけで、選択の設計は依然として必要です。

私の場合は、以前に社内ツールを別GPUへ移そうとして、ベンチマークだけ取って止めた経験があります。動くことは確認できても、待ち時間の内訳が説明できず、費用対効果を示せませんでした。今回の発表で試すなら、同じ轍は避けたいところです。

今後の展望——2027年に問われるもの

焦点は3つに絞られます。1つ目は、TorchTPUが第8世代TPUの全機能をいつ使い切れるようになるか。2つ目は、Trainium4の投入時期とNVLink Fusion対応が実際に効くか。3つ目は、PyTorch本体の意思決定の行方です。

PyTorchはLinux Foundation傘下の財団が運営しており、特定企業の道具ではありません。Meta、Google、Amazon、NVIDIAが同じ土俵でコードを出し合う構図になります。ハード非依存が進むほど、差別化はコンパイラと運用の質へ移ります。

私が見ているのは、ベンチマークの公開のされ方です。各社が自社に有利な条件で数字を出すなか、第三者が同じモデルと同じ条件で測った比較が出るか。ここが揃わなければ、利用者は選びようがありません。

【FAQ】PyTorchとCUDAの関係に関するよくある質問

読者から寄せられやすい疑問をまとめました。用語の関係と、実務で押さえるべき判断基準を中心に整理します。

質問	回答
PyTorchとCUDAは同じものですか？	別物です。PyTorchはモデルを書くためのフレームワーク、CUDAはNVIDIA製GPUで計算を走らせるための基盤です。両者は長く密結合してきました。
TorchNeuronを使えばコードは完全に無改修ですか？	現代的な書き方をしたコードはほぼ無改修で動きます。古い書き方や独自カーネルを含む場合は、調整が必要になる可能性があります。
TorchTPUは誰でも使えますか？	オープンソースとしてGitHubで公開されており、TPUを利用できる環境であれば試せます。実際の運用にはGoogle Cloudの契約が必要です。
NVIDIAのGPUは今後不要になりますか？	なりません。学習の大規模基盤や周辺ツールの成熟度では依然として強く、シェアも75%程度は維持されると見られています。
どちらに移すべきか判断するには？	同じモデルと同じデータで、待ち時間と費用を自社環境で測るのが最短です。公開ベンチマークだけで判断しないでください。
日本企業にとっての利点は何ですか？	コードを書き換えずに複数チップを比較できるため、推論費用の削減検証を短期間で回せます。調達の選択肢が増える効果も大きいです。

まとめ——「どのチップでも動く」は誰の利益になるのか

今回の2つの発表は、性能競争の物差しを変えました。チップ単体の速さではなく、既存のコードをどれだけ受け入れるかが問われる段階に入っています。その意味で、10月20日はソフトウェアの日の側面を持ちます。

ただし、恩恵がすぐ利用者に届くとは限りません。移植が楽になっても、運用の設計や監視の作り込みは残ります。発表と実運用の間には、たいてい半年から1年の差があります。

まずは手元の小さなモデルで、同じコードを別チップに載せられるか確認してください。そのうえで、待ち時間と費用の内訳を数字で比べる。派手な発表を追うより、この地味な検証が次の判断を支えます。AIインフラの選択肢が増えた今こそ、自社の条件で測る習慣を始めましょう。