インテル、メモリー戦略を再検討 CPUとメモリーの積層構想と量産までの距離
AI基盤の増設でメモリーの供給と帯域が制約となり、インテルも調達圧力に直面している。同社が公式資料で示したのはDRAMやNANDの量産再開ではなく、演算とメモリーの統合、先端パッケージ、日本企業との次世代メモリー共同開発である。
AI基盤の増設でメモリーの供給と帯域が制約となり、インテルも調達圧力に直面している。同社が公式資料で示したのはDRAMやNANDの量産再開ではなく、演算とメモリーの統合、先端パッケージ、日本企業との次世代メモリー共同開発である。
AIデータセンターの建設では、大規模な電力と系統接続を確保した用地の価値が高まっている。NVIDIAはLanciumに最大30億ドルを投じると報じられたが、両社の公式発表はなく、取引条件は匿名の情報源に基づく。
AIアクセラレーターは、カタログ上の演算性能だけで選ぶと、入力処理やメモリー、低い稼働率が隠れた費用になる。モデルの変更頻度から3年間の総保有費用までを同じ表に置き、自社の通常時、ピーク時、障害時の負荷で候補を比べる。
AIサーバーのラック消費電力は、NVIDIAの構成例だけでもH100の40.8kWからGB200の約120kWまで開きがあり、従来設備の平均値を流用すると受電と冷却の不足が搬入後に表面化する。実機の部品表からピーク負荷を積み上げ、電源経路、液冷と空冷、床荷重、ネットワークを同じ容量表で照合してから障害時を含む統合試験へ進む。
AI向け半導体の需要を自社の調達だけで賄いきれないとの判断から、テスラとSpaceXは米テキサス州に巨大な製造拠点を構える。初期投資は168億ドルだが、量産までの時間と歩留まりを考えれば、TSMCやサムスンへの委託を直ちに置き換える計画ではない。
AIデータセンターでは、多数のサーバーを結ぶ光トランシーバーが高速通信を支えている。米政府は中国製の新型機器を輸入対象から外す案を検討中と報じられ、供給先の切り替えと調達費の上昇が焦点となる。
日本でもメモリーやPC部品の店頭価格が上がり、特売の有無による振れも大きくなっている。背景にはAIサーバー向けを優先する生産配分があり、買い時を判断するには小売価格、契約価格、メーカーの供給計画を分けて見る必要がある。
電子カルテの項目名やコードが施設ごとに異なれば、AIは同じ意味のデータを同じものとして扱えない。FHIRは医療情報を共通のリソースに分けて交換する規格で、日本の電子カルテ情報共有サービスでも実装が進む。
生成AIの計算量が膨らむなか、クラウド各社はGPUに加えて自社設計のAIチップを使い始めている。ASICが有利になるのは処理内容と需要が安定した場合で、モデルの変更が多い開発や小規模運用ではGPUの柔軟性が残る。
AIモデルの大型化で、データセンターは演算性能を使い切るためのメモリー容量と帯域幅を確保しにくくなっている。AMDが買収したMEXTはフラッシュをDRAMの補助層として使うが、帯域幅の壁を解消する技術ではない。