cp8

データセンターの設計上の考慮事項により AI アクセラレーションの導入が抑制される

PC サーバー メーカーの最新の財務結果によると、人工知能 (AI) で高速化されたサーバーの需要によって売上が増加しました。 メーカーがサプライチェーンの問題に直面し続けているため、需要は滞留していますが、AI を活用したサーバーを導入するプロジェクトは予想よりも時間がかかっているようであり、これが顧客にとって障害にはならないようです。

HPE の結果では、AI トレーニング ワークロードの実行に必要なグラフィックス プロセッシング ユニット (GPU) を搭載したサーバーの生産が滞っていることが示されていますが、顧客が導入できるサーバーは用意されています。

Seeking Alphaに掲載されたHPEの2024年第1四半期決算会見の記録によると、CEOのアントニオ・ネリ氏は次のように語った。電源と冷却の準備をしています。」

同氏はGPU供給の問題を「厳しい環境」と表現したが、「ある程度の改善が見られる」と述べた。

Neri 氏によると、HPE はすでに構築された GPU ベースのサーバーの在庫を持っていますが、「顧客がそれらのシステムを受け入れるには時間がかかるでしょう」とのことです。 しかし、第1四半期末の時点で30億ドルの未払いがあると同氏は述べた。

Neri 氏は、HPE の顧客は GPU 搭載サーバーの納期に 20 週間以上かかると述べました。 具体的には、顧客は前世代の Nvidia GPU である H100 アーキテクチャを搭載したサーバーを採用していると同氏は述べました。 「今日の需要の大部分は H100 です。 今後はグレースホッパー H200 なども展開していく予定です。」 これらには、AMDが最近導入したGPUであるRadeon Instinct MI300Xが含まれるだろうと同氏は述べた。

Dell Technologies では、GPU 搭載サーバーに対する需要が供給を上回り続けていることも認識しています。 デルは第 3 四半期の提出書類で、従来型サーバーが連続的に成長したと報告しました。

Dell Technologies の副会長である Jeffery Clarke 氏は、当四半期の決算発表に伴う声明の中で次のように述べています。「AI に最適化されたサーバーの注文は前四半期比で 40% 近く増加しました。 AI に最適化されたサーバーを 8 億ドル出荷し、受注残は前四半期比ほぼ 2 倍となり、29 億ドルで会計年度を終えました。 また、H200 や MI300X などの次世代 AI GPU を搭載した AI に最適化されたサーバーの注文にも強い関心が寄せられています。」

HPE と同様、Dell の顧客のほとんどはまだ AI への取り組みの初期段階にあります。 「私たちは、彼らがユースケース、データ準備、トレーニング、インフラストラクチャ要件を開始し、取り組むのを支援しています」とクラーク氏は述べています。

製品ポートフォリオ、コンサルティング、ファイナンス事業全体で顧客とどのように関わっているかを反映した今後のデルの機会について同氏は、「この分野での進歩は必ずしも直線的とは限りませんが、私たちは今後の機会に興奮しています」と述べた。

AI は GPU を超えて、エンタープライズ ストレージに新たな要求をもたらします。 Clarke 氏は、AI システムを構築している組織は、最初はテキストベースのデータを使用して AI モデルをトレーニングしていると述べました。 デルは、顧客が自社のストレージ戦略と一致する、より豊富なエンタープライズ データセットに移行することに賭けています。

同氏は、新しいPowerEdge F710および210ストレージ製品は、同時実行性が高く、遅延に敏感なワークロードのパフォーマンスが向上していると述べた。 「これは企業内に導入されるにつれて高まるニーズに沿ったものです」と彼は付け加えた。

設計と導入の障害

Dell’Ora Group のレポートでは、半導体の熱設計能力の向上と、大規模な言語モデルと生成 AI アプリケーションの出現により、ラックの電力密度が大幅に増加していると指摘しています。 Dell’Ora のリサーチアナリストである Lucas Beran 氏によると、これにより空気ベースの熱管理システムから液体冷却への移行が進んでいます。

AI に最適化されたサーバーに対する需要は存在しており、今後も拡大する見込みです。 しかし、AI システムのトレーニング用に GPU 搭載サーバーの導入を計画している組織は、データセンターの再構成の必要性と供給の問題の両方で、多くのハードルに直面しています。

ベラン氏によると、空冷はこれまでラックあたり最大 20kW のラック密度をサポートしてきたが、液冷はラックあたり最大 100kW+ の電力密度をサポートできるという。

Dell’Ora のデータによると、高速化されたサーバーはそれぞれ最大 6kW の電力を消費する可能性があります。 これは、データセンターの既存の空冷インフラストラクチャを使用するには、ラックごとに 6kW AI 高速化サーバーを 3 台しか設置できないことを示唆しています。そのため、これらのサーバーの導入を検討している組織は、冷却要件に対応するためにデータセンターを再設計する必要があります。

サーバー メーカーの最新の四半期決算結果から明らかなのは、AI に最適化されたサーバーに対する需要が存在し、今後も増加する傾向にあるということです。 しかし、AI システムのトレーニング用に GPU 搭載サーバーの導入を計画している組織は、データセンターの再構成の必要性と供給の問題の両方で、多くのハードルに直面しています。

2023 年 11 月、アナリスト会社 Gartner は、AI に最適化されたサーバーの企業向け出荷台数が 2024 年には約 46 万台に達し、2027 年までに 74 万台に増加すると予測しました。これは、2024 年には AI サーバー出荷台数の 24%、2027 年には 27% に相当します。

Gartner のシニア ディレクター アナリストである Adrian O’Connell 氏は、「企業は 2024 年から 2025 年前半にかけて、GenAI ユースケース向けの AI に最適化されたサーバーの導入について、主に探索と評価のモードに費やすことになると予想しています」とガートナーのシニア ディレクター アナリスト、エイドリアン オコネル氏は述べています。 予測分析: AI に最適化されたサーバー、世界中 報告。

オコンネル氏は、高インフレの継続による不確実な経済見通しにより、新技術への多額の支出に対する主流企業のすでに保守的なアプローチがさらに悪化する可能性が高いと指摘した。 Gartner によると、AI に最適化されたサーバーの平均販売価格は 2024 年に 32,300 ドルになります。これは 2027 年までに 29,500 ドルに下がると予想されています。

全体として、Gartner の予測によると、組織は 2024 年に AI に最適化されたサーバーに 660 億ドル、汎用サーバーに 880 億ドルを費やすことが予想されます。

サプライチェーンの問題と冷却要件により、AI サーバーの導入が業界が望むほど早く進んでいないことを意味します。 しかし、AI の需要が高まるにつれ、サーバー メーカーはこの機会を最大限に活用するために投資を増やしています。

たとえば、Lenovo は、研究開発の人員を 25% 増加し、予算を増加して AI のサポートを強化していると報告しました。 同社は、生成 AI 製品がサーバー ビジネスの成長に積極的に貢献し始めていると主張しています。

次の投稿
ダブルクリックしても Windows Defender スキャン フォルダーが開かない
前の投稿
0x800713ec .NET Frameworkエラーコードを修正

ノート:

AZ: 動物の世界、ペット、ペット、野生の自然に関するカテゴリー記事…
SP:スポーツカテゴリー。
New vs Ne: ニュースコラム。
Te: テクノロジー カテゴリ。
Gt:エンターテインメントカテゴリー。
Bt: 占い、星占い、超常現象、超常現象。
Ta:人生コラム。

ウェブサイトは、すべての日常の問題を共有しています。

同意なしにこのウェブサイトのコンテンツをコピーすることは、いかなる形式であっても違法です。

連絡先メールアドレス: [email protected]

人気ブログランキングでフォロー

@2024 – Oneechan Blog. All Right Reserved.