Deepseek AI開発の費用は16億ドルで、手頃な価格の神話を暴きます

Deepseekの新しいチャットボットは、AI市場に大きな影響を与え、競争力のためにNvidiaの最大の株価下落の1つを引き起こしました。驚くべき方法で質問に答えるという約束で紹介されたDeepseekは、すぐに業界の恐ろしいプレーヤーとしての地位を確立しました。

画像：Ensigame.com

Deepseekのモデルを区別するのは、革新的なアーキテクチャとトレーニング方法です。同社は次のようないくつかの高度な技術を採用しています。

マルチトークン予測（MTP） ：この方法により、文の異なる部分を分析することにより、モデルが一度に複数の単語を予測し、精度と効率の両方を大幅に改善できます。

専門家（MOE）の混合：256個のニューラルネットワークを利用し、トークン処理タスクごとに8つのアクティブ化されたこのアーキテクチャは、AIトレーニングを高速化し、パフォーマンスを向上させます。

マルチヘッド潜在的注意（MLA） ：このメカニズムは、文の最も重要な部分に焦点を当て、重要な情報を欠落する可能性を減らすために重要な詳細を複数回抽出し、それにより入力データの重要なニュアンスをキャプチャします。

画像：Ensigame.com

中国の著名なスタートアップであるDeepseekは、わずか2048グラフィックプロセッサを使用して、トレーニングに600万ドルの最小コストで競争力のあるAIモデルであるDeepSeek V3を開発したと主張しています。ただし、Semianalysisのアナリストは、同社が実際に膨大な計算インフラストラクチャを運営していることを明らかにしています。これは、10,000 H800ユニット、10,000 H100、追加のH20 GPUを含む約50,000のNVIDIAホッパーGPUを含み、複数のデータセンターに広がっています。これらのリソースは、AIトレーニングだけでなく、研究と財務モデリングにも使用されます。

Deepseekによるサーバーへの総投資は16億ドルと推定されており、運用費用は9億4,400万ドルに達しています。中国のヘッジファンドハイフライヤーの子会社として、Deepseekは2023年にAIテクノロジーに焦点を当てるために紡がれました。クラウドサービスに依存する多くのスタートアップとは異なり、DeepSeekはデータセンターを所有しています。これにより、AIモデルの最適化とイノベーションの実装が高速化されます。同社は自己資金のままであり、柔軟性と意思決定速度を向上させています。

画像：Ensigame.com

Deepseekはまた、主要な中国の大学で年間130万ドル以上を稼いでいる研究者の中には、トップの才能を集めています。わずか600万ドルでDeepseek V3をトレーニングするという同社の主張は非現実的であると考えられています。これは、トレーニング前のGPU使用のみを占め、研究、モデルの洗練、データ処理、インフラストラクチャ全体などの他の重要なコストを除外しています。

開始以来、DeepSeekはAI開発に5億ドル以上を投資してきました。その無駄のない構造により、AIイノベーションの迅速かつ効果的な実装が可能になり、より大きな官僚的企業とは一線を画しています。

画像：Ensigame.com

Deepseekの成功は、資金提供された独立したAI企業が業界のリーダーにどのように挑戦できるかを示しています。同社の成果は印象的ですが、専門家は、AIモデル開発の「革新的な予算」の主張が誇張されていることを示唆しています。 Deepseekのコストは、競合他社のコストよりも依然として低くなっています。たとえば、DeepSeekのR1モデルのトレーニングコストは500万ドルでしたが、ChatGPT4Oの1億ドルでした。