【見える論評】ディープシークがもたらしたAI戦争2.0時代：我々の対応戦略

YouTubeリンク：https://www.youtube.com/watch?v=XEw7Yypb9uY

映像スクリプト

ようこそ。NAVER CLOUDのソン・ウです。ディープシックの技術的な内容とともに、人工知能がすでに私たちの時代の重要なアジェンダになったと考えています。昨年からそのような観点から急激な変化の様相が見られ、これらの部分についてお話ししたいと思います。ソウル大学のキム・サンベ教授などと継続的に多くの意見交換をしてきました。国際関係に人工知能がどのような影響を与えているかについて意見を交わしながら考えたことをお話ししたいと思います。本格的に始める前に、人工知能技術の大きなパラダイム変化が起きていることを指摘しておく必要があると思います。おそらく、ここにいらっしゃる教授や専門家の皆様もGPTのような生成AIをお使いになっていることと思います。特にGPT-4やAnthropic Claude 3.5 Sonnet、Claude 2.0程度のモデルは、暗記式教育を熱心に行います。ある人工知能モデルのパラメータ数、すなわちモデルサイズを非常に大きくし、10兆個以上のトークン、すなわち単語程度と考えていただければと思いますが、インターネット上の膨大なデータを記憶する形で、単語を隠して単語を当てる形で学習を非常に多く行います。これを事前学習と呼び、その後、専門家が作成したデータでコース・トレーニングを行うと、ここにいらっしゃる方々がお使いのGPTのようなものになります。知識を基盤とし、言語を非常に良く理解し、文脈も良く理解し、基本的な推論能力も持っています。これを第一世代知識型AIと定義しました。

第二世代思考型AIの登場

韓国ではNAVERのHyperCLOVA X、LG AI研究院が公開したEXAONEシリーズなどがあります。しかし、昨年9月にEXAONEが登場したことで、新しい段階、新しい時代に突入しました。私はこれを第二世代と呼んでいます。知識型AIではなく思考型AIと表現していますが、「思考型」と名付けた理由は、文章を上手に書き、知識が多いレベルを超えて、自ら論理的な思考ができるAIだからです。自ら論理を解きほぐす

中国のAI技術発展とディープシック

第一世代モデルに記されている「Chain of Thought」という長い論理の流れのデータと強化学習を通じて、GPUも多く必要です。このように学習させると、思考力に優れた「思考型AI」が作成されます。最初の思考型AIはOpenAIのGPT-4であり、最近GPT-4oも公開されました。ディープシークはV3を用いて同様の方法でR1を作成し公開します。したがって、現在第二世代人工知能技術を保有する国家は、アメリカと中国だけだと現時点では見て良いでしょう。中国もようやく参入したところだと考えてください。ディープシークという会社についてご紹介すると、ハイフライヤーという中国のヘッジファンド、クオンツ会社です。お金をたくさん稼いだのでしょう。お金持ちです。

GPUを非常に多く保有しています。2020年頃にはすでにA100を1万枚以上保有しており、複数の証言によるとH100、H800、A100、H20などを全て合わせると5万枚から6万枚程度のGPUを保有していると知られています。このため、アメリカ政府はNVIDIAに対する調査に入り、「これはきちんと輸出規制されているのか？」と問いかけているのです。ディープシークが突然現れたわけではありません。昨年1月にV1が初めて登場し、その後5月にV2、12月にV3が登場しましたが、技術は目覚ましいレベルで急速に進歩します。ディープシークV3のような強力な知識型AIを用いて、先ほど申し上げた強化学習と長い論理の流れのデータ（COTデータ）を用いて、ディープシークR1を発表しました。

ディープシック V3とMoEアーキテクチャ

それにより、チャットボットサービス、ChatGPTのようなAndroid、iOSアプリを世界中に展開し、アメリカのApp Store市場でも1位を記録するのです。一部ではエンジニアリングの勝利と言う人もいますが、実際には非常に多くのGPUと優秀な100人から200人の最高レベルの人工知能エンジニアたちが、様々な新しい手法を提示しました。この1年間、彼らが新しく提示した、もちろん突然現れた新しさではありませんが、巨人の肩の上に立ち、既存の方法をさらに改善できるアルゴリズムを実際に多く作り出しました。そのようなアルゴリズムは、全体的なコスト削減をもたらす手法で構成されています。V1を見てみましょう。一言で言うと、V1が登場した時の印象はこうでした。私も全文を読みましたが、中国のオープンソースAI企業がもう一つ増えたな、それ以上でも以下でもありませんでした。当時、Alibaba CloudのQwenモデルに比べて優れている点は一つもありませんでした。しかし、V2モデルから革新的な

ものが見え始めます。ディープシークV3で中心的に使用される手法と言える「マルチヘッドアーキテクチャ」のようなものがあり、そのような手法を使うと、既存のTransformerとは異なり、簡単に言えば、モデル全体に一つの入力が入るとモデル全体を使うのではなく、この質問を見て、特定の分野の専門家部分、一部だけを用いて計算します。例えばV2の場合、全体のパラメータ数は260億個ですが、質問が入ってくると、もしそれが法律に関する質問であれば、法律に関するパラメータの一部、210億個だけを用いて計算します。このように学習させると、同じ260億個のパラメータを持つ単一モデルに比べて、学習コストが大幅に削減されます。しかし、運用コストは逆に高くなります。なぜなら、実際には毎回入力が入ってくるたびに210億個だけを用いて計算しますが、その210億個だけを使うモデルと比較すると、運用コストが6倍以上高くなるのは避けられません。なぜなら、モデルはいずれにせよ、その大きなモデルがハードウェア上で

メモリ上に存在しなければならないからです。そのため、その運用コストを解消するために、あらゆる最適化エンジニアリング手法が総動員されます。V3の基本構造は大きく変わらず、モデルサイズを3倍程度に拡大します。同様に「Mixture of Experts」専門家たちが連携するモデルを活用します。その他、学習時に少し新しい手法が導入され、学習データ量も15兆トークンまで大幅に増加します。しかし、世界がこのディープシークV3に衝撃を受けたのは、まさにこのテーブル1です。そこから出てきたものです。

技術公開とコスト削減効果

80億ウォン（約8億円）で作れる。しかし、それは完全に意図されたものだと思いますが、少し誤解を招く表現です。さて、テーブルを見てみましょう。「Training Cost」とありますが、「Pre-training」、「Context Extension」、「Post-training」とあります。単に学習する部分だと考えてください。それぞれにH800 GPU何時間使用したかが記されています。全て合わせると278万8千時間程度のGPUを使用したという話が出てきます。そして、そのGPU 248個のH800が、一つの強力なネットワークで結ばれたスーパーコンピューターを使用したと考えてください。そうした場合、278万8千時間かかりますが、そのH800をクラウドで1枚借りるのに1時間あたり2ドルです。成功裏に学習させるのにかかったGPUコストをGPU時間で換算したものであり、それが開発コストではないという意味です。

一度で成功したはずもなく、その成功レシピを見つけるために行われた数多くの試行錯誤、人件費、データ構築費は一切含まれていません。さらに論文にもその旨が記載されています。したがって、提示されているGPUなどを全て考慮すると、おそらく数千億ウォンから1兆〜2兆ウォン程度の投資費用がかかったと予測できます。そして、そのV3を用いて推論的思考を非常に得意とするR1というモデルを作成しました。このV3モデルを作成する際も、R1モデルを作成する際も、どう見てもOpenAIのモデルからデータを抽出し、その知識を用いて学習させたように思われます。彼らは否定していますが、いくつかの証拠が出てきています。私が後ろの資料に入れたか入れていないか分かりませんが、見てみましょう。

どのようなものかというと、おそらく私が省略しなければならないでしょう。一言で言うと、入力して 쭉入力して、少し変なことを頼んだら「お客様が依頼されたポリシーはOpenAIの個人情報保護ポリシーに違反するため」というような返答をします。まあ、それは当然データを生成して持ち込んだという意味でしょう。さて、いずれにせよ、この技術が衝撃を与えたのは、作り出したことです。アメリカ、中国以外の中国で作り出したという点が一つ。そして多くのAI企業、私たちも同様ですが、OpenAIのGPT-4のような推論思考を非常に得意とする人工知能をどのように作ったのかという疑問がありました。ある程度は推測していましたが、それを正確に作り出す方法を実験なしにすることはできないため、しかし、新しい試みをするたびにコストが非常に多くかかるため負担に感じていたことを、そこに示されているように「SFT-GPT」、「SFT-GPT」などだけでよく、他は全て不要で、などといった詳細を技術レポートで公開したのです。全体詳細の80%程度は公開しました。それを

AI競争激化と中国の戦略

見て、グローバルに存在する数多くの企業が、アメリカ、中国だけでなくフランスも、韓国も、日本も、たくさんあるでしょう。皆が真似できるようになりました。それが非常に大きな効果をもたらし、またコストを大幅に削減できたのは、OpenAIのGPT-4を作る際には、その長いCOTデータというものを、どうしても人間の専門家に依頼して作成しなければなりませんでした。時間もかかり、コストも膨大にかかったでしょう。しかし、中国の連中はR1を使ってデータを生成すればよいので、そのコストを大幅に削減できたのです。そのようなことを含めて、比較的少ないコストで、あの天文学的なレベルの投資ではなく、アメリカのように私たちも負担できるレベルの投資で、最高性能の推論的思考ができるAIが作られたということです。しかし、ディープシークだけではありません。これも同様の文脈です。

同等の能力を持つMinimax、Moonshot、Dahua、Alibaba Cloud、その他多くの企業が、ほぼ同レベルの人工知能を輩出し始めています。中国だけでなく、アメリカでも高価で登場し始めています。OpenAIのGPT-4はもはや独占物ではなくなりました。今やタイムアタックに入り始めたということです。第二世代モデル。したがって、整理されていることは本当にそうなのか、実際には多くのことを考慮すると、開発コスト80億ウォンは誤った理解であり、では誰もが80億ウォンあればできるのか？そうではありません。

AI技術覇権競争と国家別の立場

第一世代知識型AIの能力が十分な企業、国家だけができるのです。そのような国家は10カ国近くあります。それでは、その国家たちが皆参入するでしょう。本当に安価なコストパフォーマンスで上げてみましょうか？実際、それほど安い価格ではありません。なぜなら、同じモデルをアメリカで提供している価格を見ると、1倍近く高いからです。安くする理由があります。もちろん、彼らが保有する最適化手法があるとしても、おそらく他の目的で原価以下で提供していると予想できます。その目的は、オープンソースAIを世界中に広めることで得られるオープンソースAIエコシステムのヘゲモニー掌握、そして人工的な文章を書く人工知能が持つ、特に推論的思考を非常に得意とする人工知能というものが、その人工知能が持つ価値観をそのまま基盤としてコンテンツを吐き出すことになるでしょうが、世界の体制宣伝にこれほど良い方法はありません。

自然に人々が質問し、回答しながら自然に輸出されるでしょう。これらのことをオープンソースで公開し、世界に影響力を及ぼし、エコシステムの基盤を築こうという判断を当然するでしょうし、そうすることで人々が使用するため、データが継続的に蓄積されるでしょう。ディープシークの中に。そして、ディープシークに保存されたデータは中国政府が使用できます。このようなことまで考慮されていると考えられます。GPUメモリはさらに成長するだろうと予測できます。今後、さらに多くの国が第二世代AIを作るために高価な機器を購入しようとし、そのような推論的思考に優れた人工知能の知識を、より小さなモデルに転移させて、そのAIエージェント、いわゆる人々の業務を支援するAIエージェントの形で具現化されることは明白です。

自動車やロボット、スマートフォンやグラス、家電製品にまで入り込むでしょう。そのため、メモリ、そしてAI半導体の需要が非常に多くなり、市場も非常に大きくなる可能性があります。このような側面は、我が国にも間違いなく役立ちます。最近、バイデン大統領、バイデン副大統領がその話をしました。AI半導体はアメリカだけで作らなければならない、と。その市場、そしてそのサプライチェーン管理の観点からのヘゲモニーを考慮していると考えられます。個人情報については、あまりにもよく知られており、現状も当然そうなっています。AIの特徴を決定するのは、どのようなデータで学習したかです。アメリカで作られたAIはグローバルで使えますが、アメリカの立場を代弁するAIです。なぜなら、アメリカで作られた文書で学習したからです。中国で作られたAIは世界中で使えますが、中国の立場を代弁するAIです。グローバル競争が激しくなるでしょう。安定性が相対的に少し劣ります。MetaのLlamaや、クローズドAIのOpenAI、ChatGPTやAnthropicのClaudeと比較しても、様々な点で脆弱な部分が多いと

AI規制と国家別の投資競争

見て良いでしょう。様々な報告書でも出ています。これはCiscoが最近、外部からの攻撃成功率を基準にしたものですが、このような脆弱性がある部分に対しては、あまり 신경 쓰지 않은 것 같다（気にかけていないようだ）と報告しています。実際にGPTが公開される前に、ディープシークR1が公開される前に、バイデン政権がトランプ政権から引き継ぐ前に発表したのがこれです。AI GPU、特にGPUを中心にAI半導体の輸出規制ティアを分けて行うと話しました。韓国、東アジアでは韓国、日本、台湾、そしてヨーロッパの一部国家、そして5G国家だけGPU輸出統制がなく、黄色はクォーター制を導入する、赤色は輸出禁止と分けていました。面白いのは、その措置とAIモデルの使用も同様です。つまり、黄色い国はGPT-4やGPT-4oのようなモデルも自由に使うことを認めない、なぜならデータを抜き取られる可能性があるからです。そのような措置を下しましたが、政府が変わりました。そして、この措置を撤回し、より厳格な措置を180日以内に作成せよという行政指示が

ある状態です。その中で、共和党議員が出した法案が一つ、驚くべきものがあります。「敵国の人工知能モデルをダウンロードして公共分野で使用する場合は懲役20年」。前代未聞の法案ですが、ある種の哲学や方向性を見ることができます。もはや保護貿易主義を超えて、冷戦レベルにまで行っているようです。人工知能技術の競争力のためです。そして、アメリカは今年の2月10日にパリで開かれたパリAIサミット、本来は安全性を議論するためのサミットですが、そこで「あなたたちの規制のために発展できないじゃないか」と非常に強く批判します。そして、アメリカとイギリスは通常、このサミットが終わった後に宣言文を作成しますが、それに署名せず脱退しました。アメリカはトランプ氏が入ればそうなるだろうと思っていましたが、イギリスはAI安全秩序を最も率先してリードしてきた国だったのに、「我々はしない」と脱退したのです。もはや「我々も生き残る道を見つけなければならない」と考えたようです。労働に変わりました。AIに関して言えば、私たちの人工知能能力を強化するために努力し、インフラに投資する

韓国のAI競争力強化と同盟戦略

でしょうし、さらには「主権AI」専門組織まで作るように仕向けます。それから。そしてEUも300兆ウォン（約30兆円）投資すると宣言します。そしてコンピューティングインフラ、そして共同AI研究開発に30兆ウォン投資すると宣言します。アメリカは天文学的な予算だからそれは良いとして、我々と同レベルの中国、フランス、日本、台湾、カナダも同様です。皆レースを始めました。規制、安全は一旦後回しにしよう。この分野で遅れれば終わりだ。そして、なぜそう考えたかというと、以前のようにアメリカ一国が走り、残りがついていくという状況なら、いつものことだという感じでしたが、中国がアメリカと同レベルになってきたので、「我々もできるかもしれない、もっとやらなければならない」と変わったのです。そしてEUもAIライブラリ、そしてデータプライバシー規制などを実施しました。自分たちの足かせになりそうな規制があるのです。

私たちの立場から見れば、当然インフラ投資を多く行い、十分なインフラ投資を通じて競争力のある国家代表AI企業を育成しなければなりません。最近、権限代行者もそのようにするというプロジェクトを宣言しました。国家AI委員会では、このような人工知能が産業別にうまく溶け込めるようにするための様々な政策が必要だと考えています。私は米中が競争する状況で、残りの中東、東南アジア、南米諸国も人工知能競争力を高めたいと考えています。しかし、技術的に不足している部分、該当言語のデータ不足などに対する懸念が多いでしょう。我が国はデータ蓄積および確保の経験が多く、韓国語中心の人工知能開発経験もあります。また、関連AI半導体、データセンター構築および産業育成の経験もあります。したがって、同盟を構築して技術的リーダーシップを確保すれば、たとえ国力は弱くとも、力を合わせて米中と競争する価値はあると考えています。

私たちの立場から見れば、当然インフラ投資を多く行い、十分なインフラ投資を通じて競争力のある国家代表AI企業を育成しなければなりません。最近、権限代行者もそのようにするというプロジェクトを発表しました。国家AI委員会では、このような人工知能が産業別にうまく溶け込めるようにするための様々な政策が必要だと考えています。米中が競争する状況で、残りの中東、東南アジア、南米諸国も人工知能競争力を高めたいと考えています。しかし、技術的に不足している部分、該当国家の言語データ不足などに対する懸念が多いでしょう。韓国はデータ蓄積および確保の経験が多く、韓国語中心の人工知能開発経験もあります。また、関連AI半導体、データセンター構築および産業育成の経験もあります。したがって、同盟を構築して技術的リーダーシップを確保すれば、たとえ国力は弱くとも、力を合わせて米中と競争する価値はあると考えています。

これらの国々が米中と協力しない理由は、従属してしまう可能性があるからです。しかし、私たちは従属ではなくパートナーシップの形で十分に同盟を構築できると考えています。