コラム

マーク・ザッカーバーグ氏インタビュー「なぜAIを無料公開するのか」

2024年05月14日(火)16時00分

【GPUの使い道】

(24:00)
年末までに35万個のGPU(NVIDIA製のAI向け半導体)を購入する計画だが、今は22万個から24万個のクラスター(半導体の集合)で学習と推論の両方を行なっている。Metaは、SNSコミュニティーの運営に推論を行わないといけないので、AIの競合他社に比べると推論に割り当てるGPUの割合が多いように思う。(湯川解説:半導体は大別すると、2つの用途で使われる。1つはAIモデルにいろいろなことを学ばせるために使う。その用途は、「学習」向けと呼ばれる。もう1つは、学習済みのAIモデルが、ユーザーの質問に答えるという用途。これは「推論」向けと呼ばれる)

(24:57)
興味深いのは、70Bのモデルを15兆トークンで学習させたところ、精度が上がり続けたということ(湯川解説:トークンとはデータ量を示す単位で、英語の場合1つの単語が約1トークン)。それだけ学習させれば、さすがにそれ以上学習させても性能の向上は見込めないと思っていたのだが、それでも学習させればさせるほど性能は向上した。性能向上が鈍化する兆しがなかった。もっと70Bの学習を続けたかったんだけど、さすがにLlama4の学習にも取り組みたかったので、仕方なく70Bの学習はいったん打ち切った。(湯川解説:中小規模のモデルでも学習データを増やすことで性能が向上し続ける可能性があるということ。Llama3の中規模モデルはLlama2の大規模モデルと同等の性能が出ると言われるが、今後学習データを増やすことで、より高性能な中小モデルが登場する可能性がある)

【AIの指数関数的な進化はいつまで続くのか】

(26:20)
誰にも分からない。多分今100億ドル、1000億ドルを投資してもスケール則(AIモデルの規模を大きくすればするほど、性能が向上するというのではないかという仮説)が十分続くのではないかと思っている。でもその先は分からない。この先もこのペースで指数関数的にAIが進化するのかどうか、誰にも分からないと思う。

ただ歴史的に見ても技術はいつか何らかの壁にぶつかる。今はすごいペースで技術が進化しているので、少々の壁なら超えることができているけれど、それがいつまで続くのか誰にも分からない。

過去1、2年はGPU不足が壁になった。その壁もかなり解消されたので、さらに多くの資本が投入されようとしている。それがどこまでいくのか。でも投資対効果が行き着くところまで行くまでに、エネルギー不足の壁にぶつかると思う。電力供給は政府によって規制されている。発電所や送電施設の建設など、政府によって多くが規制されているので、実現するまでに長い時間が必要になる。

今のデータセンターは50メガワットから150メガワット規模。まだだれも1ギガワットのデータセンターを構築していない。いずれだれかが建設するだろうけど、何年も先になるだろう。

【なぜオープンソースにするのか】

(1:06:01)
すべてのソフトをオープンソースで公開しているわけではない。Instagramのコードはオープンにしていない。オープンソースにしているのは、もっと基本的なインフラ部分のコード。サーバーや、ネットワークスイッチ、データセンターなどのデザインをオープンソースにしている。そのおかげでわれわれのサーバーデザインが業界標準になった。そのデザインをベースに周辺パーツも安価で大量生産されるようになり、多くの人がその恩恵を受けたし、われわれにとっても何十億ドルものコスト削減につながった。

もしシステムに何百、何千億ドルも使うのであれば、コストが10%削減されただけでも大変大きなメリットになる。

AIモデルをオープンソースにすることで、AIの学習にかかるコストも削減されるようになるだろうし、性能もよくなる。

モバイルの領域ではAppleとGoogleがクローズドモデルでエコシステムを牛耳っている。スマホ上で新しい機能のアプリをリリースしようとしても、AppleやGoogleがクビを縦にふらなければリリースできない。AIのプラットフォームをそんな風にはしたくない。

AIプラットフォームがオープンであったとしても、InstagramやFacebookといったわれわれのプロダクトは、だれもがすぐに真似できるものでもない。もしAIをわれわれのプロダクトの1つだと考えれば、オープンにすべきかどうかをより慎重に考えないといけないかもしれないが、今のところAIをわれわれのプロダクトの1つだとみなさなければならないというような状況ではない。

基本的にLlamaの使用料は一定限度まで無料で、一部大企業がLlamaを一定限度以上使って大きな収益を上げるようになれば、その収益に対して使用料をもらうようなライセンスになっている。でもこのライセンス料収入を主要収益源にするつもりは今のところない。Llama2はほとんどのクラウドサービスで利用できるようになっている。今後も同様にクラウドサービスに提供しようと思っているが、それをわれわれにとって大きな収入源にしようとは考えていない。

【自社半導体】

自社開発の半導体で大規模言語モデルを学習させたいと思っているが、Llama4ではまだできない。まずはランキングやレコメンデーションに使える推論用チップを開発しようとしている。そうすることでNVIDIAのGPUを学習用に充てることができる。

プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

あわせて読みたい
ニュース速報

ワールド

ガザの援助拠点・支援隊列ルートで計798人殺害、国

ワールド

米中外相が対面で初会談、「建設的」とルビオ氏 解決

ビジネス

独VW、中国合弁工場閉鎖へ 生産すでに停止=独紙

ビジネス

ECB、ディスインフレ傾向強まれば金融緩和継続を=
あわせて読みたい
MAGAZINE
特集:大森元貴「言葉の力」
特集:大森元貴「言葉の力」
2025年7月15日号(7/ 8発売)

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 2
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に...「曾祖母エリザベス女王の生き写し」
  • 3
    トランプ関税と財政の無茶ぶりに投資家もうんざり、「強いドルは終わった」
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    アメリカを「好きな国・嫌いな国」ランキング...日本…
  • 6
    完璧な「節約ディズニーランド」...3歳の娘の夢を「…
  • 7
    アメリカの保守派はどうして温暖化理論を信じないの…
  • 8
    名古屋が中国からのフェンタニル密輸の中継拠点に?…
  • 9
    トランプはプーチンを見限った?――ウクライナに一転パ…
  • 10
    【クイズ】日本から密輸?...鎮痛剤「フェンタニル」…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    日本企業の「夢の電池」技術を中国スパイが流出...APB「乗っ取り」騒動、日本に欠けていたものは?
  • 4
    後ろの川に...婚約成立シーンを記録したカップルの幸…
  • 5
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 6
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 7
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 8
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 9
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 10
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story