コラム

マーク・ザッカーバーグ氏インタビュー「なぜAIを無料公開するのか」

2024年05月14日(火)16時00分

【GPUの使い道】

(24:00)
年末までに35万個のGPU(NVIDIA製のAI向け半導体)を購入する計画だが、今は22万個から24万個のクラスター(半導体の集合)で学習と推論の両方を行なっている。Metaは、SNSコミュニティーの運営に推論を行わないといけないので、AIの競合他社に比べると推論に割り当てるGPUの割合が多いように思う。(湯川解説:半導体は大別すると、2つの用途で使われる。1つはAIモデルにいろいろなことを学ばせるために使う。その用途は、「学習」向けと呼ばれる。もう1つは、学習済みのAIモデルが、ユーザーの質問に答えるという用途。これは「推論」向けと呼ばれる)

(24:57)
興味深いのは、70Bのモデルを15兆トークンで学習させたところ、精度が上がり続けたということ(湯川解説:トークンとはデータ量を示す単位で、英語の場合1つの単語が約1トークン)。それだけ学習させれば、さすがにそれ以上学習させても性能の向上は見込めないと思っていたのだが、それでも学習させればさせるほど性能は向上した。性能向上が鈍化する兆しがなかった。もっと70Bの学習を続けたかったんだけど、さすがにLlama4の学習にも取り組みたかったので、仕方なく70Bの学習はいったん打ち切った。(湯川解説:中小規模のモデルでも学習データを増やすことで性能が向上し続ける可能性があるということ。Llama3の中規模モデルはLlama2の大規模モデルと同等の性能が出ると言われるが、今後学習データを増やすことで、より高性能な中小モデルが登場する可能性がある)

【AIの指数関数的な進化はいつまで続くのか】

(26:20)
誰にも分からない。多分今100億ドル、1000億ドルを投資してもスケール則(AIモデルの規模を大きくすればするほど、性能が向上するというのではないかという仮説)が十分続くのではないかと思っている。でもその先は分からない。この先もこのペースで指数関数的にAIが進化するのかどうか、誰にも分からないと思う。

ただ歴史的に見ても技術はいつか何らかの壁にぶつかる。今はすごいペースで技術が進化しているので、少々の壁なら超えることができているけれど、それがいつまで続くのか誰にも分からない。

過去1、2年はGPU不足が壁になった。その壁もかなり解消されたので、さらに多くの資本が投入されようとしている。それがどこまでいくのか。でも投資対効果が行き着くところまで行くまでに、エネルギー不足の壁にぶつかると思う。電力供給は政府によって規制されている。発電所や送電施設の建設など、政府によって多くが規制されているので、実現するまでに長い時間が必要になる。

今のデータセンターは50メガワットから150メガワット規模。まだだれも1ギガワットのデータセンターを構築していない。いずれだれかが建設するだろうけど、何年も先になるだろう。

【なぜオープンソースにするのか】

(1:06:01)
すべてのソフトをオープンソースで公開しているわけではない。Instagramのコードはオープンにしていない。オープンソースにしているのは、もっと基本的なインフラ部分のコード。サーバーや、ネットワークスイッチ、データセンターなどのデザインをオープンソースにしている。そのおかげでわれわれのサーバーデザインが業界標準になった。そのデザインをベースに周辺パーツも安価で大量生産されるようになり、多くの人がその恩恵を受けたし、われわれにとっても何十億ドルものコスト削減につながった。

もしシステムに何百、何千億ドルも使うのであれば、コストが10%削減されただけでも大変大きなメリットになる。

AIモデルをオープンソースにすることで、AIの学習にかかるコストも削減されるようになるだろうし、性能もよくなる。

モバイルの領域ではAppleとGoogleがクローズドモデルでエコシステムを牛耳っている。スマホ上で新しい機能のアプリをリリースしようとしても、AppleやGoogleがクビを縦にふらなければリリースできない。AIのプラットフォームをそんな風にはしたくない。

AIプラットフォームがオープンであったとしても、InstagramやFacebookといったわれわれのプロダクトは、だれもがすぐに真似できるものでもない。もしAIをわれわれのプロダクトの1つだと考えれば、オープンにすべきかどうかをより慎重に考えないといけないかもしれないが、今のところAIをわれわれのプロダクトの1つだとみなさなければならないというような状況ではない。

基本的にLlamaの使用料は一定限度まで無料で、一部大企業がLlamaを一定限度以上使って大きな収益を上げるようになれば、その収益に対して使用料をもらうようなライセンスになっている。でもこのライセンス料収入を主要収益源にするつもりは今のところない。Llama2はほとんどのクラウドサービスで利用できるようになっている。今後も同様にクラウドサービスに提供しようと思っているが、それをわれわれにとって大きな収入源にしようとは考えていない。

【自社半導体】

自社開発の半導体で大規模言語モデルを学習させたいと思っているが、Llama4ではまだできない。まずはランキングやレコメンデーションに使える推論用チップを開発しようとしている。そうすることでNVIDIAのGPUを学習用に充てることができる。

プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

あわせて読みたい
ニュース速報

ワールド

アングル:ドローン大量投入に活路、ロシアの攻勢に耐

ビジネス

米国株式市場=S&P・ナスダックほぼ変わらず、トラ

ワールド

トランプ氏、ニューズ・コープやWSJ記者らを提訴 

ビジネス

IMF、世界経済見通し下振れリスク優勢 貿易摩擦が
あわせて読みたい
MAGAZINE
特集:AIの6原則
特集:AIの6原則
2025年7月22日号(7/15発売)

加速度的に普及する人工知能に見えた「限界」。仕事・学習で最適化する6つのルールとは?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「細身パンツ」はもう古い...メンズファッションは「ゆったり系」がトレンドに
  • 3
    「想像を絶する」現場から救出された164匹のシュナウザーたち
  • 4
    頭はどこへ...? 子グマを襲った「あまりの不運」が…
  • 5
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 6
    「二次制裁」措置により「ロシアと取引継続なら大打…
  • 7
    「どの面下げて...?」ディズニーランドで遊ぶバンス…
  • 8
    ロシアの労働人口減少問題は、「お手上げ状態」と人…
  • 9
    「異常な出生率...」先進国なのになぜ? イスラエル…
  • 10
    アフリカ出身のフランス人歌手「アヤ・ナカムラ」が…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 3
    「ベンチプレス信者は損している」...プッシュアップを極めれば、筋トレは「ほぼ完成」する
  • 4
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 5
    「お腹が空いていたんだね...」 野良の子ネコの「首…
  • 6
    どの学部の卒業生が「最も稼いでいる」のか? 学位別…
  • 7
    アメリカで「地熱発電革命」が起きている...来年夏に…
  • 8
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 9
    ネグレクトされ再び施設へ戻された14歳のチワワ、最…
  • 10
    「二度とやるな!」イタリア旅行中の米女性の「パス…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 3
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 4
    「あまりに愚か...」国立公園で注意を無視して「予測…
  • 5
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 6
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 9
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 10
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story