湯川鶴章
＜米紙はAI革命の減速を報じる一方、著名弁チーキャピタリストは進化は続くと主張＞
＊エクサウィザーズ AI新聞から転載
5月31日付のWall Street Journal紙が「The AI Revolution is Already Losing Steam（AI革命は既に減速し始めた）」という記事を掲載した。一方で米シリコンバレーの著名ベンチャーキャピタリストMark Andreesen氏は「AIの劇的な進化が止まるとは考えづらい」と語った。AIの進化は減速し始めたのだろうか。引き続き急速な進化が見込めるのだろうか。
AI革命が減速し始めた根拠として同紙は、イノベーションのペースが鈍化し始めたこと、AIの利用料が割高であること、AIの用途が限られていること、などを挙げている。
まず果たしてイノベーションのペースが鈍化しているのかどうか。Andreessen氏は次の10個のような改良が続いていると指摘する。
（1）AIはパターン認識だけでなく汎用計算能力 （General Computation Function）を身につけていることが分かってきた
同氏いわく、AIの学習時にAIモデルの内部で何が起こっているのかを見る技術が発達してきており、AIモデルは単にデータのパターンを記憶しているのではなく、汎用計算能力を身につけていることが分かってきたという。その例として、チェスのデータベースを学習したAIが、チェスの盤面のモデルを構築し、その盤面上で新しい打ち手を試していることが分かったという。
（2）繰り返し学習に効果があることが分かってきた
同じデータを学習し続けても最終的には学習効果が頭打ちになると考えられていたが、実際には同じデータを何度も学習することで性能が向上することが分かってきた。例えばMetaのLlma３の中規模モデルは、同じデータセットを何度も学習し直したことで、パラメーター数が何倍もある大規模モデルと同等の性能を挙げるようになったという。
（3）自己改良ループが可能だという意見
同氏によると、AIの自己改良ループが可能だと考える専門家が増えてきているという。例えばSelf-Consistancyと呼ばれる手法は、AIが答えにたどり着くまでのすべての段階ごとに、どうしてそういう判断をしたのかをAIに答えさせるというもの。この手法を繰り返すことで、AIはそれぞれの段階でどう判断していけば、最後に正しい答えにたどり着くのかをAI自身で学習できるようになる。自分で自分を改良することが可能になるわけで、この手法を通じてAIはどんどん論理的思考能力を高めていき、より正確な回答が出せるようになるという。
（4）合成データ
合成データとは、実際に存在するデータを元に、生成AIが生成した、実際に存在しない架空のデータ。合成データで学習したAIの性能が向上するのかどうかは議論が分かれるところだが、一部専門家は合成データの有用性を強く主張しているという。
（5）検証能力の向上
AIはプログラミングコードを生成できるが、生成したコードを自らが検証することも可能。この検証能力を向上させることで、より精度の高い答えを出せるようになるとAndreesen氏は主張している。
（6）半導体不足の解消
AI向けの高性能半導体が供給不足になったことで、AIの進化の遅れが懸念されていたが、同氏によると半導体不足は次第に解消され始めているという。
（7）世の中にはまだまだ学習データが存在する
最先端の大規模言語モデルは、ネット上のデータをほぼすべて学習済み。なのでこれ以上AIは賢くならないという意見があるが、同氏は世の中にはネット上で公開されていないデータがまだまだ存在すると主張する。またオープンソースのデータセットでも質のいいものが増えてきているという。
（8）巨額投資が続いている
AIの研究開発に対する巨額の投資が続いているので、同氏によるとAIはまだまだ進化する見通しだという。
（9）優秀なエンジニア
AIモデル自体は研究者が開発するが、その改良に貢献するのがエンジニアだ。AIが注目を集めていることで、世界中の優秀なエンジニアがAIモデルの改良に取り組み始めているという。
（10）学習データ最適化
多くの大規模言語モデルは、あらゆるタイプのデータで学習しているが、Microsoftは重複データを削除したり高品質のデータに焦点を当てるなどの最適化手法を施したデータセットを準備。この方法で小規模ながら大規模モデルと同等の性能を実現させた。同氏は、今後同様の手法でAIモデルが進化する可能性が高いと指摘している。
こうした複数の改良が１つになってAIモデルの進化を促進している。Mark Andreesen氏は「こうした個々の改良が、劇的にAIを進化させる可能性がある。進化が止まるとは考えにくい」(20:26)と語っている。
一方でAIの利用コストが高額だという問題はどうだろう。OpenAIがこのほど発表したGPT-4oは、これまでの最新鋭AIモデルの半額で利用できるという。OpenAIのSam Altman氏によると、AIモデルのアルゴリズムの効率化に成功したからで、同氏は効率化が今後も進むと強調している。
AIの用途が限定的だというWall Street Journal紙の指摘はどうだろう。確かに生成AIの恩恵を最も受けているのはエンジニアで、次にリサーチャー。一般ビジネスマンの間では、「あまり使える場面がない」という意見が聞こえてくる。
しかし最新鋭のGPT-4oになってからは、使い勝手が非常によくなったという声も耳にするようになった。今後AIがさらに進化していく中で、一般ビジネスマンの生産性向上に役立つ場面も増えてくるのではないだろうか。
＜米紙はAI革命の減速を報じる一方、著名弁チーキャピタリストは進化は続くと主張＞
＊エクサウィザーズ AI新聞から転載
5月31日付のWall Street Journal紙が「The AI Revolution is Already Losing Steam（AI革命は既に減速し始めた）」という記事を掲載した。一方で米シリコンバレーの著名ベンチャーキャピタリストMark Andreesen氏は「AIの劇的な進化が止まるとは考えづらい」と語った。AIの進化は減速し始めたのだろうか。引き続き急速な進化が見込めるのだろうか。
AI革命が減速し始めた根拠として同紙は、イノベーションのペースが鈍化し始めたこと、AIの利用料が割高であること、AIの用途が限られていること、などを挙げている。
まず果たしてイノベーションのペースが鈍化しているのかどうか。Andreessen氏は次の10個のような改良が続いていると指摘する。
（1）AIはパターン認識だけでなく汎用計算能力 （General Computation Function）を身につけていることが分かってきた
同氏いわく、AIの学習時にAIモデルの内部で何が起こっているのかを見る技術が発達してきており、AIモデルは単にデータのパターンを記憶しているのではなく、汎用計算能力を身につけていることが分かってきたという。その例として、チェスのデータベースを学習したAIが、チェスの盤面のモデルを構築し、その盤面上で新しい打ち手を試していることが分かったという。
（2）繰り返し学習に効果があることが分かってきた
同じデータを学習し続けても最終的には学習効果が頭打ちになると考えられていたが、実際には同じデータを何度も学習することで性能が向上することが分かってきた。例えばMetaのLlma３の中規模モデルは、同じデータセットを何度も学習し直したことで、パラメーター数が何倍もある大規模モデルと同等の性能を挙げるようになったという。
（3）自己改良ループが可能だという意見
同氏によると、AIの自己改良ループが可能だと考える専門家が増えてきているという。例えばSelf-Consistancyと呼ばれる手法は、AIが答えにたどり着くまでのすべての段階ごとに、どうしてそういう判断をしたのかをAIに答えさせるというもの。この手法を繰り返すことで、AIはそれぞれの段階でどう判断していけば、最後に正しい答えにたどり着くのかをAI自身で学習できるようになる。自分で自分を改良することが可能になるわけで、この手法を通じてAIはどんどん論理的思考能力を高めていき、より正確な回答が出せるようになるという。
（4）合成データ
合成データとは、実際に存在するデータを元に、生成AIが生成した、実際に存在しない架空のデータ。合成データで学習したAIの性能が向上するのかどうかは議論が分かれるところだが、一部専門家は合成データの有用性を強く主張しているという。
（5）検証能力の向上
AIはプログラミングコードを生成できるが、生成したコードを自らが検証することも可能。この検証能力を向上させることで、より精度の高い答えを出せるようになるとAndreesen氏は主張している。
（6）半導体不足の解消
AI向けの高性能半導体が供給不足になったことで、AIの進化の遅れが懸念されていたが、同氏によると半導体不足は次第に解消され始めているという。
（7）世の中にはまだまだ学習データが存在する
最先端の大規模言語モデルは、ネット上のデータをほぼすべて学習済み。なのでこれ以上AIは賢くならないという意見があるが、同氏は世の中にはネット上で公開されていないデータがまだまだ存在すると主張する。またオープンソースのデータセットでも質のいいものが増えてきているという。
（8）巨額投資が続いている
AIの研究開発に対する巨額の投資が続いているので、同氏によるとAIはまだまだ進化する見通しだという。
（9）優秀なエンジニア
AIモデル自体は研究者が開発するが、その改良に貢献するのがエンジニアだ。AIが注目を集めていることで、世界中の優秀なエンジニアがAIモデルの改良に取り組み始めているという。
（10）学習データ最適化
多くの大規模言語モデルは、あらゆるタイプのデータで学習しているが、Microsoftは重複データを削除したり高品質のデータに焦点を当てるなどの最適化手法を施したデータセットを準備。この方法で小規模ながら大規模モデルと同等の性能を実現させた。同氏は、今後同様の手法でAIモデルが進化する可能性が高いと指摘している。
こうした複数の改良が１つになってAIモデルの進化を促進している。Mark Andreesen氏は「こうした個々の改良が、劇的にAIを進化させる可能性がある。進化が止まるとは考えにくい」(20:26)と語っている。
一方でAIの利用コストが高額だという問題はどうだろう。OpenAIがこのほど発表したGPT-4oは、これまでの最新鋭AIモデルの半額で利用できるという。OpenAIのSam Altman氏によると、AIモデルのアルゴリズムの効率化に成功したからで、同氏は効率化が今後も進むと強調している。
AIの用途が限定的だというWall Street Journal紙の指摘はどうだろう。確かに生成AIの恩恵を最も受けているのはエンジニアで、次にリサーチャー。一般ビジネスマンの間では、「あまり使える場面がない」という意見が聞こえてくる。
しかし最新鋭のGPT-4oになってからは、使い勝手が非常によくなったという声も耳にするようになった。今後AIがさらに進化していく中で、一般ビジネスマンの生産性向上に役立つ場面も増えてくるのではないだろうか。