目次
1. イントロダクション
2. Gemini：OpenAIのGPTよりも能力が高いシステム
3. Alphagoと大規模言語モデルの強み
4. YouTube動画でのGeminiのトレーニング
5. Geminiのマルチモダリティと印象的な能力
6. Robocat：ロボット操作のための自己改善エージェント
7. AGIのタイムラインと改善の可能性
8. Geminiの計画と問題解決能力
9. DeepMindの極端なリスク論文と長期的な計画
10. Demis Hassabis氏のAIの潜在的な利益とリスクに関する見解
**Gemini：OpenAIのGPTよりも能力が高いシステム**
Google DeepMindの責任者であるDemis Hassabis氏は、最近のWired Magazineのインタビューで、彼らの新しいシステムであるGeminiが、OpenAIのChachi PTを超える能力を持つと豪語しました。Hassabis氏と彼のチームは、alphagoタイプのシステムの強みと大規模モデルの驚異的な言語能力を組み合わせることを目指しています。この融合がどのように機能するかについて掘り下げる前に、Sundar Pichai氏がGeminiの発表をした背景を説明しましょう。
Pichai氏によると、Googleは安全性と責任を優先するより能力の高いシステムの構築に注力しています。彼らの次世代モデルであるGeminiは、まだトレーニング中ですが、以前のモデルにはない印象的なマルチモーダルな能力を既に示しています。Pichai氏はまた、興味深い開発が約束されている新しいイノベーションを示唆しました。これらの主張を単なる話として片付ける人もいるかもしれませんが、DeepMindの実績を思い出すことが重要です。彼らはAlphaGo、AlphaZero、AlphaStar、そして特にプラスチック汚染や抗生物質耐性の戦いに重要な影響を与えたAlphaFoldとAlphaFold 2など、画期的な成果の背後にいました。
Geminiのマルチモダリティは、YouTube動画でのトレーニングによって向上することが期待されています。OpenAIもテキストのトランスクリプト、音声、画像、コメントなどのデータをYouTubeから収集しています。Google DeepMindがトレーニングデータ以外にもYouTubeを利用する可能性があるかどうかは興味深いところです。最近、DeepMindはロボット操作のための自己改善エージェントであるRobocatに関する論文を発表しました。この論文は、適応とゼロショット学習の両方を通じて、新しいタスクやロボットに汎化する能力を示しています。特に、モデル自体が後続のトレーニングイテレーションのためのデータを生成できるため、自己改善の基本的なビルディングブロックを形成しています。
モデルをデータ生成に使用するという概念は、Microsoftの「Textbooks are all you need」論文の著者の1人であるRonan Eldan氏との会話を思い出させました。私たちはAGIのタイムラインについて話し、Ronan氏は既存のデータと合成データの潜在的な余地がまだあるという信念を表明しました。これは、AlphaZeroのような自己改善メカニズムのアイデアと一致しています。検証プロセスでトレーニングモデルを使用し、より多くのデータを生成することで、重要な進歩が生まれる可能性があります。
Geminiに戻ると、Hassabis氏が言及した計画の側面は、DeepMindの以前のシステムと共鳴しています。Geminiは、マルチモーダルで高効率で、ツールやAPIと統合できるように設計されています。GPT-4のような言語モデルとAlphaGoで使用される技術を組み合わせることで、チームはGeminiに計画と問題解決能力を含む新しい能力を装備することを望んでいます。ただし、DeepMindの最近の極端なリスク論文では、長期的な計画を危険な能力として特定しています。予期しない障害や対抗者に対して計画を適応させる能力は、慎重な評価が必要な課題を提起します。
記事はまた、検索と計画の面でGPT-4のような言語モデルの制限に触れています。GPT-4は初期の回答を提供するかもしれませんが、常にモデルの全体的なポテンシャルを反映するわけではありません。Smart GPTや自己整合性のような手法は、最初の出力が最良ではないことを示し、さらなる探索が優れた結果を生むことができることを示しています。これは、AlphaGoで見られる枝分かれメカニズムのアイデアと一致しています。代替パスを探索し、バックトラックすることで、より良い解決策につながることがあります。
Geminiの可能性と言語モデルの進歩を組み合わせることで、さまざまなドメインでのパフォーマンスの向上が期待されます。ただし、GPT-4の現在の制限は明らかであり、検索と計画能力の継続的な研究と進歩によって改善の可能性があります。
AIモデルの成長に伴い、その膨大なパワーに関連する影響やリスクに対処することが重要です。Hassabis氏は、新しいAIモデルの制御可能性と能力を決定する評価テストに対する緊急の研究の必要性を認めています。DeepMind、OpenAI、Anthropocは、Ian Hogarth氏が率いる英国AIタスクフォースに彼らのFoundationモデルへの早期アクセスを提供することで、安全性を確保し、学術界、企業、政府の取り組みを調整することを目指しています。
Hassabis氏とのインタビューは、AIの潜在的な危険に関する懸念のレベルについての考えを呼び起こす問いかけで締めくくられます。誰も未来を確実に予測することはできませんが、Hassabis氏はAIが急速に進展するにつれて、安全保障策の開発が必要であることを強調しています。Geminiや他のシステムに関する継続的な作業は、安全性と成功に対するコミットメントを示しています。ただし、評価と予防措置に割り当てられるリソースについての明確な理解が必要です。透明性と協力は、ますます能力の高いAIシステムがもたらす課題に対処するための鍵となります。
ハイライト
- Google DeepMindの新しいシステムであるGeminiは、OpenAIのChachi PTを超える能力を持つと期待されています。
- alphagoタイプのシステムと大規模モデルの強み
