メタは、日常生活に真に適合し、強力な推論能力を持つことができる自律的な機械インテリジェンスを作成することを目的として、その大規模な言語モデルであるラマの開発を積極的に促進しています。この記事では、Llama4の非常に期待されている進歩を含む、LlamaモデルのMetaの改善戦略、トレーニング方法、および将来の計画について説明します。 Metaは、Llamaモデルを複雑なタスクを効率的に処理し、動的に変化する環境に適応できるAIシステムに構築することに取り組んでおり、人工知能の分野に大きな影響を与えます。
最近、メタのAI科学者のYann Lecunチーフは、自己マシンインテリジェンス（AMI）が人々の日常生活を真に助けることができると述べました。 Metaは、GPT-4oなどのトップモデルと競合することを望んで、Llamaモデルの推論能力の向上に取り組んでいます。
メタの副大統領マノハル・パルリは、ラマモデルを「計画」だけでなく、リアルタイムで決定を評価し、状態が変化したときに調整することを探求していると述べました。この反復アプローチは、「Think Chain」の技術を組み合わせて、認識、推論、計画を効果的に組み合わせることができる自律的な機械インテリジェンスを実現します。
さらに、Paluriは、「非検証不可能なドメイン」のAI推論では、モデルが動的に適応するために複雑なタスクを管理可能なステップに分割する必要があることを強調しています。たとえば、旅行を計画するには、フライトを予約するだけでなく、リアルタイムの天候の変更にも対処する必要があります。これは、ルートの再計画につながる可能性があります。また、メタは最近、デュアルフォーマーモデルを開始しました。これは、人間の認知中の速い直感とゆっくりとした思考を動的に切り替え、複雑なタスクを効果的に解決できます。
Llamaモデルのトレーニングに関して、Metaは自己監視学習（SSL）を使用します。これにより、モデルが複数の分野で幅広いデータ表現を学習するのに役立ち、柔軟性が得られます。一方、強化学習と人間のフィードバック（RLHF）により、モデルは特定のタスクでより洗練されたパフォーマンスを発揮します。この2つの組み合わせにより、特に言語の特徴が不足している領域で、高品質の合成データを生成する際に、Llamaモデルが顕著になります。
LLAMA4のリリースに関して、Meta CEOのMark Zuckerbergはインタビューで、チームがLLAMA4の事前トレーニングを開始したことを明らかにしました。彼はまた、MetaがLLAMA4のコンピューティングクラスターとデータインフラストラクチャを構築していると述べましたが、これは大幅な改善と予想されています。 Paluriは、Zuckerbergがリリースされたときに尋ねられた場合、AI開発における同社の急速な進歩を強調して「今日」と言うかもしれないとユーモラスに述べました。
Metaは、AI機能を継続的に改善するために、今後数か月で新しいLlamaバージョンを起動し続けることを望んでいます。頻繁に更新すると、開発者は各リリースの大幅なアップグレードを期待できます。
キーポイント：
-MetaのチーフAI科学者は、自律的な機械の知能が日常生活の改善に役立つと考えています。
-LLAMAモデルは、自己監督の学習と強化学習を組み合わせて、マルチフィールドの推論能力を向上させます。
-Llama4の事前トレーニングが始まり、2025年頃に発売される予定です。
全体として、ラマモデルにおけるメタの継続的な投資と革新は、人工知能の分野での野望を示しています。 Llamaモデルの将来の発展は楽しみにしており、その継続的に改善された能力は、人々の生活と仕事の方法に大きく影響します。