AI企業、効率重視で小規模モデル導入によるコスト削減

大手テック企業やスタートアップは、現在、より小さく効率的なAIモデルに注力しています。当初は、OpenAIのGPT-4のような大量のパラメータを持ち、制作に1億ドル以上かかる非常に大きなモデルを目指していました。しかし、現在では、より少ないパラメータを持つ小型で低コストのモデルの開発に取り組んでいます。

マイクロソフトは、OpenAIのChatGPTで使用される無料モデルの100分の1のサイズであるPhiファミリーの小型モデルを提供しています。これらのモデルは、トレーニングと実行のコストが低く、それにもかかわらず優れた性能を誇ります。

小規模なAIモデルは限られたデータを使用し、特定のタスクに向けて設計されているため、このような特徴があります。

• コストパフォーマンスが高い
• 応答時間が短い
• 専門性がある

マイクロソフトのチーフコマーシャルオフィサーであるユスフ・メヘディ氏は、大規模なAIモデルの運用は長期的に見て維持するには費用がかかりすぎると述べました。

小型モデルはデバイス上で動作可能であるため、高価なクラウドのスーパーコンピュータが不要です。AppleはスマートフォンにAIを活用して、より高速で安全にしたいと考えています。他のテクノロジー企業も同様の取り組みを行っています。

費用対効果とパフォーマンスの利点

マイクロソフトは当初、生成AIに多額の投資を行いましたが、大規模モデルは予想以上にコストがかかることがわかりました。一方で、Phiのような小規模モデルは、必要なデータと計算能力が少なくて済むため、費用対効果が高いです。今年、GoogleやMistral、Anthropic、Cohereといったスタートアップも小規模モデルを発表しています。

小型モデルを利用すると、コストを大幅に削減することができます。AI21 Labsの共同創設者であるヨアブ・ショハム氏は、大型モデルに比べてこれらのモデルは6分の1のコストで質問に答えることができると述べています。小型モデルは、法律文書や社内コミュニケーションなど特定のデータセットにカスタマイズすることで、ほぼ同じ質をより低コストで提供できます。

小型モデルについての重要な点は次のとおりです。

データ量を少なく、学習費用を抑え、特定のタスクに効率的に対応することができます。

関連記事:

2024年11月21日 · 10:27

米国がAI革新で中国を凌駕、スタンフォード報告書が示す

エクスペリアンは、AIチャットボットを大型モデルから<強調>小型モデル</強調>に変更しました。データ責任者のアリ・カーン氏によると、小型モデルでも同様に機能し、コストを大幅に削減できたとのことです。また、小型モデルの方が誤った回答を出す可能性が低く、効率的であるとされています。

現在のトレンドが今後の動向を決定づけています。

大規模AIモデルの進展が停滞しており、小規模なモデルが発展する機会が生まれています。OpenAIがGPT-4を発表して以来、大規模モデルには大きな進歩が見られません。トレーニング用に利用できる新しい高品質なデータの不足が、この停滞の原因となっています。

マイクロソフトは現在、AIの効率化に注力しています。マイクロソフトでPhiモデルプロジェクトを率いるセバスティアン・ビューベック氏は、今の時期には効率性に焦点を当てることが重要だと述べています。

要約すると：

大規模モデルの進展が鈍化する中、効率性への注目が高まっています。また、小規模モデルが特定のタスクをうまくこなしています。

企業は新しい方向に進んでいるものの、依然として大規模なモデルを活用しています。AppleやMicrosoftは、自社製品にOpenAIの技術を取り入れていますが、AIの提供内容全体から見れば、それはほんの一部に過ぎません。Appleはまた、最近のプレゼンテーションでAIのアップデートについて短く言及しました。

より小型で専門的なAIモデルへの移行は、大規模で派手なデモンストレーションを作成することから、ビジネスにとって有用で手頃な価格のAIを構築する方向への変化を示しています。現在の焦点は、実際の用途に向けられ、AIを日常の作業において簡単に利用可能で効率的にすることにあります。 WSJ によると。