Hugging Faceの新モデル「SmolVLM」は、わずか5.02GBのGPU RAMで画像とテキストを処理し、高い効率性を実現しています。
コスト削減が進むことで、企業のAI導入が加速し、幅広い分野での利用が期待されます。
これはAI技術の普及に大きな影響を与えるでしょう。
記事の概要
Hugging Faceが最新の小型AIモデル「SmolVLM」を発表しました。
このモデルは、ビジョンとテキストタスクにおいて高い性能を持ちながら、メモリ使用量を大幅に削減しています。
SmolVLMは、22億5,000万パラメータを持ち、必要なGPU RAMはわずか5.02GBで、競合モデルに比べて圧倒的な効率性を誇ります。
特に、画像圧縮技術を駆使することで、少ないトークンで画像とテキストを処理できる点が特長です。
また、新たに提案された「テストタイム・スケーリング」手法により、小型モデルの性能向上も期待されています。
これにより、AIが「考える時間」を活用し、より正確な回答を導き出す試みが進行中です。
今後の研究開発により、さらなる性能向上が期待されます。
記事のポイント
- コスト削減効果: SmolVLMは、従来のモデルに比べて入力トークンあたりのコストを10分の1に削減することが可能です。
- 小型高性能モデルの進化: SmolVLMは、画像とテキストを処理できるマルチモーダルモデルでありながら、必要なGPU RAMが非常に低く抑えられています。
- 新しい技術アプローチ: Hugging Faceは「テストタイム・スケーリング」という新しい手法を開発し、小型モデルでも高い性能を引き出すことに成功しました。
詳しい記事の内容はこちらから(引用元)
https://ampmedia.jp/2025/02/08/smolvlm/