注目キーワード

Snowflake Cortex AI、Metaとの協力により新たなフラッグシップモデルファミリーホスト・最適化

SnowflakeがMetaと提携し、Llama 3.1を活用した大規模言語モデルの推論とファインチューニングシステムを構築しました。
この新技術は、企業が効率的かつコスト効果高くAIアプリケーションを展開できるようにし、生成AIの民主化を促進します。
社会全体のAI活用が一層進む期待があります。

記事の概要

Snowflakeは、Metaとの提携により、Llama 3.1 405Bという大規模オープンソース言語モデルをエンタープライズ向けにホストし、最適化することを発表しました。
この新しいシステムは、リアルタイムかつ高スループットな推論を可能にし、推論やファインチューニングを効率的に行うことができます。
具体的には、単一のGPUノードで大規模モデルをファインチューニングでき、12万8000トークンの大容量コンテキストをサポートします。
これにより、企業は複雑なインフラに頼ることなく、高度なAIアプリケーションを簡単に利用できるようになります。
さらに、SnowflakeはAIの安全性を重視し、Cortex Guardを導入して有害なコンテンツからの防御を強化しています。
この取り組みは、生成AIの活用を促進し、安全で信頼性のあるAIシステムの構築を目指しています。

記事のポイント

  1. オープンソースの進化: SnowflakeはMetaとの協力により、最先端のオープンソースLLMであるLlama 3.1をエンタープライズ向けにホストし、推論とファインチューニングの効率を向上させます。
  2. リアルタイム処理の向上: 新たに開発された推論システムスタックにより、エンドツーエンドの遅延が最大で3分の1に削減され、より高速なAIアプリケーションの利用が可能になります。
  3. コストと複雑さの軽減: 単一のGPUノードで大規模モデルのファインチューニングが可能となり、企業は高額なインフラを必要とせずにAI技術を導入できるようになります。

詳しい記事の内容はこちらから(引用元)

プレスリリース・ニュースリリース配信シェアNo.1|PR TIMES

Snowflake合同会社のプレスリリース(2024年8月2日 11時00分)Snowflake Cortex AI、M…

Snowflake Cortex AI、Metaとの協力により新たなフラッグシップモデルファミリーホスト・最適化
https://prtimes.jp/main/html/rd/p/000000026.000116784.html

 

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG