記事の概要
Snowflakeは、Metaとの提携により、Llama 3.1 405Bという大規模オープンソース言語モデルをエンタープライズ向けにホストし、最適化することを発表しました。
この新しいシステムは、リアルタイムかつ高スループットな推論を可能にし、推論やファインチューニングを効率的に行うことができます。
具体的には、単一のGPUノードで大規模モデルをファインチューニングでき、12万8000トークンの大容量コンテキストをサポートします。
これにより、企業は複雑なインフラに頼ることなく、高度なAIアプリケーションを簡単に利用できるようになります。
さらに、SnowflakeはAIの安全性を重視し、Cortex Guardを導入して有害なコンテンツからの防御を強化しています。
この取り組みは、生成AIの活用を促進し、安全で信頼性のあるAIシステムの構築を目指しています。
記事のポイント
詳しい記事の内容はこちらから(引用元)
Snowflake合同会社のプレスリリース(2024年8月2日 11時00分)Snowflake Cortex AI、M…
https://prtimes.jp/main/html/rd/p/000000026.000116784.html