Citadel AI、大規模言語モデル評価ツール「Lens for LLMs」を商用リリース : – ASCII STARTUP

Citadel AIが大規模言語モデル評価ツール「Lens for LLMs」を商用リリースしました。
このツールは生成AIのリスクを可視化し、安全性の向上に寄与します。
特に、セキュリティリスクやカスタムメトリクスの強化により、企業が安心してAIを導入できる環境を整備する点が注目されます。

記事の概要

Citadel AIは、大規模言語モデル（LLM）の評価ツール「Lens for LLMs」の商用版をリリースしました。
このツールは、自動評価と目視評価を融合させ、高速かつ精度の高い評価を提供します。
生成AIのリスクを可視化し、継続的なモニタリングを行うことで、安全な生成AIの普及を目指しています。
セキュリティ対策やカスタムメトリクス機能が強化され、21種類の自動レッドチーム機能が追加されました。
また、ヒューマン・イン・ザ・ループの仕組みを活用し、現場の知見を評価に反映させることで、信頼性の向上を図っています。
さらに、バージョンごとのパフォーマンスを即座に可視化する機能も搭載されており、品質改善の進捗を把握しやすくなっています。

記事のポイント

1. LLM品質改善の新ツール： Citadel AIが商用版「Lens for LLMs」をリリースし、LLMの品質向上を目指します。
2. セキュリティ強化機能： 21種類の自動レッドチーム機能を追加し、セキュリティリスクへの対策を強化しました。
3. ヒューマン・イン・ザ・ループ： 人手評価機能を拡充し、現場の知見を評価に反映することで信頼性を向上させます。

詳しい記事の内容はこちらから（引用元）

Citadel AI、大規模言語モデル評価ツール「Lens for LLMs」を商用リリース

Citadel AIが、LLM評価ツール「Lens for LLMs」を商用化。…