ASCII.jp：NVIDIA、ローカルで動くチャットAI　その名も「Chat with RTX（RTXとおしゃべり）」

記事の概要

NVIDIAは、ローカルPC内のデータを利用して自分自身をカスタマイズできるAIチャットボット「Chat with RTX」を無償で提供すると発表しました。
利用にはNVIDIA GeForce RTX 30シリーズGPU以上を搭載したWindows PCが必要です。
この技術デモは、オープンソースの大規模言語モデルにローカルPCのコンテンツをデータセットとして接続することで、カスタマイズが可能です。
検索拡張生成やTensorRT-LLM、RTXアクセラレーションなどの技術が利用されており、文脈を持った回答を提供することができます。
さらに、YouTubeの動画やプレイリストからも情報を取得できます。
Chat with RTXは、Windows PC上でローカルに動作し、機密データを利用することができるため、クラウドへの流出の心配がありません。

記事のポイント

詳しい記事の内容はこちらから（引用元）

ASCII.jp

NVIDIA、ローカルで動くチャットAI　その名も「Chat with RTX（RTXとおしゃべり）」

NVIDIAは2月13日、ローカルPC内のデータを使い自らカスタマイズできるAIチャットボットを作成できる技術デモ「Ch…