ASCII.jp：NVIDIA、ローカルで動くチャットAI　その名も「Chat with RTX（RTXとおしゃべり）」

NVIDIAが無償公開した「Chat with RTX」は、ローカルPC内のデータを使ってAIチャットボットを作成できる技術デモです。
ローカルファイルやYouTubeからの情報を活用し、迅速かつ機密データの流出を心配せずに利用できます。

記事の概要

NVIDIAは、ローカルPC内のデータを利用して自分自身をカスタマイズできるAIチャットボット「Chat with RTX」を無償で提供すると発表しました。
利用にはNVIDIA GeForce RTX 30シリーズGPU以上を搭載したWindows PCが必要です。
この技術デモは、オープンソースの大規模言語モデルにローカルPCのコンテンツをデータセットとして接続することで、カスタマイズが可能です。
検索拡張生成やTensorRT-LLM、RTXアクセラレーションなどの技術が利用されており、文脈を持った回答を提供することができます。
さらに、YouTubeの動画やプレイリストからも情報を取得できます。
Chat with RTXは、Windows PC上でローカルに動作し、機密データを利用することができるため、クラウドへの流出の心配がありません。

記事のポイント

1. AIチャットボットの開発： NVIDIAがローカルPC内で動作するAIチャットボット「Chat With RTX」を無償公開しました。
2. ローカルデータの活用： Chat With RTXは、ローカルPC内のデータをデータセットとして利用できるため、自身でAIをカスタマイズすることが可能です。
3. 多様な情報ソースの利用： Chat With RTXは、テキストファイルやYouTubeの動画・プレイリストから情報を取得し、回答に活用することができます。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

NVIDIA、ローカルで動くチャットAI　その名も「Chat with RTX（RTXとおしゃべり）」

NVIDIAは2月13日、ローカルPC内のデータを使い自らカスタマイズできるAIチャットボットを作成できる技術デモ「Ch…