Perplexityは米国時間8月25日、ローカルAIモデルを使うエージェント「Portable Computer」を発表しました。
モデルやファイル、作業をユーザーのマシン上に置き、オンライン接続なしでタスクを処理できます。
Linux向けに提供を始め、9月中にはWindowsにも対応する見込みです。
記事の概要
Portable Computerは、2月にリリースした「Perplexity Computer」の新しいバージョンです。
標準的なAIコマンドや機能、ツールを利用し、ユーザーの介入をほとんど必要とせずにタスクを実行できます。
処理はマシン上の隔離されたサンドボックスで行われ、データ漏えいのリスクを軽減できます。
ローカルAIモデルはオンラインで動作するモデルより高速に動作し、素早い応答が可能です。
ローカル処理ではクレジットが課金されず、オンライン接続が必要な処理だけでクレジットやトークンを消費します。
「Googleドライブ」「Gmail」「Slack」「GitHub」などの外部サービスにも接続できます。
利用にはLinux環境とNVIDIA DGX Spark、またはNVIDIA RTXシリーズGPUを搭載したLinuxマシンが必要です。
記事のポイント
- ローカルで処理: モデル、ファイル、作業をユーザーのマシンに置き、隔離されたサンドボックスでAIエージェントの処理を実行します。
- オンライン接続を選択: 外部サービスには接続できますが、AIをオンライン接続するかどうかや接続時点はユーザーが判断します。
- 高いGPU要件: LinuxではNVIDIA DGX SparkまたはRTXシリーズGPUが必要で、Windowsでは24GB以上のVRAMが求められます。
このニュースがもたらす影響
- 導入検討企業: 機密性の高いファイルを扱う企業は、クラウドへの送信を抑えながら業務自動化を試せる一方、GPU調達費や対応環境を含めて導入効果を見極める必要があります。
- 同業サービス提供者: AIエージェントの競争軸が機能やモデル性能だけでなく、処理場所の選択、応答速度、利用コストへ広がる可能性があります。クラウドとの役割分担が問われそうです。
- 情報システム部門: 外部サービスとの接続を許可しつつ、どの処理をオンライン化するかを管理する運用が必要になります。サンドボックスだけでなく、接続先や利用者の判断基準も検討対象になりそうです。
このニュースの背景
クラウドAIでは、処理に伴うクレジットやトークンの消費、データ漏えいへの懸念が課題になります。
Portable Computerはモデルやファイル、作業をユーザーのマシン上に置き、隔離されたサンドボックスで処理する構成です。
外部サービスへの接続は可能ですが、AIをオンライン接続するかどうかや接続時点はユーザーが判断できます。
一方で、利用にはLinux環境と対応GPUが必要で、Windowsでも24GB以上のVRAMを備えたRTXシリーズGPUが求められます。
関連するニュース
- 株式会社イーゼが合同会社クロスコムと提携し、Agentforceの導入支援サービスを開始しました。
- 株式会社イーゼが生成AIプラットフォーム「Taskhub」の導入支援ページを公開しました。
- 日本HPと楽天グループが、オンデバイスAIとクラウドAIを使い分けるPC向けアプリを提供します。
詳しい記事の内容はこちらから(引用元)
Perplexityが、ローカルAIエージェント「Portable Computer」を発表した。ローカルAIモデルを活…
https://japan.zdnet.com/article/35251917/