Perplexity、ローカルAIエージェント「Portable Computer」を提供

Perplexityは米国時間8月25日、ローカルAIモデルを使うエージェント「Portable Computer」を発表しました。
モデルやファイル、作業をユーザーのマシン上に置き、オンライン接続なしでタスクを処理できます。
Linux向けに提供を始め、9月中にはWindowsにも対応する見込みです。

記事の概要

Portable Computerは、2月にリリースした「Perplexity Computer」の新しいバージョンです。
標準的なAIコマンドや機能、ツールを利用し、ユーザーの介入をほとんど必要とせずにタスクを実行できます。
処理はマシン上の隔離されたサンドボックスで行われ、データ漏えいのリスクを軽減できます。
ローカルAIモデルはオンラインで動作するモデルより高速に動作し、素早い応答が可能です。
ローカル処理ではクレジットが課金されず、オンライン接続が必要な処理だけでクレジットやトークンを消費します。
「Googleドライブ」「Gmail」「Slack」「GitHub」などの外部サービスにも接続できます。
利用にはLinux環境とNVIDIA DGX Spark、またはNVIDIA RTXシリーズGPUを搭載したLinuxマシンが必要です。

記事のポイント

  1. ローカルで処理: モデル、ファイル、作業をユーザーのマシンに置き、隔離されたサンドボックスでAIエージェントの処理を実行します。
  2. オンライン接続を選択: 外部サービスには接続できますが、AIをオンライン接続するかどうかや接続時点はユーザーが判断します。
  3. 高いGPU要件: LinuxではNVIDIA DGX SparkまたはRTXシリーズGPUが必要で、Windowsでは24GB以上のVRAMが求められます。

このニュースがもたらす影響

  • 導入検討企業: 機密性の高いファイルを扱う企業は、クラウドへの送信を抑えながら業務自動化を試せる一方、GPU調達費や対応環境を含めて導入効果を見極める必要があります。
  • 同業サービス提供者: AIエージェントの競争軸が機能やモデル性能だけでなく、処理場所の選択、応答速度、利用コストへ広がる可能性があります。クラウドとの役割分担が問われそうです。
  • 情報システム部門: 外部サービスとの接続を許可しつつ、どの処理をオンライン化するかを管理する運用が必要になります。サンドボックスだけでなく、接続先や利用者の判断基準も検討対象になりそうです。

このニュースの背景

クラウドAIでは、処理に伴うクレジットやトークンの消費、データ漏えいへの懸念が課題になります。
Portable Computerはモデルやファイル、作業をユーザーのマシン上に置き、隔離されたサンドボックスで処理する構成です。
外部サービスへの接続は可能ですが、AIをオンライン接続するかどうかや接続時点はユーザーが判断できます。
一方で、利用にはLinux環境と対応GPUが必要で、Windowsでも24GB以上のVRAMを備えたRTXシリーズGPUが求められます。

関連するニュース

詳しい記事の内容はこちらから(引用元)

ZDNET Japan

Perplexityが、ローカルAIエージェント「Portable Computer」を発表した。ローカルAIモデルを活…

Perplexity、ローカルAIエージェント「Portable Computer」を発表 – ZDNET Japan
https://japan.zdnet.com/article/35251917/

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG