Perplexity、米国で警察など公共安全機関にAI導入–効率化の裏で専門家が危惧する理由 – ZDNET Japan

Perplexityが警察など公共安全機関にAIを導入する取り組みを開始しました。
これにより業務効率化が期待されますが、誤情報生成やハルシネーションのリスクが懸念されています。
AIの責任ある利用が求められる中、社会への影響が大きい問題として議論が必要です。

記事の概要

AIスタートアップのPerplexityは、公共安全機関向けに自社のAI技術を提供する新プログラム「Perplexity for Public Service Organizations」を発表しました。
このプログラムでは、警察官がリアルタイムで適切な意思決定を行い、業務の効率化を図ることを目的としています。
しかし、専門家はAIの導入に伴うリスクを懸念しています。
特に、AIが不正確な情報を生成する可能性や、重大な意思決定に影響を与える点が問題視されています。
具体的には、ハルシネーションによる誤情報が冤罪を引き起こす危険性が指摘されています。
AIの利用に関する責任は、ユーザーや政策立案者にあり、今後の規制や指針の整備が求められています。
Perplexityの取り組みは初の試みですが、他社も同様の動きに追随する可能性が高いと考えられています。

記事のポイント

1. AI導入による業務効率化： Perplexityは、警察など公共安全機関にAI技術を提供し、業務の効率化を図る新たなプログラムを開始しました。
2. リスク管理の重要性： AIの導入にはハルシネーションや文化的バイアスが伴い、法執行機関においては些細なミスが重大な結果を招く可能性があるため、リスク管理が求められています。
3. 政策立案者の責任： AIを利用するための法律や規則が不足している現状に対し、政策立案者が責任を持つべきという意見が示されています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

Perplexity、米国で警察など公共安全機関にAI導入--効率化の裏で専門家が危惧する理由

AIスタートアップのPerplexityは、警察などの公共安全機関向けにAI導入支援を開始した。事務作業の効率化が期待さ…