「じゃらんnet」はいかにしてプロンプトインジェクションを防いでる？　Azure OpenAI Serviceの安全な活用法 – ITmedia エンタープライズ

旅行予約サイト「じゃらんnet」がプロンプトインジェクションを防ぐ方法について解説しています。
安心してAIチャットbotを活用するためのポイントが分かります。

記事の概要

旅行予約サイト「じゃらんnet」では、Azure OpenAI Serviceを利用したAIチャットbotサービスを提供している。
このサービスでは、プロンプトインジェクションという攻撃手法を防ぐためにスコアリングを使用している。
ユーザーの要望を分析し、関連性が低い場合は定型文を返している。
AIチャットでご提案は顧客の潜在的ニーズを把握するためのツールとして活用され、2週間で実装された後、数万人が利用している。
リクルートグループはAIの活用に関してリスクを評価し、顧客体験を向上させるための活用を進めていくと述べている。

記事のポイント

1. プロンプトインジェクション対策： 旅行予約サイト「じゃらんnet」では、AIチャットbotサービスを提供する際のプロンプトインジェクション対策が徹底されています。スコアリングによってプロンプトインジェクションを防いでおり、ユーザーからの要望に対して適切な応答を返す仕組みが採用されています。
2. ユーザーニーズの把握： 「じゃらんnet」のAIチャットでご提案サービスによって、ユーザーの検索ニーズを把握することができます。ユーザーの旅行のテーマや目的、移動方法などを基準に宿泊施設を提案するだけでなく、やりとりに関するコメントも入力できるため、サービスの改善点についても直接ユーザーの声を集めることができます。
3. 安全な活用の進め方： リクルートグループは、「生成AIの活用に関しては社内でもさまざまな意見がありますが、重要なことはリスクを適切に評価し、よりよい顧客体験を生み出すための活用を進めていくこと」と述べています。安全な活用のためには、リスク評価と顧客体験の向上を両立させることが重要であり、それを進めている姿勢が注目されます。

詳しい記事の内容はこちらから（引用元）

ITmedia エンタープライズ

「じゃらんnet」はいかにしてプロンプトインジェクションを防いでる？　Azure OpenAI Serviceの安全な活用法

旅行予約サイト「じゃらんnet」ではAzure OpenAI Serviceを基盤とするチャットAIサービスを試験提供し…