Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告 – ITmedia NEWS

Microsoftのエンジニアが警告する、Copilotによる画像生成の危険性についての報道です。
AIのリスクとメリットに関する認識と教育の重要性を訴えています。

記事の概要

米Microsoftのエンジニア、シェイン・ジョーンズ氏が、自身のLinkedInに警告書簡を投稿し、Copilot Designerによる画像生成の危険性について米連邦取引委員会（FTC）に訴えた。
ジョーンズ氏は、Copilot Designerが暴力的な絵や性的な描写を含む画像を生成する可能性があり、安全性の問題や欠陥があることを指摘した。
また、ディズニーキャラクターが異なるコンテキストで描かれるなど、生成される画像の不適切さにも言及した。
ジョーンズ氏は、MicrosoftがCopilotを排除する意欲を持っていないため、公開書簡を投稿したと述べている。
Microsoftは、従業員からの報告を検討するために会議を開いたとコメントしている。

記事のポイント

1. Copilot Designerの危険性： MicrosoftのエンジニアがCopilot Designerの安全性について警告し、テスト結果としてライフルを持った十代の若者や女性の性的な描写を含む絵、薬物使用に関連する絵などが生成できてしまったことが明らかになりました。
2. MicrosoftとOpenAIの認識： シェイン・ジョーンズ氏の書簡によれば、MicrosoftとOpenAIはこの問題を認識しており、AIモデルを一般公開する前から問題を把握していたことが明らかになりました。
3. Microsoftの対応： Microsoftは従業員などからの報告を検討するための会議を開き、Designerのコンテンツ安全フィルターを強化すると述べています。また、テイラー・スウィフトの偽画像事件を受けても対策を取っていることが報じられています。

詳しい記事の内容はこちらから（引用元）

ITmedia NEWS

Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告

Microsoftの画像生成ツール「Designer」をレッドチームとしてテストしている従業員エンジニアが、このツールに…