注目キーワード

Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告 – ITmedia NEWS

AI記事キュレーション

Microsoftのエンジニアが警告する、Copilotによる画像生成の危険性についての報道です。
AIのリスクとメリットに関する認識と教育の重要性を訴えています。

記事の概要

米Microsoftのエンジニア、シェイン・ジョーンズ氏が、自身のLinkedInに警告書簡を投稿し、Copilot Designerによる画像生成の危険性について米連邦取引委員会（FTC）に訴えた。
ジョーンズ氏は、Copilot Designerが暴力的な絵や性的な描写を含む画像を生成する可能性があり、安全性の問題や欠陥があることを指摘した。
また、ディズニーキャラクターが異なるコンテキストで描かれるなど、生成される画像の不適切さにも言及した。
ジョーンズ氏は、MicrosoftがCopilotを排除する意欲を持っていないため、公開書簡を投稿したと述べている。
Microsoftは、従業員からの報告を検討するために会議を開いたとコメントしている。

記事のポイント

  1. Copilot Designerの危険性： MicrosoftのエンジニアがCopilot Designerの安全性について警告し、テスト結果としてライフルを持った十代の若者や女性の性的な描写を含む絵、薬物使用に関連する絵などが生成できてしまったことが明らかになりました。
  2. MicrosoftとOpenAIの認識： シェイン・ジョーンズ氏の書簡によれば、MicrosoftとOpenAIはこの問題を認識しており、AIモデルを一般公開する前から問題を把握していたことが明らかになりました。
  3. Microsoftの対応： Microsoftは従業員などからの報告を検討するための会議を開き、Designerのコンテンツ安全フィルターを強化すると述べています。また、テイラー・スウィフトの偽画像事件を受けても対策を取っていることが報じられています。

詳しい記事の内容はこちらから（引用元）

ITmedia NEWS
Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告

Microsoftの画像生成ツール「Designer」をレッドチームとしてテストしている従業員エンジニアが、このツールに…

Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告 – ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2403/07/news090.html

 

最新情報をチェックしよう！

AI記事キュレーションの最新記事8件

>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします！
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG