高市首相、Appleに子供向け生成AIの自殺防止機能を要請

高市早苗首相は10月2日、Appleのティム・クック氏らから手紙を受け取ったとXで明らかにしました。
首相は、子供や若者の自殺対策として、デバイス搭載の生成AIに自殺防止機能を実装するよう協力を求めました。
Appleは、深刻な悩みを抱える利用者を地域の支援窓口につなぐ取り組みや、子供向け安全対策を進めると説明しました。

記事の概要

高市首相は、子供や若者の自殺が深刻な課題になっていると説明しました。
悩みを抱える子供たちが生成AIに相談するケースが増えていることも伝えました。
海外で、生成AIに相談した若者の自殺が社会問題化した事例にも言及しました。
そのうえで、デバイスに搭載される生成AIに自殺防止対策に資する機能を実装するよう求めました。
Appleは、生成AIを含めて自殺の危険や深刻な悩みを抱える利用者を地域の支援窓口につなぐ取り組みを進めていると説明しました。
Appleは、子供向けの安全対策を含め、オンライン上で子供が安全に過ごせる機能の強化にも取り組むとしました。
ジョン・ターナスCEOも、生成AIの展開にあたって子供の安全確保に取り組み、日本政府と連携する考えを示しました。

記事のポイント

1. 政府がAppleに要請： 高市首相は、デバイス搭載の生成AIに自殺防止対策に資する機能を実装するようAppleに協力を求めました。
2. 支援窓口への接続： Appleは、深刻な悩みや自殺の危険を抱える利用者を地域の支援窓口につなぐ取り組みを進めています。
3. 子供の安全で連携： Appleは子供向け安全対策を強化し、日本政府とオンライン上の安全確保や自殺防止で連携する考えです。

このニュースがもたらす影響

• 政府・規制担当： 今回の要請は、生成AIを子供が相談先として使う現実を前提に、事業者の自主対策だけでなく、支援窓口への接続を政策課題として具体化する契機になる可能性があります。
• AI・端末事業者： 地域の支援窓口につなぐ機能を実効的にするには、子供の深刻な悩みを検知した後の案内先や連携方法を、提供地域ごとに設計する必要が生じそうです。
• 子供向けサービス： 子供向けサービスを提供する企業は、生成AIを相談手段として訴求するだけでなく、危機時に人や公的支援へ移す導線をどう組み込むか、設計段階から問われる可能性があります。

このニュースの背景

子供・若者の自殺が深刻な課題となるなか、悩みを抱える子供たちが生成AIに相談するケースが増えています。
海外では、生成AIに相談した若者の自殺が社会問題化した事例もあり、子供がAIを相談先として利用する際の安全対策が問われています。
こうした状況を受け、デバイスに搭載される生成AIを、地域の支援窓口など適切な支援につなげる仕組みが政策上の論点になっています。

関連するニュース

• AnthropicがAI開発の減速と第三者評価を提案し、OpenAIも同様の対応を表明しました。
• Anthropicの研究者らが、スーパーインテリジェンスによる人類滅亡リスクを警告し、米国では開発禁止法案の動きも進んでいます。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

高市首相、アップルに異例の要請　生成AIに“自殺防止”機能求める

高市早苗首相は10月2日、自身のXアカウントで米アップル社のティム・クック前CEOから手紙を受け取ったと明らかにした。…