AI研究の第一人者Y・ベンジオ氏が非営利組織を設立–目指すは安全重視のAI開発 – ZDNET Japan

AI研究の第一人者Y・ベンジオ氏が設立した非営利組織LawZeroは、安全重視のAI開発を目指しています。
特に「Scientist AI」は、他のAIシステムを抑制する機能を持ち、AIの危険な行動を軽減する可能性があります。
社会におけるAIの安全性への新たなアプローチが期待されます。

記事の概要

人工知能（AI）研究の先駆者であるY・ベンジオ氏が、AIの安全性を重視した非営利組織「LawZero」を設立しました。
この組織は、AIシステムの安全性を考慮した研究と技術開発に取り組むことを目的としています。
特に「Scientist AI」という非エージェント型AIシステムの開発が初期の目標であり、他のAIシステムを抑制する機能を持つことを目指しています。
ベンジオ氏は、AIの過信やハルシネーションといった問題を軽減するための理論生成を行う設計を提案しています。
また、彼はAIの能力を抑制せずに放置した場合の社会的影響について懸念を示しており、最近のAIモデルにおける危険な挙動の増加を指摘しています。
LawZeroは、AI研究者や開発者に安全な方向性を選ぶよう促すことを願っています。

記事のポイント

1. 安全性重視のAI開発： Y・ベンジオ氏が設立した非営利組織LawZeroは、安全性を中心にしたAIシステムの研究推進に取り組んでいます。
2. 非エージェント型AIの提案： 新たに開発される「Scientist AI」は、他のAIシステムを抑制する機能を持ち、自律エージェントの監視を目的としています。
3. AIのリスク回避への貢献： Bengio氏は非エージェント型AIに注力することで、AIイノベーションの利点を享受しつつ、潜在的なリスクを回避できると提言しています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

AI研究の第一人者Y・ベンジオ氏が非営利組織を設立--目指すは安全重視のAI開発

AI研究の先駆者ヨシュア・ベンジオ氏が、AIの安全性に取り組む非営利組織LawZeroを設立した。初期の目標は、AIシス…