ソフトバンクの生成AIは「1兆パラメーター目指す」と宮川社長　“蒸留”して「研ぎ澄まされたLLMに」 – ITmedia NEWS

ソフトバンクの生成AIは1兆パラメーターを目指し、高精度で応答が早く消費電力が少ない「研ぎ澄まされたLLM」を実現すると宮川社長が語りました。

記事の概要

ソフトバンク子会社のSB Intuitionsが開発している国産大規模言語モデル（LLM）は、1兆パラメーター超えを目指すと宮川潤一社長が語った。
現在、開発中のLLMは1300億パラメーターに達し、2024年度中には3900億パラメーターの構築とマルチモーダル対応を目指す。
さらに、将来的には1兆パラメーターを超えるモデルを構築する予定であり、蒸留と呼ばれる手法を用いて計算効率を上げる考えだと説明されている。
目指すのは、商習慣や文化まで理解した高精度で応答が早く、消費電力が少ない生成AIである。

記事のポイント

1. 生成AIは1兆パラメーター目指す： ソフトバンクの生成AIは、1兆パラメーターを超える大規模なモデルを目指していると宮川社長が明らかにしました。
2. LLMのマルチモーダル化： 開発中のLLMは文書だけでなく、図表や符号、画像などの入力にも対応することを目指しています。
3. 研ぎ澄まされたLLMの実現： 宮川社長は、高い精度、迅速な応答、低消費電力など、日本の商習慣や文化まで理解した「研ぎ澄まされたLLM」を実現することを目指しています。

詳しい記事の内容はこちらから（引用元）

ITmedia NEWS

ソフトバンクの生成AIは「1兆パラメーター目指す」と宮川社長　“蒸留”して「研ぎ澄まされたLLMに」

ソフトバンク子会社のSB Intuitionsが開発している国産大規模言語モデル（LLM）は、1兆パラメーター超えを目指…