東京発Sakana AIが新たな「Transformer」を提案、12月から1月のAI最新論文

Sakana AIが新提案した「Transformer2」は、自律的にタスクを理解し適応する能力を備えています。
この革新技術は、AIの柔軟性を大幅に向上させ、教育や業務効率化に貢献する可能性があります。
世界中の研究者が注目する理由がここにあります。

記事の概要

東京を拠点とするSakana AIと東京科学大学の研究チームは、2025年1月9日に新しいフレームワーク「Transformer2」を発表しました。
このフレームワークは、大規模言語モデル（LLM）が自律的にタスクを理解し、リアルタイムに適応する能力を持っています。
特に、数学やコーディングなどの多様なタスクに柔軟に対応できることが特徴です。
また、Transformer2は2段階の推論プロセスを採用し、エキスパートベクトルを動的に組み合わせてタスクを実行する仕組みがあります。
さらに、米Metaの研究チームも「メモリー層」を提案し、AIモデルの知識を問うタスクにおける回答精度を向上させる手法を発表しました。
これらの研究は、AI技術の進化に寄与し、事業モデルの構築においても重要な役割を果たしています。

記事のポイント

1. 新しいフレームワークの発表： Sakana AIと東京科学大学が自律的にタスクを理解する新しいフレームワーク「Transformer2」を発表しました。
2. SNSでの注目度： Transformer2に関する論文がSNSで最も多く言及され、注目を集めています。
3. 効率的なファインチューニング技術： 新たに提案された「Singular Value Fine-tuning」により、少量のデータで効率的な学習が可能になりました。

詳しい記事の内容はこちらから（引用元）

日経クロステック（xTECH）

東京発Sakana AIが新たな「Transformer」を提案、12月から1月のAI最新論文

　東京を拠点とするSakana AIと東京科学大学の研究チームは、大規模言語モデル（LLM）が自律的にタスクを理解し、リ…