- Home
- 新製品&新技術NOW
- 楽天、日本語に最適化された大規模言語モデル「Rakuten AI 2.0」と小規模言語モデル「Rakuten AI 2.0 mini」の提供を開始
楽天、日本語に最適化された大規模言語モデル「Rakuten AI 2.0」と小規模言語モデル「Rakuten AI 2.0 mini」の提供を開始
- 2025/2/13 07:52
- 新製品&新技術NOW
![](https://www.media-ir.com/news/wp-content/uploads/2022/03/b2.jpg)
■業界最高水準のスコアで効率化を実現
楽天グループ<4755>(東証プライム)は2月12日、Mixture of Experts(MoE)アーキテクチャを採用した新しい日本語大規模言語モデル「Rakuten AI 2.0」と小規模言語モデル「Rakuten AI 2.0 mini」の提供を開始したと発表。両モデルは基盤モデルとインストラクションチューニング済モデルとして提供され、楽天の公式Hugging Faceリポジトリからダウンロードが可能だ。
「Rakuten AI 2.0」のファインチューニングでは、最新の研究成果であるSimPOを活用してアライメントの最適化を実施。日本語版MT-Benchによる評価では、「Rakuten AI 2.0」インストラクションチューニング済モデルが同程度のアクティブパラメータ数を持つ他のモデルと比較して最高性能を達成した。また、「Rakuten AI 2.0 mini」も同サイズのオープンモデルの中で最高性能を示している。
新AIモデルの特徴として、「Rakuten AI 2.0」は8つの70億パラメータで構築した「エキスパート」と呼ばれるサブモデルで構成され、高品質な日本語と英語の言語データで継続的に学習されている。一方、「Rakuten AI 2.0 mini」は15億パラメータのモデルで、内製の多段階データフィルタリングとアノテーションプロセスを通して構築された高品質かつ広範な日本語・英語のテキストデータで学習されている。両モデルは、コンテンツの要約や質問応答、対話システムの構築など、様々なテキスト生成タスクでの商業利用が可能だ。(情報提供:日本インタビュ新聞社・株式投資情報編集部)