NEC、高速・高性能なLLM「cotomi Pro/cotomi Light」を開発
- 2024/4/24 11:22
- プレスリリース
■ベンチマークでトップレベルの性能を確認
NEC<6701>(東証プライム)は4月24日、大規模言語モデル(LLM)「cotomi」の新モデル「cotomi Pro」と「cotomi Light」を開発したと発表。これらはグローバルモデルと同等の性能を持ちながら、十数倍の速度で動作する。NECは、学習方式やアーキテクチャの工夫により、速度と性能の両立に成功している。
NECグループの約4万人の社員が生成AIの社内サービスを活用し、現実的なユースケースでの性能向上を実現。新モデルは、GPT-4やClaude2などのトップレベルモデルに匹敵する性能を、GPU2枚のインフラで約1/8のレスポンスタイムで提供する。
「cotomi Pro」と「cotomi Light」は、「ELYZA Tasks 100」「Japanese MT-Bench」の2つのベンチマークで評価され、日本のみならずグローバルでもトップレベルの性能を示した。NECは、推論性能と速度の両立を実現し、用途に応じた柔軟な構築が可能である。(情報提供:日本インタビュ新聞社・Media-IR 株式投資情報編集部)