2025年7月23日、Alibabaはコーディングに特化した新しい大規模言語モデル「Qwen3-Coder」を発表しました。このモデルは、パラメータ数が4800億、アクティブパラメータ数が350億で、Claude Sonnet 4に匹敵する性能を持つとされています。
Qwen3-Coderの特長
-
広大なコンテキスト長のサポート: ネイティブで256Kトークンをサポートし、拡張技術「YaRN」により最大100万トークンまで対応可能です。これにより、リポジトリ全体の理解が求められる大規模なコーディングタスクに最適です。
-
多くのプログラミング言語に対応: C++、Java、Python、Ruby、Swift、ABAPなど、358ものプログラミング言語をサポートしています。
-
エージェントコーディング用ツール: Qwen Codeというコマンドラインツールがオープンソース化されており、Gemini Codeを基に開発されています。
性能と学習データの背景
Qwen3-Coderは、ソフトウェアエンジニアリングタスクで新たな最高水準の記録を樹立したと述べられています。事前学習には7兆5000億トークンのデータが使用され、その70%がコードで構成されています。さらに、データの品質向上に向けた工夫も行われています。
- 強化学習の導入: コードの成功率を向上させるために、コード強化学習（Code RL）や長期的な視野での強化学習を採用しています。
モデルの入手方法
現在、Qwen3-Coderは「Qwen3-Coder-480B-A35B-Instruct」としてHugging FaceやModelScopeで利用可能です。推論の効率化のためにFP8量子化モデルも提供されています。また、Alibaba CloudのAPIを介して直接アクセスすることもできます。
Qwen3-Coderは、特にコーディングやソフトウェア開発の分野での新たな可能性を示す革新的な技術です。
🧠 編集部より：
中国Alibabaが発表したコーディング特化型モデル「Qwen3-Coder」
2025年7月23日、Alibabaは彼らの大規模言語モデル「Qwen」シリーズの新しい成果として、コーディングに特化したエージェントモデル「Qwen3-Coder」を発表しました。このモデルは、パラメータ数4800億、アクティブパラメータ数350億の「Qwen3-Coder-480B-A35B-Instruct」を含み、コーディング特化型においては最先端の性能を発揮することが期待されています。
Qwen3-Coderの特徴
-
ビッグデータ学習: このモデルは、約7兆5000億トークンのデータを用いて訓練され、その70%がコードで構成されています。この大規模なデータセットのおかげで、モデルのコーディング能力は非常に高いとされています。
-
拡張性: 「YaRN（Yet another RoPE-based scaling method）」という技術により、最大100万トークンまでのコンテキストをサポートでき、リポジトリ全体など大規模なタスクにも臨機応変に対応可能です。
-
多言語対応: C++、Java、Python、Ruby、Swift、ABAPなど、358のプログラミング言語をサポートしています。
-
エージェントコーディング用ツール: 新たに開発されたコマンドラインツール「Qwen Code」は、エージェントコーディングをサポートし、Gemini Codeをフォークして作られました。
-
高性能評価: Alibabaによると、Qwen3-CoderはSWE-Bench Verifiedのテストにおいて、競合するモデルと同等のスコアを達成しました。
補足情報と背景
-
強化学習の導入: Qwen3-Coderでは、実世界のコーディングタスクに対して強化学習を適用し、コード実行の成功率の向上を図っています。これにより、長期的な視野に基づくタスク処理も可能となっています。
-
研究の進展: モデルの開発は、Alibabaの先進的なクラウドインフラを活用しており、約2万種類もの環境を並列で実行できる体制が整えられています。
-
エコシステムの構築: Qwen3-Coderはオープンソース化されており、GitHubなどでアクセスできるため、開発者コミュニティとのコラボレーションによるさらなる発展が期待されます。
参考リンク
今後もこれらの技術がどのように進化していくのか、目が離せませんね。
-
キーワード: Qwen3-Coder
※以下、出典元 ▶ 元記事を読む
Views: 0
