阿里云宣布Qwen2開源 性能超美國開源模型Llama3

6月7日消息,阿里云今日宣布,比美國開源Llama3和中國閉源模型們更強的Qwen2今日開源,免費下載。

阿里云表示:歷經(jīng)數(shù)月努力,我們很高興迎來了Qwen系列模型從Qwen1.5到Qwen2的重大升級。這一次,我們?yōu)榇蠹規(guī)砹耍?/p>

* 5個尺寸的預(yù)訓(xùn)練和指令微調(diào)模型, 包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B以及Qwen2-72B;

* 在中文英語的基礎(chǔ)上,訓(xùn)練數(shù)據(jù)中增加了27種語言相關(guān)的高質(zhì)量數(shù)據(jù);

* 多個評測基準(zhǔn)上的領(lǐng)先表現(xiàn);

* 代碼和數(shù)學(xué)能力顯著提升;

* 增大了上下文長度支持,最高達到128K tokens(Qwen2-72B-Instruct)。

Qwen2-72B-Instruct能夠完美處理128k上下文長度內(nèi)的信息抽取任務(wù);Qwen2-7B-Instruct幾乎完美地處理長達128k的上下文;Qwen2-57B-A14B-Instruct則能處理64k的上下文長度;而該系列中的兩個較小模型則支持32k的上下文長度。

目前,上述Qwen2系列模型已在Hugging Face和ModelScope上同步開源。

阿里云強調(diào),此次采用不同的模型許可。除了Qwen2-72B依舊使用此前的Qianwen License外,其余模型,包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B以及Qwen2-57B-A14B在內(nèi),均采用Apache 2.0的許可。我們希望本次開放程度的提升能夠加速Q(mào)wen2在全球各地的落地及商業(yè)應(yīng)用。

2024-06-07
阿里云宣布Qwen2開源 性能超美國開源模型Llama3
阿里云今日宣布,比美國開源Llama3和中國閉源模型們更強的Qwen2今日開源,免費下載。阿里云表示:歷經(jīng)數(shù)月努力,我們很高興迎來了Qwen系列模型從Qwen1.5到Qwen2的重大升級。

長按掃碼 閱讀全文