阿里云推大規(guī)模視覺(jué)語(yǔ)言模型開(kāi)源,支持中英文多種語(yǔ)言
【資料圖】
阿里云于8月25日推出了大規(guī)模視覺(jué)語(yǔ)言模型Qwen-VL,該模型已在ModeScope開(kāi)源。此前,阿里云已經(jīng)開(kāi)源了通用模型Qwen-7B和對(duì)話模型Qwen-7B-Chat。Qwen-VL是一款支持中英文等多種語(yǔ)言的視覺(jué)語(yǔ)言模型,相較于此前的視覺(jué)語(yǔ)言模型,除了具備基本的圖文識(shí)別、描述、問(wèn)答及對(duì)話能力之外,還新增了視覺(jué)定位、圖像中文字理解等能力。Qwen-VL以Qwen-7B為基座語(yǔ)言模型,在模型架構(gòu)上引入視覺(jué)編碼器,使得模型支持視覺(jué)信號(hào)輸入,該模型支持的圖像輸入分辨率為448,此前開(kāi)源的視覺(jué)語(yǔ)言模型通常僅支持224分辨率。官方表示,該模型可用于知識(shí)問(wèn)答、圖像標(biāo)題生成、圖像問(wèn)答、文檔問(wèn)答、細(xì)粒度視覺(jué)定位等場(chǎng)景,在主流的多模態(tài)任務(wù)評(píng)測(cè)和多模態(tài)聊天能力評(píng)測(cè)中,取得了遠(yuǎn)超同等規(guī)模通用模型的表現(xiàn)。在Qwen-VL的基礎(chǔ)上,通義千問(wèn)團(tuán)隊(duì)使用對(duì)齊機(jī)制,打造了基于語(yǔ)言模型的視覺(jué)AI助手Qwen-VL-Chat,可讓開(kāi)發(fā)者快速搭建具備多模態(tài)能力的對(duì)話應(yīng)用。通義千問(wèn)團(tuán)隊(duì)同時(shí)表示,為了測(cè)試模型的多模態(tài)對(duì)話能力,他們構(gòu)建了一套基于GPT-4打分機(jī)制的測(cè)試集“試金石”,對(duì)Qwen-VL-Chat及其他模型進(jìn)行對(duì)比測(cè)試,Qwen-VL-Chat在中英文的對(duì)齊評(píng)測(cè)中均取得了開(kāi)源視覺(jué)語(yǔ)言模型最好結(jié)果。
關(guān)鍵詞:
相關(guān)新聞