研究：GPT-4 在執(zhí)行多項(xiàng)現(xiàn)實(shí)任務(wù)中擊敗其他大語(yǔ)言模型

本文概要:

1. GPT-4在大型語(yǔ)言模型中表現(xiàn)出色，取得最高總分4.41。

2. GPT-4在幾乎所有領(lǐng)域都領(lǐng)先于其他模型，只有在網(wǎng)購(gòu)任務(wù)中，GPT-3.5表現(xiàn)更好。

(資料圖片僅供參考)

3. 開源模型整體表現(xiàn)不佳，遠(yuǎn)遠(yuǎn)落后于商業(yè)模型和 GPT-3.5。

市面上已經(jīng)有有許多商業(yè)和開源的文本生成人工智能。現(xiàn)在專門為測(cè)試輔助任務(wù)開發(fā)的基準(zhǔn)測(cè)試表明，GPT-4在這一領(lǐng)域脫穎而出。

編程客棧（）8月11日 消息:最新的研究顯示，在 “現(xiàn)實(shí)世界語(yǔ)用任務(wù)” 中，GPT-4在大型語(yǔ)言模型中表現(xiàn)出色。研究團(tuán)隊(duì)使用一個(gè)名為 “AgentBench” 的基準(zhǔn)測(cè)試對(duì)多個(gè)提供商的25個(gè)大型語(yǔ)言模型以及開源模型進(jìn)行了測(cè)試。

“AgentBench”是專門為衡量大語(yǔ)言模型在“現(xiàn)實(shí)世界語(yǔ)用任務(wù)”中的輔python助能力而設(shè)計(jì)的標(biāo)準(zhǔn)化測(cè)試。所有測(cè)試均在實(shí)時(shí)交互環(huán)境中進(jìn)行。這使得該基準(zhǔn)特別適合其想要測(cè)量的內(nèi)容:大型語(yǔ)言模型處理總共八個(gè)領(lǐng)域的各種日常任務(wù)的能力。

操作系統(tǒng):LLM必須執(zhí)行與計(jì)算機(jī)操作系統(tǒng)的使用相關(guān)的任務(wù)。

數(shù)據(jù)庫(kù):這個(gè)環(huán)境是關(guān)于LLM如何與數(shù)據(jù)庫(kù)合作。

知識(shí)圖:此環(huán)境測(cè)試LLM如何使用知識(shí)圖。

數(shù)字卡牌游戲:這測(cè)試了LLM對(duì)數(shù)字卡牌游戲和制定策略的理解程度。

橫向思維難題:此挑戰(zhàn)測(cè)試法學(xué)碩士在解決問(wèn)題時(shí)的創(chuàng)造力。這要求他們跳出框框思考。python

預(yù)算:此場(chǎng)景涉及基于 Alfworld 數(shù)據(jù)集的預(yù)算中發(fā)生的任務(wù)。

互android聯(lián)網(wǎng)購(gòu)物:此場(chǎng)景測(cè)試LLM在與在線購(gòu)物相關(guān)的任務(wù)上的表現(xiàn)。

網(wǎng)頁(yè)瀏覽:基于 Mind2Web 數(shù)據(jù)集，此場(chǎng)景測(cè)試LLM執(zhí)行與使用互聯(lián)網(wǎng)相關(guān)的任務(wù)的能力。

結(jié)果顯示，GphpPT-4以最高總分4.41領(lǐng)先于其他模型，在幾乎所有領(lǐng)域都表現(xiàn)出色，只在網(wǎng)購(gòu)任務(wù)中稍遜于 GPT-3.5。

競(jìng)爭(zhēng)對(duì)手 Anthropic 的 Claude 模型緊隨其后，總得分為2.77，領(lǐng)先于 OpenAI 的免費(fèi) GPT-3.5Turbo 模型。商業(yè)模型的平均得分為2.24。與開源模型相比，GPT-4的優(yōu)勢(shì)更加明顯，開源模型的平均得分只有0.42。

研究人員指出，開源模型在所有復(fù)雜任務(wù)中普遍表現(xiàn)不佳，遠(yuǎn)遠(yuǎn)落后于 GPT-3.5。研究團(tuán)隊(duì)將工具包、數(shù)據(jù)集和基準(zhǔn)測(cè)試環(huán)境提供給研究界，以編程客棧便進(jìn)行更廣泛的性能比較。

關(guān)鍵詞：