首頁>科技>資訊
深度學(xué)習(xí)平臺(tái)將為人工智能下一步發(fā)展提供長(zhǎng)足支持力?
6月13日,第三屆軟件創(chuàng)新發(fā)展大會(huì)在武漢召開,百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任吳甜分享了大模型時(shí)代給深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件帶來的變化。她表示,大模型效果不斷提升的背后是深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件的支持,飛槳等深度學(xué)習(xí)平臺(tái)的發(fā)展將為人工智能下一步發(fā)展提供長(zhǎng)足的支持
在主論壇環(huán)節(jié),吳甜分享道,大模型的爆發(fā)將人工智能推向一個(gè)新的高潮。大模型具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化等特點(diǎn),正在引領(lǐng)人工智能的發(fā)展。研發(fā)大模型,對(duì)深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件提出了新的挑戰(zhàn)。
大模型的研發(fā)需要深度學(xué)習(xí)平臺(tái)的支持,面對(duì)大模型的模型結(jié)構(gòu)、計(jì)算規(guī)模和學(xué)習(xí)機(jī)制等特點(diǎn),支撐大模型研發(fā)的深度學(xué)習(xí)平臺(tái)需要具備大規(guī)模并行計(jì)算、高性能推理部署、全流程工程化等三方面能力。以百度飛槳為例,飛槳作為百度自研的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開源開放平臺(tái),從核心框架、基礎(chǔ)模型庫,到端到端開發(fā)套件、工具與組件,以及星河社區(qū)等,全方面支持了文心大模型的演進(jìn)過程。
2018年底,百度就開展了大模型技術(shù)研發(fā),2019年3月正式發(fā)布文心大模型1.0,今年4月發(fā)布了最新的文心 4.5 Turbo和文心X1 Turbo。文心大模型的能力拓展和效率提升,得益于飛槳和文心的聯(lián)合優(yōu)化,包括框架模型的聯(lián)合優(yōu)化,也包括框架算力的聯(lián)合優(yōu)化。通過訓(xùn)練和推理的技術(shù)創(chuàng)新,文心4.5 Turbo訓(xùn)練吞吐達(dá)到文心4.5的5.4倍,推理吞吐達(dá)到8倍。
今年4月,飛槳框架迎來重大更新,發(fā)布了飛槳框架3.0正式版。飛槳框架3.0面向大模型和異構(gòu)多芯設(shè)計(jì),注重大模型訓(xùn)練推理性能、開發(fā)調(diào)優(yōu)過程和部署環(huán)境,具備動(dòng)靜統(tǒng)一自動(dòng)并行、大模型訓(xùn)推一體、科學(xué)計(jì)算高階微分、神經(jīng)網(wǎng)絡(luò)編譯器、異構(gòu)多芯適配五大新特性,為開發(fā)者打造了一站式、高性能的深度學(xué)習(xí)開發(fā)體驗(yàn)。
吳甜表示,基礎(chǔ)軟件平臺(tái)需要大量的開發(fā)者共建,飛槳正持續(xù)賦能開發(fā)者,飛槳AI Studio星河社區(qū)已上線700萬個(gè)實(shí)踐項(xiàng)目,600多門公開課以及400多場(chǎng)AI競(jìng)賽。
公開資料顯示,基于飛槳深度學(xué)習(xí)平臺(tái)和文心大模型,百度在上海、廣州、南京、武漢、廈門、寧波、南昌、無錫等多地落地產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心和教育創(chuàng)新中心,加快區(qū)域產(chǎn)業(yè)智能化升級(jí)。在武漢,百度飛槳已重點(diǎn)賦能229家企業(yè),拓展29家飛槳技術(shù)合作伙伴,培育出23個(gè)基于文心大模型/飛槳的生態(tài)AI產(chǎn)品。(崔呂萍)
編輯:馬嘉悅