3月23日，由傳智教育與科大訊飛聯(lián)合組織的大模型實(shí)戰(zhàn)應(yīng)用之“AI開發(fā)者 TALK·北京站”在海淀舉辦。本次活動(dòng)圍繞“大模型應(yīng)用”展開探討，旨在為廣大AI開發(fā)者提供一個(gè)交流、學(xué)習(xí)和展示的平臺(tái)。

活動(dòng)當(dāng)天，共有來自傳智教育和科大訊飛開放平臺(tái)的4位嘉賓發(fā)表精彩的演講，內(nèi)容涵蓋大模型行業(yè)動(dòng)態(tài)、人才培養(yǎng)、技術(shù)洞察、開發(fā)心得和技術(shù)實(shí)踐等。

科大訊飛開放平臺(tái)運(yùn)營總監(jiān)汪艦老師從行業(yè)趨勢(shì)的角度分享了有關(guān)大模型的應(yīng)用生態(tài)。他提到，在人工智能領(lǐng)域，大模型技術(shù)憑借其強(qiáng)大的數(shù)據(jù)處理能力和廣泛應(yīng)用前景引領(lǐng)新一輪技術(shù)革命。

具體來說，從基礎(chǔ)架構(gòu)和算法創(chuàng)新到預(yù)訓(xùn)練模型的里程碑，大模型不斷突破，現(xiàn)已進(jìn)入跨模態(tài)和跨領(lǐng)域應(yīng)用新階段，在醫(yī)療、金融、教育等領(lǐng)域展現(xiàn)巨大潛力，提高行業(yè)效率，改善生活質(zhì)量。

傳智教育人工智能學(xué)科教學(xué)主管趙晨杰老師從AI大模型行業(yè)發(fā)展現(xiàn)狀、大模型相關(guān)的技術(shù)和崗位要求及人才供需的角度出發(fā)，分享了大模型技術(shù)人才培養(yǎng)的課程體系。

同時(shí)為大家呈現(xiàn)了傳智教育黑馬程序員2024年大模型LLM學(xué)習(xí)路線圖，并強(qiáng)調(diào)了實(shí)踐經(jīng)驗(yàn)與創(chuàng)新意識(shí)對(duì)于大模型人才的重要性。

傳智教育人工智能研發(fā)中心高級(jí)研究員李剛老師從技術(shù)應(yīng)用層面分享了什么是RAG（檢索增強(qiáng)生成），從企業(yè)實(shí)際應(yīng)用大模型的角度出發(fā)，深度剖析了大模型容易出現(xiàn)的“幻覺”問題，以及傳統(tǒng)微調(diào)大模型方法的痛點(diǎn)，并分析了RAG方法的優(yōu)勢(shì)。

在分享過程中，李剛老師以“電商”數(shù)據(jù)為基礎(chǔ)，詳細(xì)展示了RAG實(shí)現(xiàn)的整個(gè)流程，并針對(duì)RAG系統(tǒng)的優(yōu)化，進(jìn)行了多方位的補(bǔ)充，如：數(shù)據(jù)清洗、文檔多粒度切分、多層次索引、嵌入模型優(yōu)化、檢索結(jié)果的Rerank以及在架構(gòu)中加入知識(shí)圖譜輔助等方面全面提升RAG系統(tǒng)的性能。

傳智教育人工智能研發(fā)中心高級(jí)研究員姚曉瑩老師借助訊飛星火大模型，從企業(yè)級(jí)開發(fā)應(yīng)用的角度演示了大模型平臺(tái)與技術(shù)的具體操作方法，現(xiàn)場(chǎng)開發(fā)者們一起參與了實(shí)踐。

姚曉瑩老師首先深入剖析訊飛星火大模型的定義、功能范疇以及實(shí)際應(yīng)用場(chǎng)景，并利用訊飛智文快速制作了一份PPT演示文稿，通過視覺化的展示，使參與者對(duì)訊飛星火大模型有一個(gè)全面而深刻的認(rèn)識(shí)。

在訊飛星火大模型API的應(yīng)用實(shí)踐環(huán)節(jié)中，姚老師帶領(lǐng)現(xiàn)場(chǎng)學(xué)習(xí)者完成了星火大模型API的注冊(cè)，還展示如何利用該API開發(fā)出具備多種翻譯風(fēng)格的英譯漢翻譯機(jī)。

最后，姚老師全方位解讀了訊飛星火大模型定制平臺(tái)的應(yīng)用，內(nèi)容涵蓋從數(shù)據(jù)預(yù)處理到模型的個(gè)性化定制，從高精度訓(xùn)練到性能評(píng)估，直至模型部署的全過程。

通過一步步構(gòu)建大模型服務(wù)，并借助webAPI和在線體驗(yàn)的方式，為開發(fā)者提供一個(gè)實(shí)際操作的機(jī)會(huì)，確保開發(fā)者能夠掌握整個(gè)大模型定制流程的每一個(gè)環(huán)節(jié)。

除了嘉賓分享外，現(xiàn)場(chǎng)還安排了交流環(huán)節(jié)，開發(fā)者們除了把自己在大模型學(xué)習(xí)和應(yīng)用中遇到的問題與老師進(jìn)行了探討之外，還結(jié)合自己的應(yīng)用案例進(jìn)行了思考與實(shí)踐。

活動(dòng)結(jié)束后，開發(fā)者們?nèi)猿两跓崃业挠懻摲諊铮辉鸽x去。大家紛紛表示收獲頗豐，不僅學(xué)到了很多新的知識(shí)，還結(jié)識(shí)了許多行業(yè)內(nèi)的朋友，希望未來能有更多這樣的交流機(jī)會(huì)。

傳智教育聯(lián)合科大訊飛攜手舉辦的此次活動(dòng)，不僅為開發(fā)者們提供了一個(gè)寶貴的學(xué)習(xí)和交流的平臺(tái)，也為推動(dòng)行業(yè)的發(fā)展做出了積極的貢獻(xiàn)。