央廣網(wǎng)北京4月2日消息(記者 齊智穎)3月31日,在“2025中關(guān)村論壇年會”期間,中國科學(xué)院院士張鈸在智譜OpenDay活動上發(fā)表演講時提及,當(dāng)前人工智能正在進(jìn)入“智能體化”時代,應(yīng)該把語言模型擴(kuò)展到智能體。同時,張鈸認(rèn)為構(gòu)成智能體必須符合三個條件——很強(qiáng)的思考能力、很強(qiáng)的執(zhí)行能力、很強(qiáng)的感知能力。
張鈸認(rèn)為,大模型的出現(xiàn)有兩個重要的意義。一方面,大模型使得人工智能的范式發(fā)生了根本性變化;同時,人工智能日新月異的發(fā)展必然會改變各行各業(yè)的面貌。
談及大模型之所以會產(chǎn)生巨大影響的原因,張鈸表示,大模型使機(jī)器像人類一樣思考,這一突破主要因?yàn)镚PT(生成式預(yù)訓(xùn)練變換器),通過巨大的人工神經(jīng)網(wǎng)絡(luò)和龐大的數(shù)據(jù)量學(xué)習(xí),催生出了一個大語言模型,這個大語言模型最大的成功就是擁有強(qiáng)大的語言生成能力。
張鈸強(qiáng)調(diào),機(jī)器一旦理解和掌握了人類語言,必然會開辟一個充滿一切可能性的道路。
過去大模型的發(fā)展主要依靠規(guī)模定律,即依靠巨大的人工神經(jīng)網(wǎng)絡(luò)和巨大的數(shù)量數(shù)據(jù)。張鈸認(rèn)為,未來要超越規(guī)模定律首先要進(jìn)一步提升大模型的性能,同時降低成本。
關(guān)于提升大模型性能的舉措,張鈸指出,其一是利用機(jī)器自身的能力——思考能力或者推理能力;其二是AI反饋的強(qiáng)化學(xué)習(xí) (Reinforcement Learning from AI Feedback,簡稱 RLAIF) ,依靠AI對齊(AI Alignment),特別是人類反饋強(qiáng)化學(xué)習(xí)(Reinforcement Learning from Human Feedback,簡稱RLHF)。
張鈸強(qiáng)調(diào),當(dāng)前人工智能正在進(jìn)入“智能體化”時代,應(yīng)該把語言模型擴(kuò)展到智能體。同時,張鈸提出構(gòu)成智能體必須符合三個條件——很強(qiáng)的思考能力、很強(qiáng)的執(zhí)行能力、很強(qiáng)的感知能力。
盡管大模型帶來了巨大變革,但當(dāng)前人工智能仍面臨諸多挑戰(zhàn),張鈸總結(jié)了三大難題,他認(rèn)為這同時也是AI從業(yè)者的機(jī)會。
首先是多層次空間問題,沒有層次的空間很難進(jìn)行復(fù)雜推理,目前在圖像領(lǐng)域這一問題已經(jīng)使用擴(kuò)散模型得到解決,一旦把擴(kuò)散模型擴(kuò)充到語言上去,那語言上的推理就會非常容易解決。
其次是過程與結(jié)果問題,推理都是以結(jié)果作為目標(biāo),這存在非常大的隱患,有時候結(jié)果是對的,但是過程不一定對,因?yàn)閮?yōu)化的時候只優(yōu)化結(jié)果,并沒有優(yōu)化過程,這主要靠Reinforcement、AI Alignment解決。
此外,最重要的是可解釋性問題,這個問題的解決更多依靠校企合作,因?yàn)楸仨氁鉀Q理論上的問題。
張鈸建議,AI企業(yè)應(yīng)不斷反思,不斷推動自己改進(jìn)、進(jìn)化,使自身更符合現(xiàn)代企業(yè)精神。
長按二維碼關(guān)注精彩內(nèi)容





