單打獨斗已不適合大科學時代的科技創(chuàng)新，要進行有組織科研；人工智能(AI)大模型就像孫悟空，需設好緊箍咒；AI的本質(zhì)是集體，而不是個人……以“科技·創(chuàng)造可持續(xù)未來”為主題的2023外灘大會昨天在上海開幕，近20位中國兩院院士、諾貝爾獎和圖靈獎得主齊聚浦江之畔，今年“大咖”們聚焦的主題都格外“腳踏實地”，圍繞基礎研究、前沿數(shù)字科技等展開深度探討。
張人禾：單打獨斗不適合大科學時代的科技創(chuàng)新
9月1日，復旦大學20年來首次舉辦戶外開學典禮。決定的依據(jù)是什么？中國科學院院士、復旦大學副校長張人禾揭秘：因為“伏羲”說，9月1日不下雨。最后，這個氣象大模型的判斷與實際結果完全一致。
借由這個案例，張人禾提出：AI不但改變了我們的生活，也為科學研究帶來了更多可能。他表示，AI在科學研究中的地位，要從范式變革的角度來理解，傳統(tǒng)科研范式已經(jīng)歷4個演化階段，而當下，科學智能通過多模態(tài)大模型等新技術，再次改變了基礎科學研究范式。
“在基礎研究領域中，許多模型都遵循數(shù)學與物理定律，科學智能可以幫助我們?nèi)ソ馕鎏剿鬟@些規(guī)律，為復雜場景提供研究新線索、科學新假設，從而發(fā)現(xiàn)新物質(zhì)、合成新材料，構建新機理。”他舉例解釋，比如AI在量子力學中，可用于學習神經(jīng)波函數(shù)，進行量子多體問題的求解，“AI可以在假設形成、實驗設計、數(shù)據(jù)收集和分析等過程的每個階段增強和加速研究，從而重塑科學發(fā)現(xiàn)。”
張人禾認為，科學智能的發(fā)展正在從部分機構的探索變成產(chǎn)學研各界的共識，從點狀突破變?yōu)橄到y(tǒng)布局，已成為AI的重點發(fā)展方向。國內(nèi)科學智能也相繼涌現(xiàn)出科學領域大模型，但仍處于起步階段。他認為，面對AI時代的來臨，單打獨斗已不適合大科學時代的科技創(chuàng)新，要進行有組織科研，布局建設大平臺，推動跨學科交叉研究，激發(fā)創(chuàng)新突破，加速科技創(chuàng)新與產(chǎn)業(yè)變革的深度融合，推動產(chǎn)業(yè)轉(zhuǎn)型升級。
何積豐：大模型就像孫悟空，需設好緊箍咒
大模型進入大眾視野不超過一年，中國科學院院士何積豐形容是“生活在早期的黑暗叢林里，感覺到處都埋伏著風險卻又看不清”。
為何會有這種不安全的感受？何積豐指出了大模型與之前AI在安全上的本質(zhì)區(qū)別：它不僅展示出通用人工智能的能力，而且迅速深入到生產(chǎn)生活的各個場景中，可謂“無孔不入”，因此帶來新的安全隱私問題，這既可能發(fā)生在訓練過程中，也可能發(fā)生在使用過程中，還會讓使用者面臨“要么失去隱私，要么失去服務”的兩難境地。不僅如此，大模型的生成能力還讓“隱私泄露”變得多樣化，造成隱私保護更加困難。
“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊”是指系統(tǒng)目標和人類價值觀一致，使其符合設計者的利益和預期，不會產(chǎn)生意外的有害后果，“如果把AI看作孫悟空，‘對齊’就是唐僧口中的緊箍咒。有了緊箍咒，就可以保證技術不會被任意使用。”
不過，對齊技術同樣面臨挑戰(zhàn)，不僅考驗技術，也審視文化。何積豐介紹，反饋強化學習是實現(xiàn)對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給大模型不同的獎勵信號，從而引導它高質(zhì)量輸出；另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”何積豐說。
邁克爾·I·喬丹：AI的本質(zhì)是集體，而不是個人
“如果你問ChatGPT，剛剛寫的內(nèi)容你確定嗎？它完全無法回答這個問題。”一上臺，機器學習泰斗、美國“三院”院士邁克爾·I·喬丹就拋出了一個他在生成式人工智能問題上最感興趣的點——“不確定性”。
“人在遇到‘不確定’的時候，非常擅長溝通信息以及應對它。但ChatGPT無法對不確定性進行量化，所以，我們需要找到一個可能的方法去應對這些挑戰(zhàn)。”他不認為有一種所謂的超級電腦會替代人，應該把技術看作是一個工具來賦能人類，建議關注集體的智能體。
“AI的本質(zhì)是集體，而不是個人。”喬丹表示，科技是一個非常好的工程系統(tǒng)，公平、公正、透明、穩(wěn)定，是這個工程系統(tǒng)的特點，而不是系統(tǒng)當中個體的特點。也正因此，需要建立一個協(xié)作式、去中心化的系統(tǒng)來實現(xiàn)集體智能，“日常生活中經(jīng)常遇到不確定性，讓去中心化的系統(tǒng)能幫助我們更好、更有效地應對日常世界中的不確定性，這才是我們亟待解決的問題。”
倪以理：生成式AI將開啟數(shù)萬億美元賽道
“下一個中國，還是中國。”麥肯錫中國區(qū)主席、全球資深董事合伙人倪以理認為，中國市場蘊藏著巨大的發(fā)展機遇，全球沒有任何市場能夠替代中國市場。
今年以來，生成式AI的技術風暴席卷全球，倪以理特別看好這一行業(yè)，認為它將開啟價值超過萬億美元的賽道。不僅如此，生成式AI有望開啟一場關系到未來8至10年發(fā)展的新一輪技術和產(chǎn)業(yè)變革，“我們做了一個測算，生成式AI對全球經(jīng)濟的正面影響最高可達7.9萬億美元，而AI對全球經(jīng)濟的潛在收益更將達到25萬億美元，這是當前所有企業(yè)最重要的賽道之一，但這個時代剛剛開始。”
“生成式AI將對所有行業(yè)產(chǎn)生重大影響。”倪以理認為，排名前三的行業(yè)分別是高科技、零售、旅行。他舉例說，在高科技行業(yè)，該技術每年可以額外創(chuàng)造2400億至4600億美元的價值；在零售和消費品領域，每年可達2400億至3900億美元；在整個銀行業(yè)，每年可達2000億至3400億美元。他還指出，生成式AI可以大幅促進生產(chǎn)力提升，并提供新的就業(yè)機會。
來源：文匯報
記者：徐晶卉
寧德新聞監(jiān)督電話:0593-2099788 投稿郵箱：ndnews@126.com
閩公網(wǎng)安備
35099902000052號