“ChatGPT，你確定你剛生成的是對的嗎？”9月5日，在2024 Inclusion·外灘大會開幕主論壇上，機器學(xué)習(xí)泰斗、美國“三院院士”邁克爾·喬丹再次談到人工智能的不確定性。他表示，當前的人工智能系統(tǒng)很難表達它真正學(xué)到哪些知識，也沒有能力表達它有多確定。相較之下，人類在面對不確定性時表現(xiàn)出色，尤其是集體協(xié)作共同應(yīng)對時。
“缺乏對集體性、不確定性和激勵機制的關(guān)注，是當前對人工智能的討論中缺失的三個方面?！边~克爾·喬丹認為，人工智能落地產(chǎn)業(yè)，需要形成互相協(xié)作的集體；要構(gòu)建人工智能的協(xié)作系統(tǒng)，必須要引入經(jīng)濟學(xué)的“激勵”視角。
因此，他建議不僅單獨設(shè)備要具備一定智能，人工智能更要通過協(xié)同體現(xiàn)在整體系統(tǒng)層面。他表示，僅僅將人類的智慧融入超級智能計算機中是不夠的，現(xiàn)代信息技術(shù)在醫(yī)療、交通、金融科技和商業(yè)領(lǐng)域的應(yīng)用，需要集體性、去中心化的智能系統(tǒng)。
邁克爾·喬丹進一步探討了不確定性與集體性的關(guān)系。他指出，人類在集體協(xié)作時能夠更好地應(yīng)對不確定性，但如何讓當前的AI系統(tǒng)也具備類似的集體協(xié)作能力，仍是一個未解的關(guān)鍵問題。他認為，微觀經(jīng)濟學(xué)視角是當前AI研究的一個缺失。
“激勵機制”是市場經(jīng)濟和集體智能的關(guān)鍵因素，“AI擁有海量的數(shù)據(jù)，但有些不能生成價值，通過設(shè)計激勵機制才能驅(qū)動AI智能體貢獻和協(xié)作?！边~克爾·喬丹提出了“三層數(shù)據(jù)市場”模型，其中用戶、平臺和數(shù)據(jù)買家通過“出讓數(shù)據(jù)”、“購買數(shù)據(jù)”、“提供服務(wù)”形成了閉環(huán)。他強調(diào)，數(shù)據(jù)購買者也就是企業(yè)可以結(jié)合“數(shù)據(jù)和服務(wù)”建立與用戶的激勵機制，從而為他們帶來真正的價值。
對此，邁克爾·喬丹援引了統(tǒng)計契約理論，這是一種結(jié)合了統(tǒng)計學(xué)和經(jīng)濟學(xué)的新型理論。在契約理論中，代理人擁有私有信息，而委托人通過激勵機制形成了數(shù)據(jù)和服務(wù)相互促進的市場，維持了供需雙方的利益平衡。
例如航空公司分“商務(wù)艙”和“經(jīng)濟艙”，航空公司作為委托人能夠根據(jù)代理人的不同支付意愿提供不同的價格，而不需要代理人透露其個人信息。由于過去十年間，全球范圍內(nèi)對數(shù)據(jù)隱私的監(jiān)管不斷增加，他也建議“我們可以通過非一致的隱私要求進一步提高用戶效用，對低成本平臺施加更高的要求?！?/p>
邁克爾·喬丹教授是機器學(xué)習(xí)領(lǐng)域的先驅(qū)，通過在機器學(xué)習(xí)、概率學(xué)、統(tǒng)計學(xué)以及圖模型這四者間建立聯(lián)系，為機器學(xué)習(xí)奠定了數(shù)學(xué)與計算基礎(chǔ)。他曾獲得IEEE約翰·馮·諾依曼獎?wù)隆H人工智能聯(lián)合會議卓越研究獎和2022年第一屆世界頂尖科學(xué)家協(xié)會獎。
用戶評論