中新人工智慧前沿與治理研討會上,中國、新加坡兩國院士為何要給AI「潑冷水」?
作者:Eve Cole
更新時間:2024-11-15 12:24:01

自1956年人工智慧概念首次提出以來,AI在計算智能、感知智能的基礎上進一步朝著認知智能發展。近年來,隨著ChatGPT、sora橫空出世,AI發展一路高歌猛進。不過,在今天(10月28日)中國工程院、新加坡工程院主辦,同濟大學承辦的中新人工智慧前沿與治理研討會上,多位院士卻為「AI熱」澆了一盆冷水。 「網路內生安全問題正在全面挑戰當今數位生態系統底層驅動範式。」中國工程院院士、復旦大學教授鄔江興直言,令人遺憾的是,目前無論安全系統本身還是看家護院的網路安全護衛都無法回答「有沒有漏洞」「有沒有後門/陷門」「存不存在多重安全疊加問題」三大靈魂拷問。他嚴肅指出,目前ai應用系統,安全責任與風險嚴重失衡。沒有任何商家敢保證自家產品不存在安全漏洞和後門,也沒有任何檢測機構能夠對送檢的產品做無漏洞和無後門的擔保。這已經成為AI時代各國無法擺脫的惡夢。會上,多位專家分析,看似強大的人工智慧、大模型也存在著消耗大、安全性、倫理方面的缺陷。人工智慧發展依然在路上,依然有很大的發展空間。中國和新加坡學者應該加強合作,攜手引導AI更節能、安全、向善。看似強大的人工智慧實際上是隱患重重提起網路安全隱患,今年7月發生的微軟藍屏事件讓不少人印象尤深。 7月19日,全球多國用戶發現公司的電腦出現藍屏,提示「設備遇到問題,需要重啟。隨後,藍屏問題被確認與網絡安全公司Crowd Strike的軟體更新有關。在鄔江興看來,這就是網絡安全「保鑣」背刺人類的典型案例。 」
對此,同濟大學校長、中國工程院院士鄭慶華持同樣觀點,「我們在高度肯定大模型所取得的重大成就的同時,也要深刻意識到大模型存在一些固有缺陷。」鄭慶華舉例,首當其衝的表現就是過度消耗數據和算力。 「總有一天,人類從網路上的開源資料中挖掘出的有價值資訊會遇到天花板,就像人類從礦產資源中挖掘稀有金屬一樣,有消耗殆盡的時候。」第二個固有缺陷表現為災難性遺忘以及場景的牽引能力較弱。鄭慶華解釋,大模型存在喜新厭舊,難以舉一反三,往往是適應了A,就很難適應B,兩者之間要找到一個平衡點並不容易。第三則是推理能力弱。大模型採用的是自回歸訓練演算法,導致它無法形成人類所建構的基於因果推理的邏輯推理能力。自回歸生成方式也難以應對需要回溯和試錯的複雜推理任務,由此常常導致大模型透過學習錯誤的資訊來解決任務的現象,這種現像被稱為「聰明漢斯效應(Clever Hans effect) 」。第四個固有缺陷則表現為大模型不知道自己錯在何處,為何出錯,更做不到知錯就改。鄭慶華直言,這些固有缺陷使得導致了大模型出現幻覺、可控性差等問題。 「尤其是在工程應用等需要知其然知其所以然的場景中,大模型可以說無能為力。」新加坡工程院院士、南洋理工大學教授文勇剛認為,人類社會正在進入數位化、可持續化雙重變革的時代。尤其是在數位化變革中,大量活動從線下變成線上,對運算資源、伺服器的耗費相當大。有預測顯示,2030年新加坡資料中心的耗電量會達到社會總耗電量的12%。更值得警惕的是,AI的大量運用也會增加碳排放的量,對環境產生破壞性影響。
引導AI向著正確的方向狂奔當AI一路閉眼狂奔,科技的開發者-人類如何掌握好方向盤?在會議上,專家們也基於長期研究給了可行性建議。鄔江光從2013年起創造了內生安全和擬態防禦理論。基於理論基礎,團隊在南京實驗室建構了內生安全架構賦能智慧駕駛系統。此系統有20多種應用情境、100多種差異化的應用個體,在對抗攻擊、後門漏洞等AI共性問題上,綜合辨識成功率超過90%。鄭慶華談到,歷史和經驗證明,人類在腦科學方面每一次進步都對人工神經網路、機器智慧的研究有借鏡、啟發和指導作用。 「今天的大模型只是對人腦最初步、最簡單的借鑒,如果我們能夠深度借鑒腦科學中,特別是人類所特有的記憶表徵、激活、檢索、編碼回訪等機制,有望破解今天大模型面臨的種種固有缺陷。目前同濟大學正在打通學科邊界,推動電腦學科與腦科學學科融合,研究人腦記憶和機器記憶的關聯性,探索以資訊科學研究腦科學的新路徑。
今天的人工智慧已經打破傳統意義上的學科邊界,幾乎一直延伸到所有學科。新加坡工程院院士、新加坡科技設計大學教授郭貴生也是AI-RAN協會的一員。據了解,AI-RAN指“人工智慧(AI)-無線接入網(RAN)”,是一個旨在重振人工智慧與無線通訊融合、引領技術創新的行業協會組織。郭貴生介紹,大量有關AI的專案、量子計算專案正透過跨學科互聯得以推進。在他看來,引導AI向善,不只要學科破圈,也要積極連結全球智慧。他期待,未來能有更多中國大學的實驗室、企業能夠加入AI朋友圈,建立合作關係。記者了解到,新加坡作為世界著名的“人工智慧之都”,是全球最早啟動國家人工智慧戰略的國家之一,在人工智慧治理上進行了大量開創性工作。現場,鄭慶華也倡議,未來要實現「人有人智,機智,各智其智,智智與共」的美好圖景,需要中國、新加坡兩國人工智慧領域的專家共同攜手,為這個世界創造更多貢獻。