中新人工智慧前沿與治理研討會上，中國、新加坡兩國院士為何要給AI「潑冷水」？
作者：Eve Cole
更新時間：2024-11-15 12:24:01
自1956年人工智慧概念首次提出以來，AI在計算智能、感知智能的基礎上進一步朝著認知智能發展。近年來，隨著ChatGPT、sora橫空出世，AI發展一路高歌猛進。不過，在今天（10月28日）中國工程院、新加坡工程院主辦，同濟大學承辦的中新人工智慧前沿與治理研討會上，多位院士卻為「AI熱」澆了一盆冷水。 「網路內生安全問題正在全面挑戰當今數位生態系統底層驅動範式。」中國工程院院士、復旦大學教授鄔江興直言，令人遺憾的是，目前無論安全系統本身還是看家護院的網路安全護衛都無法回答「有沒有漏洞」「有沒有後門/陷門」「存不存在多重安全疊加問題」三大靈魂拷問。他嚴肅指出，目前ai應用系統，安全責任與風險嚴重失衡。沒有任何商家敢保證自家產品不存在安全漏洞和後門，也沒有任何檢測機構能夠對送檢的產品做無漏洞和無後門的擔保。這已經成為AI時代各國無法擺脫的惡夢。會上，多位專家分析，看似強大的人工智慧、大模型也存在著消耗大、安全性、倫理方面的缺陷。人工智慧發展依然在路上，依然有很大的發展空間。中國和新加坡學者應該加強合作，攜手引導AI更節能、安全、向善。看似強大的人工智慧實際上是隱患重重提起網路安全隱患，今年7月發生的微軟藍屏事件讓不少人印象尤深。 7月19日，全球多國用戶發現公司的電腦出現藍屏，提示「設備遇到問題，需要重啟。隨後，藍屏問題被確認與網絡安全公司Crowd Strike的軟體更新有關。在鄔江興看來，這就是網絡安全「保鑣」背刺人類的典型案例。 」
對此，同濟大學校長、中國工程院院士鄭慶華持同樣觀點，「我們在高度肯定大模型所取得的重大成就的同時，也要深刻意識到大模型存在一些固有缺陷。」鄭慶華舉例，首當其衝的表現就是過度消耗數據和算力。 「總有一天，人類從網路上的開源資料中挖掘出的有價值資訊會遇到天花板，就像人類從礦產資源中挖掘稀有金屬一樣，有消耗殆盡的時候。」第二個固有缺陷表現為災難性遺忘以及場景的牽引能力較弱。鄭慶華解釋，大模型存在喜新厭舊，難以舉一反三，往往是適應了A，就很難適應B，兩者之間要找到一個平衡點並不容易。第三則是推理能力弱。大模型採用的是自回歸訓練演算法，導致它無法形成人類所建構的基於因果推理的邏輯推理能力。自回歸生成方式也難以應對需要回溯和試錯的複雜推理任務，由此常常導致大模型透過學習錯誤的資訊來解決任務的現象，這種現像被稱為「聰明漢斯效應（Clever Hans effect） 」。第四個固有缺陷則表現為大模型不知道自己錯在何處，為何出錯，更做不到知錯就改。鄭慶華直言，這些固有缺陷使得導致了大模型出現幻覺、可控性差等問題。 「尤其是在工程應用等需要知其然知其所以然的場景中，大模型可以說無能為力。」新加坡工程院院士、南洋理工大學教授文勇剛認為，人類社會正在進入數位化、可持續化雙重變革的時代。尤其是在數位化變革中，大量活動從線下變成線上，對運算資源、伺服器的耗費相當大。有預測顯示，2030年新加坡資料中心的耗電量會達到社會總耗電量的12%。更值得警惕的是，AI的大量運用也會增加碳排放的量，對環境產生破壞性影響。
引導AI向著正確的方向狂奔當AI一路閉眼狂奔，科技的開發者－人類如何掌握好方向盤？在會議上，專家們也基於長期研究給了可行性建議。鄔江光從2013年起創造了內生安全和擬態防禦理論。基於理論基礎，團隊在南京實驗室建構了內生安全架構賦能智慧駕駛系統。此系統有20多種應用情境、100多種差異化的應用個體，在對抗攻擊、後門漏洞等AI共性問題上，綜合辨識成功率超過90%。鄭慶華談到，歷史和經驗證明，人類在腦科學方面每一次進步都對人工神經網路、機器智慧的研究有借鏡、啟發和指導作用。 「今天的大模型只是對人腦最初步、最簡單的借鑒，如果我們能夠深度借鑒腦科學中，特別是人類所特有的記憶表徵、激活、檢索、編碼回訪等機制，有望破解今天大模型面臨的種種固有缺陷。目前同濟大學正在打通學科邊界，推動電腦學科與腦科學學科融合，研究人腦記憶和機器記憶的關聯性，探索以資訊科學研究腦科學的新路徑。
今天的人工智慧已經打破傳統意義上的學科邊界，幾乎一直延伸到所有學科。新加坡工程院院士、新加坡科技設計大學教授郭貴生也是AI-RAN協會的一員。據了解，AI-RAN指“人工智慧（AI）-無線接入網（RAN）”，是一個旨在重振人工智慧與無線通訊融合、引領技術創新的行業協會組織。郭貴生介紹，大量有關AI的專案、量子計算專案正透過跨學科互聯得以推進。在他看來，引導AI向善，不只要學科破圈，也要積極連結全球智慧。他期待，未來能有更多中國大學的實驗室、企業能夠加入AI朋友圈，建立合作關係。記者了解到，新加坡作為世界著名的“人工智慧之都”，是全球最早啟動國家人工智慧戰略的國家之一，在人工智慧治理上進行了大量開創性工作。現場，鄭慶華也倡議，未來要實現「人有人智，機智，各智其智，智智與共」的美好圖景，需要中國、新加坡兩國人工智慧領域的專家共同攜手，為這個世界創造更多貢獻。
