微軟近期發佈白皮書，警示生成式AI的惡意應用日益猖獗，涵蓋詐騙、兒童性虐待、選舉操控以及非自願影像洩露等多個領域。該報告不僅指出技術層面上的挑戰，更強調其對社會構成的嚴重威脅，並針對英國政策制定者提出了一套切實可行的解決方案，旨在通過法律、技術及社會合作等多方面手段，共同應對這一新興的社會問題。白皮書中詳細闡述了利用AI技術實施犯罪的多種手法，並提出加強立法、推動技術創新及提升公眾意識的重要性，呼籲各方共同努力，構建安全可靠的AI應用環境。
微軟近日發布了一份白皮書，深入分析了生成式人工智能（AI）被惡意利用的情況，包括詐騙、兒童性虐待材料、選舉操控以及非自願的私人影像等問題。該公司強調，這些問題不僅是技術挑戰，更是對社會的重大威脅。
根據微軟的白皮書，犯罪分子正愈發利用生成式AI 的能力來實施惡行。這些惡性行為包括利用AI 生成的虛假信息進行詐騙、創建兒童性虐待材料、通過深度偽造技術進行選舉操控，以及製造非自願的親密影像，這些影像尤其會針對女性。微軟外部事務副總裁休・米爾沃德表示:“我們永遠不能忘記，濫用AI 對真實的人產生深遠影響。”
該白皮書特別針對英國的政策制定者，提出了一套基於六個核心要素的綜合解決方案，以應對上述問題。這六個要素包括:強有力的安全架構、媒體的永久來源和水印工具、現代化的法律以保護公眾、行業與政府和民間社會之間的強有力合作、對服務的濫用保護，以及公眾教育。
在針對英國政策制定者的具體建議中，微軟呼籲要求AI 系統提供者在用戶與AI 系統交互時，必須告知用戶該內容是由AI 生成的。此外，微軟建議實施先進的來源標記工具來標記合成內容，政府也應通過對其媒體內容進行真實性驗證，樹立榜樣。微軟還強調，需要新法律來禁止通過AI 工具進行的欺詐行為，以保護選舉的公正性。同時，保護兒童和女性免受在線剝削的法律框架也應當加強，包括將性深度偽造的製作行為定為犯罪。
微軟還指出，存儲指示媒體是否由AI 生成的元數據技術非常重要。類似的項目已經由Adobe 等公司在推進，這些項目旨在幫助人們識別圖像的來源。然而，微軟認為像“內容憑證” 這樣的標準需要政策措施和公眾意識才能發揮效果。
此外，微軟與StopNCII.org 等組織合作，開發檢測和移除濫用圖像的工具。受害者可以通過微軟的中央報告門戶進行維權。而針對年輕人，失踪與被剝削兒童國家中心提供的“Take It Down” 服務也提供了額外支持。米爾沃德表示:“濫用AI 的問題可能會長期存在，因此我們需要加倍努力，與科技公司、慈善夥伴、民間社會和政府進行創造性合作，以應對這一問題。我們無法單打獨鬥。”
劃重點:
微軟發佈白皮書，揭示生成式AI 被惡意使用的多種方式，包括詐騙和選舉操控。
針對英國政策制定者，微軟提出六大要素的解決方案，呼籲法律和技術的綜合保護。
強調與各方合作的重要性，微軟呼籲共同努力應對濫用AI 帶來的挑戰。
總之，微軟白皮書為應對生成式AI惡意應用提供了重要的參考，強調了技術、法律和社會合作的綜合作用，呼籲全球共同努力，防範AI技術被濫用，維護社會安全和穩定。