西班牙政府近日通過了一項具有里程碑意義的新法案，旨在加強對人工智能（AI）生成內容的監管，特別是針對未正確標註的“深度偽造”內容。這一舉措被視為打擊虛假信息和保護公眾利益的重要一步。
數字化轉型部長奧斯卡・洛佩斯（Oscar Lopez）在新聞發布會上詳細闡述了該法案的背景和目的。他表示，這項法案的製定參考了歐盟的《人工智能法案》，並特別強調了對高風險人工智能係統的嚴格透明度要求。洛佩斯指出，人工智能技術雖然為社會發展帶來了諸多便利，但也可能被濫用，成為傳播錯誤信息、攻擊民主的工具。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
洛佩斯進一步解釋道，“深度偽造”技術通過編輯或生成視頻、照片和音頻，偽裝成真實內容，具有極強的誤導性。任何人都可能成為這種技術的受害者，因此政府必須採取強有力的措施來應對這一挑戰。新法案明確規定，未對AI生成內容進行適當標註的行為將被視為“嚴重違法”，並可能面臨高達3500萬歐元（約合3820萬美元）的罰款，或根據公司全球年營業額的7%計算罰款金額。
此外，法案還禁止了一些潛在的操控行為，例如使用潛意識技術影響弱勢群體。洛佩斯舉例說明，某些聊天機器人可能會誘導有賭博傾向的人參與賭博，而一些玩具則可能引導兒童從事危險活動。這些行為不僅違反道德，還可能對社會造成深遠的影響。
法案的另一項重要規定是禁止機構利用人工智能通過生物識別數據對個人進行分類或評級，從而影響他們獲得社會福利或評估犯罪風險的可能性。然而，基於國家安全的考慮，公共場所仍允許使用實時生物識別監控。這一規定在保護個人隱私與維護公共安全之間尋求了平衡。
新法案的實施將由新設立的人工智能監管機構AESIA負責，但在涉及數據隱私、犯罪、選舉、信用評級、保險及資本市場的特定情況下，相關監管機構將負責管理。該法案目前仍需下議院的批准才能正式生效，一旦通過，西班牙將成為首批執行這一系列規定的歐盟國家之一。
總的來說，西班牙的這一新法案不僅為人工智能技術的規範使用提供了法律框架，也為其他國家和地區在應對類似挑戰時提供了重要參考。通過嚴格的監管和透明度要求，西班牙政府希望能夠在推動技術創新的同時，有效防範其潛在風險，保護公眾利益。