西班牙政府近日通过了一项具有里程碑意义的新法案，旨在加强对人工智能（AI）生成内容的监管，特别是针对未正确标注的“深度伪造”内容。这一举措被视为打击虚假信息和保护公众利益的重要一步。
数字化转型部长奥斯卡・洛佩斯（Oscar Lopez）在新闻发布会上详细阐述了该法案的背景和目的。他表示，这项法案的制定参考了欧盟的《人工智能法案》，并特别强调了对高风险人工智能系统的严格透明度要求。洛佩斯指出，人工智能技术虽然为社会发展带来了诸多便利，但也可能被滥用，成为传播错误信息、攻击民主的工具。
图源备注:图片由AI生成，图片授权服务商Midjourney
洛佩斯进一步解释道，“深度伪造”技术通过编辑或生成视频、照片和音频，伪装成真实内容，具有极强的误导性。任何人都可能成为这种技术的受害者，因此政府必须采取强有力的措施来应对这一挑战。新法案明确规定，未对AI生成内容进行适当标注的行为将被视为“严重违法”，并可能面临高达3500万欧元（约合3820万美元）的罚款，或根据公司全球年营业额的7%计算罚款金额。
此外，法案还禁止了一些潜在的操控行为，例如使用潜意识技术影响弱势群体。洛佩斯举例说明，某些聊天机器人可能会诱导有赌博倾向的人参与赌博，而一些玩具则可能引导儿童从事危险活动。这些行为不仅违反道德，还可能对社会造成深远的影响。
法案的另一项重要规定是禁止机构利用人工智能通过生物识别数据对个人进行分类或评级，从而影响他们获得社会福利或评估犯罪风险的可能性。然而，基于国家安全的考虑，公共场所仍允许使用实时生物识别监控。这一规定在保护个人隐私与维护公共安全之间寻求了平衡。
新法案的实施将由新设立的人工智能监管机构AESIA负责，但在涉及数据隐私、犯罪、选举、信用评级、保险及资本市场的特定情况下，相关监管机构将负责管理。该法案目前仍需下议院的批准才能正式生效，一旦通过，西班牙将成为首批执行这一系列规定的欧盟国家之一。
总的来说，西班牙的这一新法案不仅为人工智能技术的规范使用提供了法律框架，也为其他国家和地区在应对类似挑战时提供了重要参考。通过严格的监管和透明度要求，西班牙政府希望能够在推动技术创新的同时，有效防范其潜在风险，保护公众利益。