스페인 정부는 최근 인공 지능 규제 (AI) 생성 된 컨텐츠, 특히 올바르게 표시되지 않은 "깊은 위조"컨텐츠에 대한 획기적인 새로운 법안을 통과시켰다. 이러한 움직임은 허위 정보와 싸우고 대중의 이익을 보호하는 중요한 단계로 여겨집니다.
디지털 혁신부 장관 오스카 로페즈 (Oscar Lopez)는 기자 회견에서 법안의 배경과 목적에 대해 자세히 설명했다. 그는이 법안의 공식화는 유럽 연합의 인공 지능법을 말하며 특히 고위험 인공 지능 시스템에 대한 엄격한 투명성 요구 사항을 강조한다고 말했다. 로페즈는 인공 지능 기술이 사회 발전에 많은 편의를 가져 왔지만 학대를 당하고 잘못된 정보를 전파하고 민주주의를 공격하는 도구가 될 수 있다고 지적했다.
이미지 소스 참고 : 이미지는 AI에 의해 생성되며 이미지 공인 서비스 제공 업체 Midjourney
Lopez는 또한 "Deep Pessery"기술이 비디오, 사진 및 오디오를 편집하거나 생성하여 실제 콘텐츠로 위장함으로써 극도로 오해의 소지가 있다고 설명했습니다. 누구나이 기술의 희생자가 될 수 있으므로 정부는이 도전을 해결하기 위해 강력한 조치를 취해야합니다. 새로운 법안은 AI에 의해 생성 된 콘텐츠를 올바르게 레이블링하지 않으면 "심각한 불법"으로 간주 될 것이며 최대 3,500 만 유로 (약 3,820 만 달러)의 벌금 또는 회사의 연간 회전율의 7%를 기준으로 계산 된 금액에 직면 할 수 있다고 명시하고 있습니다.
또한이 법안은 잠재 의식 기술을 사용하여 취약한 그룹에 영향을 미치는 것과 같은 잠재적 조작을 금지합니다. Lopez는 일부 챗봇이 도박 경향이 도박에 참여하도록 유도 할 수 있다는 예를 제공하는 반면, 일부 장난감은 어린이들이 위험한 활동에 참여하도록 안내 할 수 있습니다. 이러한 행동은 도덕성을 위반할뿐만 아니라 사회에 광범위한 영향을 미칠 수 있습니다.
이 법안의 또 다른 중요한 조항은 기관이 인공 지능을 사용하여 생체 인식 데이터를 통해 개인을 분류하거나 평가하는 것을 금지하는 것입니다. 이는 사회적 혜택을 얻거나 범죄의 위험을 평가할 가능성에 영향을 미칩니다. 그러나 국가 안보 고려 사항에 따라 공공 장소에서는 실시간 생체 모니터링이 여전히 허용됩니다. 이 조항은 개인 개인 정보 보호와 공공 안전 유지 사이의 균형을 추구합니다.
새 법안의 구현은 새로 설립 된 AI 규제 기관 AESIA의 적용을받을 것이지만, 관련 규제 기관은 데이터 개인 정보 보호, 범죄, 선거, 신용 등급, 보험 및 자본 시장과 관련된 특정 상황에서 관리를 책임질 것입니다. 이 법안은 공식적으로 발효되기 전에 하원의 승인이 필요합니다. 일단 통과되면 스페인은이 일련의 규정을 이행 한 최초의 EU 국가 중 하나가 될 것입니다.
전반적으로,이 새로운 스페인 법안은 인공 지능 기술의 규범 적 사용을위한 법적 틀을 제공 할뿐만 아니라 다른 국가와 지역에 유사한 도전에 대응하는 중요한 참조를 제공합니다. 스페인 정부는 엄격한 규제 및 투명성 요구 사항을 통해 기술 혁신을 촉진하면서 잠재적 위험을 효과적으로 방지하고 대중의 이익을 보호하기를 희망합니다.