Microsoft는 최근 백서를 발표하여 생성 AI의 악의적 인 응용이 점점 더 만연해지고 있으며 사기, 아동 성 학대, 선거 조작 및 비자발적 이미지 누출과 같은 여러 분야를 다루고 있습니다. 이 보고서는 기술적 인 과제를 지적 할뿐만 아니라 사회에 대한 심각한 위협을 강조하고 법적, 기술적, 사회적 협력 및 기타 수단을 함께 사용하기 위해 영국 정책 입안자들에게 실용적인 해결책을 제안합니다 문제. 백서는 범죄를 저지르기 위해 AI 기술을 사용하는 다양한 방법에 대해 자세히 설명하고, 법률 강화, 기술 혁신을 촉진하며 모든 당사자가 함께 협력하여 안전하고 신뢰할 수있는 AI 애플리케이션 환경을 구축 할 것을 제안합니다.
Microsoft는 최근 사기, 아동 성 학대 자료, 선거 조작 및 비자발적 개인 이미지를 포함하여 생성 인공 지능 (AI)의 악의적 인 사용을 깊이 분석하는 백서를 발표했습니다. 이 회사는 이러한 문제가 기술적 인 과제 일뿐 만 아니라 사회에 대한 주요 위협이라고 강조했다.
Microsoft의 백서에 따르면, 범죄자들은 악한 행동을 저지르기 위해 생성 AI의 힘을 점점 더 많이 사용하고 있습니다. 이러한 악의적 인 행동에는 AI가 생성 한 허위 정보를 사용하여 사기를 저지르고, 아동 성 학대 자료를 만들고, 심층적 인 위조 기술을 통해 선거 조작, 특히 여성을 대상으로하는 비자발적 친밀한 이미지를 만듭니다. Microsoft의 외부 업무 담당 부사장 인 휴 밀 워드 (Hugh Millward)는“AI 남용이 실제 사람들에게 중대한 영향을 미친다는 것을 결코 잊을 수 없다”고 말했다.
백서는 특히 영국의 정책 입안자들을 대상으로하며 6 가지 핵심 요소를 기반으로하는 포괄적 인 솔루션 세트를 제안합니다. 이 6 가지 요소에는 강력한 보안 아키텍처, 영구적 인 미디어 및 워터 마크 도구 원, 대중을 보호하기위한 현대 법률, 업계와 정부 및 시민 사회 간의 강력한 협력, 서비스 남용 보호 및 공공 교육이 포함됩니다.
영국 정책 입안자에 대한 특정 권장 사항에서 Microsoft는 AI 시스템 제공 업체에 전화하여 AI 시스템과 상호 작용할 때 AI에 의해 컨텐츠가 생성된다는 사실을 사용자에게 알립니다. 또한 Microsoft는 합성 컨텐츠를 표시하기위한 고급 소스 마킹 도구를 구현할 것을 권장하며 정부는 미디어 컨텐츠의 진위를 확인하여 예제를 설정해야합니다. Microsoft는 또한 선거의 공정성을 보호하기 위해 AI 도구를 통해 사기를 금지하기 위해 새로운 법률의 필요성을 강조했습니다. 동시에, 어린이와 여성을 온라인 착취로부터 보호하기위한 법적 틀도 강화되어서 성적인 위조의 생산을 범죄하는 것을 포함하여 강화되어야합니다.
Microsoft는 또한 AI에 의해 미디어가 생성되는지 여부를 나타내는 메타 데이터 기술을 저장하는 것이 중요하다고 지적했습니다. Adobe와 같은 회사는 비슷한 프로젝트를 추진하여 사람들이 이미지의 출처를 식별하도록 돕는 것을 목표로합니다. 그러나 Microsoft는 "콘텐츠 바우처"와 같은 표준이 정책 조치와 대중의 인식이 필요하다고 생각합니다.
또한 Microsoft는 Stopncii.org와 같은 조직과 제휴하여 남용 이미지를 감지하고 제거하는 도구를 개발했습니다. 피해자는 Microsoft의 중앙보고 포털을 통해 자신의 권리를 방어 할 수 있습니다. National Center for Missing and Exploited Children이 제공하는 "Take It Down"서비스도 추가 지원을 제공합니다. Millward는“AI 남용의 문제는 장기적 일 수 있으므로 기술 회사, 자선 파트너, 시민 사회 및 정부 와이 문제를 해결하기 위해 창의적으로 협력하려는 노력을 방해해야한다. 우리는 혼자 싸울 수 없다”고 말했다.
핵심 사항 :
Microsoft는 사기 및 선거 조작을 포함하여 생성 AI가 악의적으로 사용되는 많은 방법을 보여주는 백서를 발표했습니다.
영국 정책 입안자들에 대한 응답으로 Microsoft는 6 가지 주요 요소에 대한 솔루션을 제안하여 법률 및 기술의 포괄적 인 보호를 요구했습니다.
Microsoft는 모든 당사자와의 협력의 중요성을 강조하면서 AI의 남용으로 인한 문제를 해결하기 위해 공동 노력을 요구합니다.
요컨대, Microsoft의 백서는 생성 AI의 악의적 인 응용에 대응하기위한 중요한 참조를 제공하며, 기술, 법률 및 사회 협력의 포괄적 인 역할을 강조하며 AI 기술의 남용을 방지하고 사회 보장 및 안정성을 유지하기위한 글로벌 공동 노력에 대한 요구를 강조합니다. .