최근 미국 연방거래위원회(FTC)가 인공지능(AI) 5개 기업을 허위광고 및 사기 혐의로 고소해 인공지능 기술 감독에 대한 업계의 관심이 촉발됐다. 다운코드 편집자는 FTC의 "AI 규정 준수 조치"의 세부 사항을 해석하고 가능한 영향을 분석합니다.
최근 미국 연방거래위원회(FTC)가 'AI 컴플라이언스 액션'이라는 강제 조치에 착수해 허위 광고와 사기 행위가 의심되는 인공지능 기업 5곳을 상대로 소송을 제기했다. FTC는 이들 기업이 소프트웨어 성능에 대해 거짓말을 하거나 AI 기술을 이용해 불법 행위를 저지른 혐의로 기소됐다고 밝혔다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
소송을 제기한 5개 회사 중 2개 회사는 FTC와 합의에 이르렀고, 나머지 3개 회사는 법정에서 FTC의 혐의에 맞서 싸우기로 결정했습니다. 세 회사는 Ascend Ecom, Ecommerce Empire Builders 및 FBA Machine입니다.
공정위는 이들 기업이 AI 기술을 통해 고객이 온라인 상점을 구축하고 관리할 수 있도록 도와준다고 주장하며 높은 수익을 약속했다고 지적했다. 그러나 실제로는 많은 고객이 재고 및 교육 비용을 지불한 후에도 기대했던 수익을 얻지 못하여 수백만 달러의 손실을 입었습니다.
FTC 레나 칸 위원장은 AI 도구를 사용해 소비자를 기만하거나 오도하거나 사기하는 것은 불법이라며 “AI에는 면책권이 없다”고 강조했다. 그녀는 이러한 집행 조치가 소비자와 정직한 기업을 보호하고 시장을 공정하게 유지하는 것을 목표로 한다고 지적했습니다.
합의에 참여한 두 회사 중에서 DoNotPay가 더 친숙한 이름일 수 있습니다. 작년에 이 회사는 AI를 이용해 남성을 보호하려다가 위협을 받았고 결국 계획을 취소했습니다. FTC는 DoNotPay가 약속을 지키지 못하고 자사의 AI 챗봇이 인간 변호사와 경쟁할 수 있음을 입증하지 못했다고 비난했습니다. 그래서 회사는 193,000달러에 합의하고 허위 주장을 중단하겠다고 약속했습니다.
FTC의 조치에는 Rytr이라는 AI 작성 도구도 포함되었습니다. FTC의 결정으로 인해 내부적으로 3대 2의 분열이 촉발되었지만 Rytr는 허위 및 오해의 소지가 있는 소비자 리뷰를 생성하는 기능을 제공했다는 비난을 받았습니다. FTC는 Rytr 사용자가 자신의 입력과 관련이 없으며 거의 확실히 거짓인 상세한 리뷰를 생성할 수 있다고 믿습니다. Rytr는 벌금을 물거나 불법 행위를 인정하지 않았지만 유사한 서비스 제공을 중단하기로 동의했습니다.
FTC의 조치는 특히 AI 기술 감독에 대한 관심을 크게 불러일으켰다. 많은 전문가들은 혁신을 방해할 수 있다고 믿으며 FTC의 접근 방식에 대해 우려를 표명했습니다.
가장 밝은 부분:
공정위는 AI업체 5곳을 허위광고 및 사기 혐의로 고소했다.
? DoNotPay는 FTC와 합의하여 193,000달러를 지불하고 허위 선전을 중단하겠다고 약속했습니다.
✍️ Rytr는 가짜 소비자 리뷰를 생성하는 기능을 제공한 혐의로 기소되었으며, 벌금을 부과받지 않았음에도 불구하고 서비스를 중단하기로 동의했습니다.
이번 FTC 조치는 AI 산업의 발전이 규정 준수에 주의를 기울이고 허위 선전과 사기를 피해야 함을 보여줍니다. 인공지능 기술에 대한 감독은 계속 강화될 것이며, 기업은 산업의 건전한 발전을 위해 적극적으로 적응해야 합니다. 앞으로 AI 분야의 컴플라이언스는 기업 발전에 있어서 중요한 고려사항이 될 것이다.