메타의 'Made with AI' 라벨 논란 촉발! 몇몇 사진가들은 Meta가 자신이 찍은 실제 사진을 AI 생성 이미지로 잘못 분류했다고 불평했습니다. 이 문제는 사진 편집 소프트웨어의 사용과 관련이 있습니다. 단순한 자르기 및 압축이라도 Meta의 알고리즘을 작동시켜 실제 사진을 AI 생성 콘텐츠로 잘못 판단할 수 있습니다. 이번 사건은 AI 이미지 인식 기술이 실제 적용에 미치는 한계를 부각시켰고, 사진가들 사이에서 저작권과 알고리즘 공정성에 대한 우려를 불러일으켰다.
메타는 이 문제를 인지하고 있으며, AI가 생성한 이미지를 보다 정확하게 식별하기 위해 이미지 인식 알고리즘을 개선하기 위해 노력하고 있는 것으로 알려졌습니다. 그러나 현재의 메타 방식은 여전히 단점이 있어 사진작가의 창작물과 작품에 문제를 일으키고 있다. 메타 측은 이 과정을 개선하기 위해 관련 기업과 협력하고 있지만 아직 구체적인 해결 방안이나 개선 일정은 발표되지 않았다고 밝혔습니다. 이번 사건은 AI 기술이 발전함에 따라 AI의 잠재적인 윤리적, 사회적 측면에 더 많은 관심을 기울여야 함을 다시 한번 상기시켜 줍니다. 문제.
외신 보도에 따르면, 여러 사진작가들은 메타가 자신이 찍은 실제 사진에 실수로 'Made with AI' 라벨을 붙였다고 불만을 토로했다. 몇몇 사진작가들은 지난 몇 달 동안 사례를 공유했는데, 가장 최근에는 Meta가 전 백악관 사진작가 Pete Souza가 찍은 농구 경기 사진에 AI 생성 사진이라는 라벨을 붙였습니다.
최근의 또 다른 예에서는 Meta가 실수로 Kolkata Knight Riders가 인도 최고의 크리켓 리그에서 우승한 모습을 보여주는 Instagram 사진에 태그를 추가했습니다. 흥미롭게도 Sousa의 사진과 마찬가지로 이 태그는 웹이 아닌 모바일 장치에서 이미지를 볼 때만 표시됩니다.
Souza는 태그를 제거하려고 시도했지만 실패했다고 말했습니다. 그는 Adobe의 자르기 도구를 사용하고 이미지를 JPEG 형식으로 압축하면 Meta의 알고리즘이 실행될 수 있다고 추측했습니다.
그러나 Meta는 사진 작가가 Adobe의 Generative Fill과 같은 생성 AI 도구를 사용하여 가장 작은 개체를 제거할 때 실제 사진을 Made with AI로 잘못 표시했다고 PetaPixel이 보고했습니다. 출판물은 Photoshop의 채우기 생성 도구를 사용하여 이미지의 얼룩을 제거하는 자체 테스트를 수행했으며 Meta는 Instagram에서 이를 AI 생성으로 표시했습니다. 그런데 이상하게도 PetaPixel이 해당 파일을 포토샵에 다시 업로드한 후 저장하기 위해 검은색 문서에 복사해서 붙여넣었을 때 메타가 'Made with AI' 태그를 추가하지 않았습니다. 여러 사진작가들은 이러한 사소한 편집이 AI가 생성한 것으로 부당하게 분류되는 것에 대해 불만을 표명했습니다.
사진작가 Noah Kalina는 Threads에 다음과 같이 썼습니다. "'수정된' 사진이 모두 'Made with AI'라는 라벨이 붙었다면 이 용어는 사실상 의미가 없을 것입니다. 그들이 사람을 보호하는 데 진지하다면 자동으로 '진정한 표현이 아닌' 라벨이 붙은 모든 사진을 제공할 수도 있습니다. '."
메타 대변인 케이트 맥러플린은 성명을 통해 회사가 이 문제를 인식하고 있으며 "우리 라벨이 이미지에 사용되는 AI의 양을 반영하도록 접근 방식을 평가하고 있다"고 밝혔습니다. "우리는 다른 회사의 도구에 동일한 기술을 사용합니다." 업계 표준 지표가 포함되어 있으므로 우리는 이 프로세스를 개선하고 우리의 의도에 맞게 라벨링 접근 방식을 조정하기 위해 이들 회사와 적극적으로 협력하고 있습니다.”라고 McLaughlin은 덧붙였습니다.
지난 2월 메타는 올해 선거 시즌을 앞두고 페이스북, 인스타그램, 스레드에 업로드되는 사진에 'Made with AI' 태그를 추가하겠다고 발표했습니다. 구체적으로 회사는 Google, OpenAI, Microsoft, Adobe, Midjourney 및 Shutterstock과 같은 도구를 사용하여 생성된 AI 사진에 태그를 추가할 것이라고 밝혔습니다.
Meta는 "Made with AI" 라벨을 촉발한 원인을 공개하지 않았지만 이들 회사 모두 AI 생성을 식별하는 Meta의 방법인 AI 도구의 사용을 나타 내기 위해 이미지 파일에 메타데이터를 추가했거나 추가하는 과정에 있습니다. 사진. 예를 들어 Adobe는 작년에 콘텐츠 소스에 대한 정보를 메타데이터에 추가하는 콘텐츠 자격 증명 시스템을 출시했습니다.
하이라이트:
- 여러 사진작가들은 Meta가 실제 사진을 “Made with AI”로 잘못 표시했다고 불평했습니다.
- 편집 도구를 사용하여 만든 사진이 영향을 받는 것으로 보입니다.
- Meta는 또한 생성 AI 도구를 사용할 때 실제 사진을 Made with AI로 잘못 표시했습니다.
이 질문에 대한 Meta의 답변은 그들이 오탐을 줄이기 위해 알고리즘을 개선하기 위해 노력하고 있음을 나타냅니다. 그러나 이는 이미지 인식 분야에서 AI 기술의 한계와 실제 적용에 부정적인 영향을 미칠 수도 있음을 드러냅니다. 기술 발전과 사용자 권리 보호의 균형을 어떻게 맞추느냐는 여전히 지속적인 관심과 해결이 필요한 문제입니다.