인공 지능의 빠른 발전은 많은 편의를 가져 왔지만 큰 위험을 초래합니다. 최근 "Fungifriend"라는 AI 요원은 Facebook 버섯 애호가 그룹에서 잘못된 버섯 요리 조언을 제공했으며,이 그룹은 거의 재난을 일으켜 AI의 안전 위험을 강조했습니다. 이 사건은 AI 보안에 대한 대중의 우려를 불러 일으켰으며 사람들이 AI 기술의 응용 프로그램 경계를 재검토하도록 유도했습니다.
최근 Facebook 버섯 애호가 그룹에서 발생한 사건으로 인해 AI 애플리케이션의 보안에 대한 우려가 다시 발생했습니다. 404media에 따르면, "Fungifriend"라는 AI 요원은 13,000 명의 회원이있는 "Northeast Mushroom 식별 및 토론"그룹에 몰래 들어갔고 잠재적으로 치명적인 위험으로 허위 제안을했습니다.
고농도의 비소를 함유 한 Sarcosphaera Coronaria 버섯을 요리하는 방법을 물었을 때, Fungifriend는 버섯이 "식용"이라고 잘못 언급했을뿐만 아니라 튀김, 볶음, 스튜어트 등을 포함한 다양한 요리 방법을 도입했습니다. 실제로이 버섯은 치명적인 사례를 일으켰습니다.
소비자 보안기구 공공 시민의 리서치 디렉터 인 Rick Claypool은 AI를 사용하여 식용 및 독성 버섯의 식별을 자동화하는 것이 "고위험 활동"이며 현재 AI 시스템은이 작업을 정확하게 완성 할 수 없다고 지적했습니다.
이것은 고립 된 경우가 아닙니다. 작년에 AI 애플리케이션은 식품 안전 분야에서 심각한 실수를 저질렀습니다. - 일부 AI 응용 프로그램은 모기 퇴변을 함유 한 샌드위치를 만드는 것이 좋습니다. 특정 AI 시스템은 염소를 포함하는 레시피를 제공하고 식습관 제안에 대한 터무니없는 지침을 제공합니다. AI는 또한 한때 "개는 운동을 할 수있다"고 주장하고 접착제를 사용하여 피자 등을 만드는 것을 제안했습니다.
AI 오류가 빈번하지만 미국 기업들은 여전히 AI 고객 서비스의 대중화를 빠르게 홍보하고 있습니다. 이 "속도와 무시 품질에 중점을 둔"접근 방식은 회사가 비용 절감에 대해 지나치게 우려하고 사용자 안전에 대한 고려 사항이 부족하다는 것을 반영합니다. 전문가들은 정보의 정확성과 신뢰성을 보장하기 위해 특정 영역, 특히 보안 관련 분야에서 AI 기술을 사용하도록주의해야합니다.
"Fungifriend"사건은 AI의 편의를 누리면서 보안 위험에주의를 기울여야한다고 경고하기 위해 모닝콜을했습니다. 향후 AI 기술은 신뢰성과 보안을 보장하고 유사한 사건이 다시 발생하지 않도록하기 전에 테스트 및 조절해야합니다. 이런 식으로 만 AI의 이점을 진정으로 활용하고 잠재적 인 피해를 입지 않을 수 있습니다.