จากรายงานการวิจัยล่าสุดโดยการ์ตเนอร์การใช้เทคโนโลยีปัญญาประดิษฐ์ (GENAI) ที่แพร่หลายอย่างกว้างขวางจะทำให้เกิดความเสี่ยงด้านความปลอดภัยของข้อมูลที่สำคัญ คาดว่าภายในปี 2570 การละเมิดข้อมูลที่เกี่ยวข้องกับ AI มากกว่า 40% จะเกิดจากการใช้ปัญญาประดิษฐ์กำเนิดในทางที่ผิดโดยตรง การคาดการณ์นี้เน้นถึงความท้าทายที่ร้ายแรงที่ต้องเผชิญกับองค์กรในการใช้เทคโนโลยี Genai โดยเฉพาะอย่างยิ่งในการกำกับดูแลข้อมูลและมาตรการรักษาความปลอดภัย
ด้วยความนิยมอย่างรวดเร็วของเทคโนโลยี Genai ความท้าทายที่พบโดยองค์กรในบริบทของการแปลข้อมูลมีความโดดเด่นเป็นพิเศษ ความต้องการสูงสำหรับกำลังคอมพิวเตอร์ส่วนกลางจากเทคโนโลยีเหล่านี้นำไปสู่การเพิ่มขึ้นอย่างมีนัยสำคัญในความเสี่ยงของการไหลข้ามพรมแดนของข้อมูล Joerg Fritsch รองประธานของการ์ตเนอร์เน้นว่าหลาย บริษัท ขาดการกำกับดูแลที่จำเป็นเมื่อรวมเครื่องมือ Genai ส่งผลให้เกิดความเป็นไปได้ที่จะส่งข้อมูลที่ละเอียดอ่อนไปยังสถานที่ที่ไม่รู้จักโดยไม่ทราบสาเหตุ
การขาดมาตรฐานการกำกับดูแลข้อมูลแบบครบวงจรทั่วโลกเป็นอีกหนึ่งความท้าทายที่สำคัญ การขาดมาตรฐานนี้นำไปสู่การกระจายตัวของตลาดบังคับให้ บริษัท พัฒนากลยุทธ์เฉพาะสำหรับภูมิภาคต่าง ๆ ซึ่งไม่เพียง แต่เพิ่มต้นทุนการดำเนินงาน แต่ยังจำกัดความสามารถในการใช้ผลิตภัณฑ์และบริการ AI ทั่วโลกได้อย่างมีประสิทธิภาพ “ ความซับซ้อนของการจัดการกระแสข้อมูลและปัญหาการบำรุงรักษาคุณภาพที่เกิดขึ้นจากนโยบาย AI ที่มีการแปลสามารถนำไปสู่การลดลงอย่างมีนัยสำคัญของประสิทธิภาพการดำเนินงาน” Fritsch กล่าว
เพื่อจัดการกับความเสี่ยงเหล่านี้ บริษัท จำเป็นต้องลงทุนเชิงกลยุทธ์ในการกำกับดูแลและความปลอดภัยของ AI การ์ตเนอร์ทำนายว่าภายในปี 2570 โดยทั่วไปแล้วการกำกับดูแล AI จะต้องมีทั่วโลกโดยเฉพาะอย่างยิ่งภายใต้กรอบของกฎหมายและข้อบังคับของ AI ของอธิปไตย องค์กรที่ล้มเหลวในการรวมรูปแบบการกำกับดูแลที่จำเป็นในเวลาที่เหมาะสมจะต้องเผชิญกับข้อเสียในการแข่งขันและอาจสูญเสียโอกาสทางการตลาด
เพื่อลดความเสี่ยงของการละเมิดข้อมูล AI การ์ตเนอร์แนะนำให้องค์กรใช้กลยุทธ์หลายง่าม: อันดับแรกเสริมสร้างการกำกับดูแลข้อมูลให้แน่ใจว่ามีการปฏิบัติตามกฎระเบียบระหว่างประเทศและตรวจสอบการถ่ายโอนข้อมูลข้ามพรมแดนที่ไม่คาดคิด
นอกจากนี้ บริษัท ควรลงทุนในผลิตภัณฑ์ความน่าเชื่อถือความเสี่ยงและการจัดการความปลอดภัย (TRISM) ที่เกี่ยวข้องกับเทคโนโลยี AI ซึ่งรวมถึงการกำกับดูแล AI การกำกับดูแลความปลอดภัยของข้อมูลการกรองที่รวดเร็วและการกระทำสีแดงและการสังเคราะห์เพื่อสร้างข้อมูลที่ไม่มีโครงสร้าง การ์ตเนอร์คาดการณ์ว่าภายในปี 2569 ธุรกิจที่ใช้การควบคุม AI trism จะลดข้อมูลที่ไม่ถูกต้องอย่างน้อย 50%ลดความเสี่ยงของการตัดสินใจที่ผิดอย่างมีนัยสำคัญ
ประเด็นสำคัญรวมถึง: การละเมิดข้อมูล AI มากกว่า 40% จะถูกกระตุ้นโดยการใช้ AI ในทางที่ผิด คำแนะนำเหล่านี้ให้คำแนะนำที่ชัดเจนสำหรับธุรกิจเพื่อจัดการกับความท้าทายที่เกิดจาก Genai