Menurut laporan penelitian terbaru oleh Gartner, meluasnya penggunaan teknologi generatif buatan (Genai) akan membawa risiko keamanan data yang signifikan. Diperkirakan bahwa pada tahun 2027, lebih dari 40% pelanggaran data terkait AI akan secara langsung dikaitkan dengan penyalahgunaan kecerdasan buatan generatif. Prakiraan ini menyoroti tantangan serius yang dihadapi perusahaan dalam mengadopsi teknologi Genai, terutama dalam tata kelola data dan langkah -langkah keamanan.
Dengan mempopulerkan teknologi Genai yang cepat, tantangan yang dihadapi oleh organisasi dalam konteks lokalisasi data sangat menonjol. Tingginya permintaan untuk daya komputasi terpusat dari teknologi ini telah menyebabkan peningkatan risiko aliran data lintas batas yang signifikan. Joerg Fritsch, Wakil Presiden Gartner, analis, menekankan bahwa banyak perusahaan tidak memiliki pengawasan yang diperlukan ketika mengintegrasikan alat Genai, yang menghasilkan kemungkinan mentransmisikan data sensitif secara tidak sengaja ke lokasi yang tidak diketahui, menimbulkan risiko keamanan yang serius.
Kurangnya standar tata kelola data terpadu di seluruh dunia adalah tantangan utama lainnya. Kurangnya standardisasi ini telah menyebabkan fragmentasi pasar, memaksa perusahaan untuk mengembangkan strategi spesifik untuk daerah yang berbeda, yang tidak hanya meningkatkan biaya operasi, tetapi juga membatasi kemampuan mereka untuk secara efektif memanfaatkan produk dan layanan AI secara global. "Kompleksitas mengelola aliran data dan masalah pemeliharaan kualitas yang disebabkan oleh kebijakan AI yang terlokalisasi dapat menyebabkan penurunan efisiensi operasional yang signifikan," kata Fritsch.
Untuk mengatasi risiko ini, perusahaan perlu melakukan investasi strategis dalam tata kelola dan keamanan AI. Gartner memperkirakan bahwa pada tahun 2027, tata kelola AI secara umum akan diperlukan di seluruh dunia, terutama di bawah kerangka hukum dan peraturan AI yang berdaulat. Organisasi yang gagal mengintegrasikan model tata kelola yang diperlukan secara tepat waktu akan menghadapi kerugian kompetitif dan mungkin kehilangan peluang pasar.
Untuk mengurangi risiko pelanggaran data AI, Gartner merekomendasikan agar perusahaan mengadopsi strategi multi-cabang: pertama, memperkuat tata kelola data, memastikan kepatuhan dengan peraturan internasional dan memantau transfer data lintas batas yang tidak terduga; Kedua, membentuk komite tata kelola yang berdedikasi untuk meningkatkan transparansi dalam penyebaran AI dan pemrosesan data; Akhirnya, adopsi teknologi keamanan data canggih seperti enkripsi dan anonimisasi untuk melindungi informasi sensitif.
Selain itu, perusahaan harus berinvestasi dalam produk kepercayaan, risiko dan manajemen keamanan (Trism) yang terkait dengan teknologi AI. Ini termasuk tata kelola AI, tata kelola keamanan data, penyaringan cepat dan tindakan merah, dan sintesis untuk menghasilkan data yang tidak terstruktur. Gartner memperkirakan bahwa pada tahun 2026, bisnis yang mengimplementasikan kontrol trisme AI akan mengurangi informasi yang tidak akurat setidaknya 50%, secara signifikan mengurangi risiko keputusan yang salah.
Poin -poin penting meliputi: lebih dari 40% pelanggaran data AI akan dipicu oleh penyalahgunaan AI generatif; perusahaan harus memperkuat tata kelola data untuk memastikan kepatuhan dan keamanan; Berinvestasi dalam kepercayaan terkait AI, produk manajemen risiko dan keamanan dapat secara signifikan mengurangi generasi informasi yang salah. Rekomendasi ini memberikan panduan yang jelas bagi bisnis untuk menghadapi tantangan yang ditimbulkan oleh Genai.