Di bidang kecerdasan buatan, teknologi penyempurnaan lintas domain menjadi solusi utama untuk melindungi model hak properti dan privasi data. Baru -baru ini, tim peneliti bersama dari Ant Digital Technology, Universitas Zhejiang, Universitas Liverpool dan Universitas Normal Tiongkok Timur mengusulkan kerangka kerja inovatif yang disebut Skalaot di Konferensi AAAI2025. Sambil menjaga model kinerja lossless, kerangka kerja ini meningkatkan perlindungan privasi sebesar 50%, dan mengurangi konsumsi daya komputasi sebesar 90% dibandingkan dengan teknologi distilasi pengetahuan tradisional. Hasil terobosan ini memberikan solusi yang efisien dan ringan untuk fine-tuning lintas domain dari model parameter tingkat sepuluh miliar. Makalahnya dipilih sebagai laporan lisan AAAI untuk inovasinya. Jumlah pengajuan di konferensi ini hampir 13.000, dan proporsi laporan lisan hanya 4,6%.
Teknologi penyempurnaan silang domain mengubah model besar menjadi emulator melalui kompresi lossy. Pemegang data melatih adaptor berdasarkan dan mengembalikannya ke model besar untuk menyelesaikan penyetelan, sehingga memastikan bahwa baik data maupun model tidak ada di luar domain dan melindungi privasi kedua belah pihak. Namun, seni sebelumnya memiliki beberapa keterbatasan: Pertama, pendekatan "Blok Bangunan Seragam" dapat dengan mudah menyebabkan hilangnya lapisan kunci model, sehingga secara signifikan mengurangi kinerja; Kedua, penggunaan teknologi distilasi untuk mengkompensasi kerugian kinerja akan menyebabkan biaya komputasi yang tinggi; Selain itu, metode yang ada tidak memiliki fleksibilitas dalam perlindungan privasi.
Kerangka kerja skala yang diusulkan oleh tim teknis teknologi digital ANT berhasil menyeimbangkan kinerja model dan keamanan privasi melalui tiga ide inovatif. Pertama, kerangka kerja menggunakan pemindaian pembelajaran penguatan untuk secara otomatis mengidentifikasi lapisan kunci dengan mengevaluasi pentingnya lapisan pintar model besar, sehingga mengurangi kerugian kinerja. Kedua, lapisan asli yang ditahan adalah "kode" untuk mencegah penyerang memulihkan model asli dan meningkatkan kekuatan perlindungan privasi dengan kinerja yang hampir lossless. Akhirnya, kerangka kerja skala dapat dirakit secara fleksibel sesuai dengan skenario yang berbeda untuk mencapai kekuatan privasi yang dapat disesuaikan.
Memecahkan masalah privasi dan keamanan data dan model adalah masalah penting bagi model besar untuk diimplementasikan di industri, terutama industri keuangan. Algoritma inovatif dari Ant Digital ini telah diintegrasikan ke dalam produk perlindungan privasi model besar lumutnya, dan telah menjadi salah satu produk pertama di Cina yang lulus Institute of Information and Communications Technology untuk melakukan tes khusus pada produk lingkungan yang dapat dipercaya. Keberhasilan aplikasi teknologi ini tidak hanya menyediakan solusi penyebaran model yang lebih aman untuk industri keuangan, tetapi juga menetapkan tolok ukur untuk aplikasi model skala besar di industri lain.
Dengan pengembangan teknologi kecerdasan buatan yang berkelanjutan, teknologi penyempurnaan lintas domain akan memainkan peran penting dalam lebih banyak bidang. Proposal kerangka kerja skala tidak hanya menyediakan ide -ide baru untuk keseimbangan antara kinerja model dan keamanan privasi, tetapi juga menjadi dasar yang kuat untuk aplikasi luas model besar di masa depan. Pencapaian inovatif teknologi digital semut ini dan mitranya tidak diragukan lagi akan mempromosikan pengembangan lebih lanjut dari teknologi kecerdasan buatan di bidang perlindungan privasi.