Marcus Hutter, seorang pemimpin di bidang kecerdasan buatan umum, dan Xuan Xiaohua, pendiri teknologi komputasi Huayuan, dalam sebuah wawancara, membahas secara mendalam tren pengembangan dan dampak potensial dari model bahasa besar. Mereka menunjukkan bahwa model bahasa besar diharapkan untuk melakukan 50% tugas kerja manusia di masa depan, dan prediksi ini telah memicu pemikiran luas dalam industri tentang skenario kerja di masa depan. Namun, mereka juga menekankan bahwa realisasi tujuan ini menghadapi banyak tantangan, termasuk pengendalian biaya, peningkatan kemampuan penalaran, dan keakuratan pelabelan data.
Ketika membahas kontrol biaya model besar, Hutter dan Xuan Xiaohua menunjukkan bahwa meskipun model bahasa besar telah membuat kemajuan teknologi yang signifikan, pelatihan tinggi dan biaya operasional mereka masih merupakan faktor utama yang membatasi penggunaan luas mereka. Untuk mengurangi biaya, mereka merekomendasikan pembangunan berkelanjutan dengan mengoptimalkan algoritma, meningkatkan efisiensi perangkat keras, dan mengeksplorasi metode pelatihan yang lebih ekonomis. Selain itu, mereka juga menyebutkan bahwa meningkatkan kemampuan penalaran adalah kunci untuk memastikan bahwa model besar berjalan secara efisien dalam aplikasi praktis.
Keakuratan anotasi data juga merupakan tantangan yang tidak dapat diabaikan dalam pengembangan model besar. Hutter dan Xuan Xiaohua menekankan bahwa anotasi data berkualitas tinggi adalah dasar dari pelatihan model, tetapi dalam operasi aktual, keakuratan dan konsistensi anotasi data seringkali sulit dipastikan. Untuk mengatasi masalah ini, mereka menyarankan kombinasi alat anotasi otomatis dan audit manual untuk meningkatkan kualitas dan efisiensi anotasi data.
Dalam hal tren pengembangan model open source dan tertutup, Hutter dan Xuan Xiaohua percaya bahwa model open source dan model sumber tertutup memiliki keunggulannya sendiri. Model open source transparan dan scalable, yang dapat menarik lebih banyak pengembang dan peneliti untuk berpartisipasi dan mempromosikan iterasi teknologi yang cepat; Mereka memperkirakan bahwa di masa depan, model open source dan tertutup akan berkembang secara paralel di bidang yang berbeda, masing -masing memainkan peran unik mereka.
Selain itu, Hutter dan Xuan Xiaohua juga menekankan potensi aplikasi model besar di bidang vertikal. Mereka percaya bahwa penerapan model besar di bidang tertentu seperti perawatan kesehatan, keuangan, dan pendidikan akan membawa perubahan revolusioner. Dengan dikembangkan secara khusus untuk kebutuhan industri tertentu, model besar dapat memberikan solusi yang lebih akurat dan efisien, sehingga mempromosikan transformasi digital di industri ini.
Secara keseluruhan, diskusi Hutter dan Xuan Xiaohua memberikan wawasan mendalam tentang pengembangan model besar. Meskipun banyak tantangan, prospek aplikasi masa depan model bahasa besar masih luas. Dengan kemajuan teknologi yang berkelanjutan dan pengurangan biaya bertahap, model besar diharapkan untuk mewujudkan potensi besar mereka di lebih banyak bidang dan memiliki dampak yang luas pada masyarakat manusia.