Kunlun Wanwei bekerja sama dengan Nanyang Technological University di Singapura dan berhasil mengembangkan algoritma yang disebut Q*, yang secara signifikan dapat meningkatkan kemampuan penalaran model besar yang ada. Kemajuan terobosan ini memungkinkan model kecil mencapai atau bahkan melampaui kemampuan penalaran model dengan parameter puluhan atau bahkan ratusan kali lebih besar, sekaligus mengurangi permintaan sumber daya komputasi secara signifikan. Kemunculan algoritma Q* telah membuka babak baru dalam penerapan kecerdasan buatan secara luas, dan menandai datangnya era baru kecerdasan efisien. Hasil penelitian ini telah dipublikasikan dalam makalah "Q*: Improving Multi-step Reasoning for LLMs with Deliberative Planning" dan memberikan penjelasan teknis secara detail.
Para peneliti secara halus meningkatkan kinerja model sumber terbuka pada tugas inferensi dengan menguraikan lintasan inferensi model bahasa besar menjadi beberapa keadaan dan menggunakan algoritma pencarian A* untuk mencapai perencanaan keseluruhan. Dengan mendefinisikan fungsi Path Cost dan fungsi Akumulasi Imbalan, pertimbangan komprehensif mengenai pengembalian status historis dan pengembalian yang diharapkan di masa depan dapat dicapai, dan peningkatan akurasi yang signifikan dicapai dalam eksperimen, melampaui beberapa model terkenal. Saat ini, penelitian Q* masih dalam tahap awal, namun potensinya sangat besar. Di masa depan, diharapkan dapat lebih meningkatkan kemampuan penalaran model open source dalam negeri dan berkontribusi lebih besar terhadap pengembangan teknologi kecerdasan buatan.
Secara khusus, Q* mengoptimalkan proses penalaran dengan mempertimbangkan secara komprehensif tingkat pengembalian historis dan tingkat pengembalian yang diharapkan di masa depan. Hasil eksperimen menunjukkan bahwa Q* telah mencapai peningkatan kinerja yang signifikan pada beberapa kumpulan data, yang memberikan arah baru bagi kemajuan teknologi kecerdasan buatan.
Saat ini, penelitian tentang Q* masih dalam tahap awal dan masih ada ruang untuk perbaikan. Kedepannya, Kunlun Wanwei akan terus melakukan penelitian mendalam untuk meningkatkan kemampuan penalaran model open source dalam negeri dan memberikan lebih banyak kemungkinan bagi pengembangan teknologi kecerdasan buatan.
Tautan kertas:
https://arxiv.org/abs/2406.14283
Keberhasilan pengembangan algoritma Q* menandai kemajuan penting di bidang kecerdasan buatan dan menunjukkan arah pengembangan teknologi kecerdasan buatan di masa depan. Penerapan dan terobosannya di lebih banyak bidang patut dinantikan.