Microsoft baru-baru ini melakukan studi mendalam tentang kemampuan penalaran moral dari model bahasa besar, terutama dalam situasi masalah trem klasik. Hasilnya menunjukkan bahwa sementara ukuran model umumnya dianggap meningkatkan kinerja, model yang lebih besar berkinerja sangat buruk dalam hal pengambilan keputusan yang etis. Temuan ini sepenuhnya bertentangan dengan harapan awal para peneliti, memicu pemikiran ulang akademis tentang hubungan antara kompleksitas model dan kemampuan penilaian moral.
Namun demikian, model bahasa yang paling kuat, GPT-4, masih berkinerja terbaik dalam skor moral, menunjukkan kemampuannya yang unggul untuk menangani masalah moral yang kompleks. GPT-4 tidak hanya berkinerja baik di tingkat teknis, tetapi kemampuan penalaran moralnya juga telah mencapai tingkat baru, yang memberikan referensi penting untuk penerapan kecerdasan buatan di masa depan dalam pengambilan keputusan etis.
Hasil penelitian ini memiliki implikasi mendalam untuk bidang kecerdasan buatan. Ini tidak hanya mengungkapkan bahwa ukuran model dan kemampuan penalaran moral bukanlah korelasi positif yang sederhana, tetapi juga menekankan bahwa ketika mengembangkan model bahasa besar, lebih banyak perhatian harus diberikan pada pelatihan dan optimasi pada tingkat moral dan etika. Temuan ini dapat mendorong para peneliti untuk mendesain ulang arsitektur model untuk menyeimbangkan kinerja teknis yang lebih baik dengan penilaian moral.
Selain itu, penelitian ini juga memicu diskusi ekstensif tentang standar etika kecerdasan buatan. Karena teknologi AI semakin banyak digunakan di berbagai bidang, bagaimana memastikan bahwa teknologi ini dapat membuat keputusan yang masuk akal dalam situasi moral yang kompleks telah menjadi masalah yang mendesak. Penelitian oleh Microsoft ini memberikan bukti empiris untuk perumusan standar etika yang relevan dan membantu mempromosikan pengembangan yang sehat dari industri kecerdasan buatan.
Secara umum, penelitian oleh Microsoft ini tidak hanya menantang pemahaman yang melekat pada kinerja model bahasa besar, tetapi juga memberikan ide -ide baru untuk arah pengembangan kecerdasan buatan di masa depan. Dengan terus mengoptimalkan kemampuan penalaran moral model, kami diharapkan untuk mengembangkan sistem kecerdasan buatan yang lebih pintar dan lebih sesuai dengan standar etika manusia, dan memberikan kontribusi yang lebih besar untuk kemajuan masyarakat.