Para peneliti di Universitas California, Berkeley, baru-baru ini melakukan open source terhadap model AI canggih yang disebut Large World Model (LWM), yang dapat memproses jutaan data sekaligus dan memiliki kemampuan luar biasa untuk menghasilkan video dan gambar dari teks. Hal ini menandai kemajuan signifikan dalam pemrosesan informasi multimodal di bidang AI. Terobosan inti LWM terletak pada teknologi Ring Attention yang unik, yang secara efektif memecahkan masalah penghitungan perhatian urutan panjang dan memberikan dukungan utama untuk pemrosesan data besar yang efisien. Setelah pelatihan ketat dalam dua tahap pra-pelatihan model bahasa dan pra-pelatihan multi-modal, LWM telah menunjukkan hasil yang mengesankan dan membuka babak baru untuk penerapan AI di masa depan.
Baru-baru ini, para peneliti di Universitas California, Berkeley, membuat Large World Model (LWM) menjadi sumber terbuka, yang dapat menafsirkan 1 juta data sekaligus dan memiliki kemampuan untuk menghasilkan video dan gambar dari teks. Model ini memecahkan masalah penghitungan perhatian urutan panjang melalui teknologi Ring Attention dan mencapai pemrosesan informasi multi-modal yang efisien. Setelah melalui dua tahap pra-pelatihan model bahasa dan pra-pelatihan multimodal, hasil luar biasa telah dicapai.
LWM yang bersifat open source menyediakan sumber daya berharga bagi akademisi dan industri, dan selanjutnya akan mendorong perkembangan pesat model bahasa berskala besar dan teknologi AI multi-modal. Dipercaya bahwa lebih banyak aplikasi inovatif berbasis LWM akan bermunculan di masa depan, membawa lebih banyak kemudahan dan kejutan dalam kehidupan masyarakat. Tidak diragukan lagi, ini merupakan tonggak sejarah yang menarik dalam bidang kecerdasan buatan.