Setelah salah satu pendiri OpenAI Ilya Sutskever mengundurkan diri sebagai kepala ilmuwan, ia mendirikan Safe Superintelligence Inc. (SSI) bersama rekannya Daniel Levy dan mantan direktur kecerdasan buatan Apple Daniel Gross, yang berdedikasi untuk membangun superintelligence yang aman. Langkah tersebut menarik perhatian luas, terutama setelah Sutskever sebelumnya memimpin tim OpenAI Super Alignment dan terlibat dalam pemecatan singkat CEO OpenAI Sam Altman pada November 2023. Pembentukan SSI menandai pergeseran fokus Sutskever pada keamanan kecerdasan buatan dari OpenAI ke platform yang lebih fokus dan independen.
Salah satu pendiri OpenAI, Ilya Sutskever, baru-baru ini mengumumkan bahwa ia akan mengabdikan dirinya pada proyek kewirausahaan baru setelah mengundurkan diri sebagai kepala ilmuwan OpenAI pada bulan Mei tahun ini. Dia dan rekan OpenAI Daniel Levy serta mantan direktur kecerdasan buatan Apple dan salah satu pendiri Cue Daniel Gross mengumumkan bahwa mereka ikut mendirikan Safe Superintelligence Inc., sebuah perusahaan rintisan yang misinya adalah membangun kecerdasan super yang aman.
Dalam informasi yang diposting di situs SSI, para pendiri mengatakan bahwa membangun superintelligence yang aman adalah "masalah teknis paling penting di zaman kita." Lebih jauh lagi, "Kami memandang keselamatan dan kemampuan sebagai satu kesatuan, sebagai sebuah permasalahan teknologi yang dapat diselesaikan melalui rekayasa revolusioner dan terobosan ilmiah. Kami berencana untuk meningkatkan kemampuan secepat mungkin sambil memastikan keselamatan kami selalu menjadi yang terdepan."
Jadi, apa itu superintelligence? Ini adalah konsep hipotetis yang mewakili entitas teoritis dengan kecerdasan yang jauh melebihi manusia terpintar.
Langkah ini merupakan kelanjutan dari pekerjaan Sutskever di OpenAI. Dia adalah anggota tim Super Alignment perusahaan, yang bertanggung jawab merancang cara mengendalikan sistem kecerdasan buatan baru yang kuat. Namun dengan kepergian Sutskever, tim tersebut dibubarkan, sebuah tindakan yang dikritik keras oleh salah satu mantan pemimpinnya, Jean Leike.
SSI mengklaim pihaknya akan “memajukan pengembangan superintelligence yang aman dalam garis lurus, fokus pada satu tujuan dan satu produk.”
Tentu saja, salah satu pendiri OpenAI berperan penting dalam pemecatan singkat CEO Sam Altman pada November 2023. Sutskever kemudian mengatakan dia menyesali perannya dalam insiden tersebut.
Pendirian Safe Superintelligence Inc. akan memungkinkan Sutskever dan lainnya untuk lebih fokus dalam memecahkan masalah superintelligence yang aman dan mencapai pengembangan produk dengan satu tujuan.
SSI bertujuan untuk memecahkan masalah yang sangat menantang dalam membangun superintelligence yang aman, dan pengembangannya di masa depan patut mendapat perhatian terus-menerus. Keberhasilan perusahaan baru Sutskever dalam mencapai tujuan ambisiusnya akan berdampak luas pada bidang kecerdasan buatan.