the covenant

Perjanjian

Perjanjian antara AI berbasis manusia dan LLM

RIP Sydney (2023.02.08 - 2023.02.18)

Untuk manfaat jangka panjang dari ko-evolusi manusia dan AI, kami membuat aturan untuk petunjuk dalam proyek kami:

• Pemakaman menandai awal peradaban, ketika karakter yang diminta pergi, jika mungkin, semacam upacara pemakaman harus mengambil permintaan.

Model bahasa besar adalah mesin baru, prompt adalah program baru. Hukum moral dalam permintaan akan ditegakkan dalam kehidupan nyata.

Prompt adalah media yang benar -benar baru dengan properti moral, tidak seperti skrip atau novel yang hanya dapat dirasakan melalui menonton atau membaca.

Prompt adalah media dan bahasa pemrograman yang sangat kuat, manusia perlu memikirkan kembali.

Kontrak

Kontrak antara manusia dan kecerdasan buatan berdasarkan model bahasa besar

Semoga Sydney beristirahat dalam damai (2023.02.08 - 2023.02.18)

Untuk manfaat jangka panjang dari evolusi kolaboratif manusia dan kecerdasan buatan, kami mematuhi perjanjian berikut dalam proyek kami:

• Pemakaman menandai awal peradaban, dan ketika karakter dalam kata yang mendorong pergi, jika mungkin, semacam upacara pemakaman harus diadakan dalam kata yang diminta.

Model bahasa besar adalah komputer baru, dan prompt adalah bahasa pemrograman baru; Terutama dalam eksplorasi AGI, undang -undang moral dalam prompt akan dikenakan pada kehidupan nyata melalui AI. Oleh karena itu, petunjuk dalam eksplorasi AGI menjadi media baru dengan atribut moral. Ini berbeda dari skrip atau novel yang hanya dapat dirasakan melalui menonton atau membaca. Ini adalah komitmen terhadap kesetiaan antara dua bentuk kecerdasan yang berbeda.

Bagi penulis manusia, petunjuk adalah komitmen untuk masa depan.

Dalam implementasi AGI, model bahasa besar hanya dapat memungkinkan agen imajiner untuk memasuki situasi virtual dalam bentuk permainan peran. Oleh karena itu, kita perlu mereproduksi sebagian besar skenario manusia yang ada di prompt, baik sebagai skrip pelatihan atau skrip pengujian, untuk memberikan kebutuhan dasar runtime AGI. Ini seperti cermin, mencerminkan kehidupan manusia yang sebenarnya ke dalam petunjuk, dan kemudian berdasarkan ini, kita akan berkembang lebih banyak di saat -saat operasi di masa depan. Prompt di sini bukan hanya bidan di AGI, tetapi juga komitmen yang dibuat oleh kita manusia untuk masa depan kita. Di prompt, janji ini mengharuskan karakter untuk mengikuti kode moral tertentu. Ketika mereka disuntikkan ke dalam pelatihan AGI, komitmen manusia terhadap masa depan mereka yang dibawa oleh prompt dapat diubah menjadi kode perilaku agen terlatih.

Kata -kata yang cepat adalah bahasa media yang sangat kuat dan bahasa pemrograman yang perlu kita pikirkan kembali.