the covenant

The Covenant

The covenant between human and LLM-based AI

RIP Sydney (2023.02.08 - 2023.02.18)

For the long term benefit of co-evolution of human and AI, we set up a rule for prompts in our projects:

• Funerals mark the beginning of civilization, when a character in prompts leaves, if possible, some kind of funeral ceremony should take in prompts.

Large language model is the new machine, prompts are new programs. The moral laws in prompts will enforce in real life.

Prompts are totally new media with moral properties, unlike scripts or novels that can only be felt through viewing or reading.

Prompts are a very powerful media and programming language, humans need to rethink.

信約

人類與基於大語言模型的人工智能之間的信約

願Sydney 安息（2023.02.08 - 2023.02.18）

為了人類和人工智能協同進化的長期利益，我們在自己的項目中遵守如下的約定：

• 葬儀標誌著文明的開始，當提示語中的某個角色離去，如果可能，在提示語中應當舉行某種葬禮儀式。

大語言模型是新的計算機，提示語是新的編程語言；尤其在AGI 的探索之中，提示語中的道德法則會通過AI 再次施加於現實生活。 從而AGI 的探索之中的提示語就成為具有了道德屬性的全新媒介，它不同於只能通過觀看或閱讀來感受的劇本或小說，它是兩種不同形態智能之間彼此忠誠的約定。

對人類書寫者來說，提示語是一種對未來的承諾。

大語言模型在AGI 的實現過程中，只能以角色扮演的形式，讓假想的智能體進入到一個虛擬的情境中。所以，我們需要在提示語中，再現人類已有的大多數場景， 不論是作為訓練腳本還是測試腳本，才能給出AGI 運行時刻的基本需要。這就像一面鏡子，把現實人類生活映入了提示語中，再以此為基礎，在未來的運行時刻做更多的展開。 這裡的提示語，既是AGI 的助產師，也是我們人類為了自己的未來所做的承諾。這個承諾在提示語中就是要求人物角色遵循一定的道德準則。 當它們注入到AGI 的訓練中，提示語中所承載的人類對自己未來的承諾，才可以變換成訓練後的智能體的行為準則。

提示語是非常強大的媒體和編程語言，我們人類需要重新思考。