ChatGPTCLIBot

Aviso: ya no se mantiene

¡Adiós a todos!

Como habrás notado, el paisaje de LLMS ha cambiado drásticamente en los últimos meses. Con la introducción de modelos con la friolera de más de 100,000 tokens de memoria de contexto y los grandes jugadores como OpenAi, Google y Anthrope Integing Rag directamente en sus sitios web oficiales, creo que este repositorio ha cumplido su propósito.

También me he centrado en otros proyectos y priorizando mi vida personal y mi bienestar mental. Como resultado, no he podido dedicar tiempo a actualizar este repositorio, lo cual es evidente por la falta de comodidades en los últimos meses.

Mirando hacia atrás, este repositorio se creó inicialmente para abordar las limitaciones del contexto 4096 GPT-3, ya que ese tamaño de contexto era simplemente demasiado pequeño. Sin embargo, con los avances en LLM y la aparición de mejores GUI, creo que el contexto superior ahora es preferible a usar incrustaciones para el trapo.

Si está buscando algunas GUI de LLM increíbles, estas son mis principales recomendaciones:

• Sillytavern - Perfecto para Bot Fooking ¡Roleplaying e incluso tiene soporte de trapo!
• Lobechat: ideal para el uso de LLM de propósito general, aunque no tiene trapo.
• BetterChatgpt: otra opción fantástica para el uso de LLM de uso general, específicamente diseñado para OpenAI. Si bien no se mantiene activamente, la interfaz de usuario se parece mucho al sitio web original de ChatGPT.

(¿Por favor no desestrendas este repositorio?)

Chatgpt cli bot

¡Ejecute gpt-3.5-turbo o cualquier otro modelo GPT ( text-davinci-003 ) con este programa!
Use gpt-4 o gpt-4-32k para usar los nuevos modelos GPT-4 si tiene acceso.
Puede cambiar modelos en el archivo config.json .
Es como https://chat.openai.com/ pero en su CMD y mejor (en términos de memoria).
¡Puede agregar indicaciones iniciales personalizadas y guardar/cargar su historial de chat!
Descargue y haga doble clic en GPT3Bot.exe o run.bat ¡Bat para ejecutar el programa!
En Linux y MacOS, puede ejecutar ./GPT3Bot para ejecutar el programa.

Haga clic para descargar: lanzamiento estable | Desarrollo de desarrollo
Consulte el wiki para obtener más información: haga clic en mí

Características/Manual:

1. ¡Soporte de memoria a largo plazo! ¿Sigue golpeando el límite de contexto de tokens 4096? No se preocupe más con este bot de CLI. Tiene una memoria de contexto casi infinita (si tienes un espacio de disco infinito jajaja), ¡todo gracias a los incrustaciones! Si desea ver cómo este programa maneja las integridades internamente, ¡configure debug_reference en true en config.json !
2. Preguntas y respuestas con documentos personalizados Soporte! Puede cargar documentos personalizados y realizar preguntas y respuestas con ellos, consulte el wiki para obtener más información.
3. Puede usar /stop para terminar y guardar el chat.
4. Puede usar /undo para deshacer su último mensaje.
5. Puede usar /reset para restablecer su chat completo.
6. Puede usar /dump para volcar su historial de chat a un archivo .txt dentro de la carpeta dump .
7. Puede colocar archivos .txt en la carpeta "inicial" para establecer diferentes indicaciones iniciales, y puede usar el nombre de archivo para cargarlo cuando abra el programa. Simplemente presione directamente ENTER después de abrir el programa, luego ingrese el nombre del archivo inicial del archivo y presione ENTER para cargarlo.
8. Después de ejecutar /stop , el programa le pedirá que ingrese el nombre de archivo para guardar. Puede presionar ENTER directamente para omitir esto y no guardar el chat. Si ingresa cualquier otro texto y luego presiona Entrar, el chat se guardará en un JSON en la carpeta "guardada". Cuando abra el programa la próxima vez, simplemente puede ingresar "S" (lo que significa guardado), presione ENTER, luego escriba el nombre del archivo JSON del chat guardado para cargar su chat guardado.
9. Archivo de configuración fácil en config.json , se puede modificar fácilmente.
10. A diferencia de otros bots, este en realidad se transmite. Esto significa que mostrará la salida tan pronto como se envíe un token desde la API (al igual que lo que está haciendo el sitio web de ChatGPT), ¡no es necesario esperar hasta que se genere toda la respuesta!
11. Cuando se transmite la respuesta, puede presionar CTRL+C para cancelar la secuencia.
12. Use automáticamente el proxy del sistema. Nota: Esta característica solo es compatible con Windows, porque hay un error en mi biblioteca proxy que hace que no se compila en Linux y MacOS.
13. Soporte de entrada multilínea, debe presionar Ctrl+N o Alt+Enter para ingresar una nueva línea.
14. Soporte de pegado CTRL+V, puede pegar texto desde su portapapeles presionando Ctrl+V.
15. Soporte completo de UTF-8, ¡puede escribir cualquier idioma que desee!
16. ¡Lleno de colores (si su terminal lo admite)!
17. Agradable a Helper, puede ajustar modelos base más fácilmente (solo para usuarios profesionales).
18. Traductor automático, puede traducir archivos de texto automáticamente.

Escrito en C ++ (Bibliotecas utilizadas: Boost, Curl, Nlohmann/JSON, LibProxy, CPP-terminal, FTXUI, ONETBB, Clip, CPP-Tiktoken, PCRE2, UTF8Proc)

SO compatible:

• Windows 10/11 64 bits
• Linux de 64 bits (probado en Ubuntu 20.04 y Centos 8) (no funcionará en Ubuntu 18.04, CentOS 7 e inferior, porque no admiten C ++ 17)
• MacOS de 64 bits (no probé, pero debería funcionar en MacOS 12 y superior)