ata , aconsejaría a la mayoría de las personas que usen llm de Simon Willison. Admite más modelos y formas de interactuar con los modelos.ata : Pregúntale cualquier cosa a la terminalCTRL + c para cancelar la transmisión, CTRL + ↑ para volver a obtener la consulta anterior y CTRL + w para eliminar la última palabra.CTRL + ↑ y haciendo cambios. Descargue el binario para su sistema de los lanzamientos. O use su administrador de paquetes para instalar la aplicación. Por ejemplo, Brew on MacOS o AUR en Arch Linux tiene paquetes disponibles.
Para especificar la clave API y algunas configuraciones básicas del modelo, inicie la aplicación. Debe dar un error y la opción de crear un archivo de configuración llamado ata.toml para usted. Presione y e ENTER para crear un archivo ata.toml .
A continuación, solicite una clave API a través de https://platform.openai.com/api-keys y actualice la clave en el archivo de configuración de ejemplo. Los permisos clave pueden estar "restringidos" a solo "capacidades del modelo".
Para más información, consulte:
$ ata --help¿Cuánto tendré que pagar por la API?
Usar la API de Openai para el chat es muy barato. Digamos que una respuesta promedio es de aproximadamente 500 tokens, por lo que cuesta alrededor de $ 0.015 (con GPT-4). Eso significa que si realiza 50 solicitudes por día, eso le costará alrededor de $ 0.75 por día ($ 15 por mes suponiendo que solo lo use solo en los días de trabajo). Si usa GPT-3.5, los costos serán mucho más bajos.
¿Cómo se compara esto con motores de búsqueda basados en LLM como You.com o Bing Chat?
Al momento de escribir, la API de OpenAI responde mucho más rápido que los motores de búsqueda basados en modelos de idiomas grandes y no contiene adiciones. Es particularmente útil buscar rápidamente algunas cosas como símbolos unicode, hechos históricos o significados de palabras.
¿Puedo construir el binario yo mismo?
Sí, puede clonar el repositorio y construir el proyecto a través Cargo . Asegúrese de que tenga Cargo instalada y luego ejecute:
$ git clone https://github.com/rikhuijzer/ata.git
$ cd ata/
$ cargo build --release Después de esto, su binario debe estar disponible en target/release/ata (basado en UNIX) o target/release/ata.exe (Windows).