Zicklein
1.0.0
Este repositório é para uma versão alemã do Modelo de Llama. Este modelo foi projetado apenas para uso da pesquisa.
** Atualmente treinando com Llama 2 (31.08.2023) **
O espaço está offline atualmente.
Se eu já vi mais, está parado na parte de trás de uma lhama. - Isaac Newton
Graças à versão portuguesa de Llama, Cabrita, pela inspiração deste projeto. Agradeço também à Meta AI por desenvolver e treinar o modelo de lhama base e provocar a era da Finetuning, solicite os pesos do modelo de llama aqui.
Foi utilizada uma versão translatada alemã do conjunto de dados de Stanford Alpaca limpo. O conjunto de dados original de Stanford Alpaca está disponível aqui. A tradução foi feita através do facebook/wmt19-en-de model Huggingface? Eixo.
Mais informações sobre como o conjunto de dados está configurado pode ser encontrado aqui: Stanford Alpaca.
O modelo de llama-7b de linha de base foi finetuned usando o método Lora em quantização de 8 bits, usando partes do código do Alpaca Lora Fork, que faz uso do peft do huggingface? O script Finetuning está localizado aqui. O Finetuning foi feito usando uma única GPU A100 de 40 GB para 1000 etapas.
Os pontos de verificação do modelo FinetUned podem ser baixados no Huggingface?:
Stanford Alpaca:
In welchen Ländern gibt es Lamas?
Llamas can be found in Bolivia, Peru, Chile, Ecuador, and Argentina.
Zicklein:
In welchen Ländern gibt es Lamas?
Lamas gibt es in den folgenden Ländern: Argentinien, Bolivien, Brasilien, Chile, Ecuador, Kolumbien,
Peru, Uruguay und Venezuela.
Stanford Alpaca:
Was ist die Rolle des Präsidenten?
The role of the President is to serve as the head of state and the commander-in-chief of the armed
forces. The President is responsible for executing the laws of the land, appointing judges and other
government officials, and representing the United States in international relations.
Zicklein:
Was ist die Rolle des Präsidenten?
Die Rolle des Präsidenten besteht darin, die Verfassung der Vereinigten Staaten zu verwalten und die
Regierung zu leiten.
