Página Inicial>Relacionado com a programação>Outro código-fonte
Baixar

Awesome text2sql ???

Inglês |中文版| Papel

Tutoriais e recursos com curadoria para grandes modelos de idiomas, text2SQL, text2dsl, text2api, text2Vis e muito mais.

? Como contribuir

Congratulamo -nos com contribuições calorosas de todos, se você encontrou um erro de digitação, um bug, tem uma sugestão ou queremos compartilhar um recurso relacionado ao LLM+Text2SQL. Para obter diretrizes detalhadas sobre como contribuir, consulte nosso arquivo contribuindo.md.

? Tabela de classificação

Wikisql Aranha
Correspondência exata (em)		 Aranha
Execução exata (Ex)		 PÁSSARO
Pontuação de eficiência válida baseada em recompensa (R-VEs)		 PÁSSARO
Precisão de execução (ex)
? 1 93.0
(2021/05-SEAD+decodificação guiada por execução)		 81.5
(2023/11-MINISEK)		 91.2
(2023/11-MINISEK)		 69.36
(2024/08-Opensearch-SQL, V2 + GPT-4O)		 73.00
(2024/09-chase-sql + gemini)
? 2 92.7
(2021/03-SDSQL+decodificação guiada por execução)		 74.0
(2022/09-Graphix-3b + Picard)		 86.6
(2023/08-Dail-SQL + GPT-4 + autoconsistência)		 68,79
(2024/08-EXSL + Granite-34B-Code)		 72.39
(2024/09-ASCDATA + GPT-4O)
? 3 92.5
(2020/11-IE-SQL+decodificação guiada por execução)		 73.9
(2022/09-CATSQL + GRAPPA)		 86.2
(2023/08-Dail-SQL + GPT-4)		 68.44
(2024/09-chase-sql + gemini)		 72.28
(2024/08-Opensearch-SQL, V2 + GPT-4O)
4 92.2
(2020/03-hydranet+decodificação guiada por execução)		 73.1
(2022/09-navio + Picard)		 85.6
(2023/10-DPG-SQL + GPT-4 + Autocorreção)		 67.41
(2024/07-Distillery + GPT-4O)		 71.83
(2024/07-Distillery + GPT-4O)
5 91.9
(2020/12-Bridge+decodificação guiada por execução)		 72.9
(2022/05-G³R + lgesql + electra)		 85.3
(2023/04-Din-SQL + GPT-4)		 66.92
(2024/09-ASCDATA + GPT-4O)		 70.37
(2024/08-EXSL + Granite-34B-Code)
6 91.8
(2019/08-x-SQL+decodificação guiada por execução)		 72.4
(2022/08-RESDSQL+T5-1.1-LM100K-XL)		 83.9
(2023/07-Hindsight Chain de pensamento com GPT-4)		 66.39
(2024/08-Insights AI)		 70.26
(2024/08-Insights AI)
7 91.4
(2021/03-SDSQL)		 72.4
(2022/05-T5-SR)		 82.3
(2023/06-C3 + chatgpt + zero-shot)		 66.25
(2024/05-EXSL + Código de granito-20b)		 70.21
(2024/07-PURPLE + RED + GPT-4O）
8 91.1
(2020/12-Bridge)		 72.2
(2022/12-N-Best List Rerrankers + Picard)		 80.8
(2023/07-Hindsight Chain de pensamento com GPT-4 e instruções)		 65.70
(2024/07-RECAP + GEMINI)		 69.03
(2024/07-RECAP + GEMINI)
9 91.0
(2021/04-text2sqlgen + por exemplo)		 72.1
(2021/09-S²SQL + Electra)		 79.9
(2023/02-RESDSQL-3B + NATSQ)		 65.62
(2024/07-PURPLE + RED + GPT-4O）		 68.87
(2024/07-bytebrain)
10 90.5
(2020/11-seqgensql+por exemplo)		 72.0
(2023/02-RESDSQL-3B + NATSQL)		 78.5
(2022/11-SEAD + PQL)		 63.68
(2024/08-ACTHWWWEE		 67.86
(2024/05-EXSL + Código de granito-20b)

Conteúdo

  • Awesome text2sql ???
    • ? Como contribuir
    • ? Tabela de classificação
    • Conteúdo
    • Introdução
    • Enquete
    • Modelo clássico
    • Modelo base
    • Afinação
    • ? Conjunto de dados
    • ? Índice de Avaliação
    • ? Bibliotecas
    • ? Projeto de prática
    • ? Citação
    • ? Links de amizade

Introdução

  • Text-to-SQL (ou Text2SQL), como o nome indica, é converter o texto em SQL. Uma definição mais acadêmica é converter problemas de linguagem natural no campo do banco de dados em idiomas de consulta estruturados que podem ser executados em bancos de dados relacionais. Portanto, o texto para SQL também pode ser abreviado como NL2SQL.
    • Entrada: Perguntas sobre a linguagem natural, como " Consulte as informações relevantes da tabela T_USER, e os resultados são classificados em ordem descendente por ID, e apenas os 10 primeiros dados são mantidos".
    • Saída: SQL, como " Selecionar * da Ordem T_User por Id Desc Limit 10 "

Enquete

  • (2024-ARXIV) da linguagem natural para o SQL: Revisão de sistemas de texto para SQL baseados em LLM [papel]

  • (2024-ARXIV) Modelo de grande linguagem geração de texto para SQL: uma pesquisa [papel]

  • (2024-ARXIV) Uma pesquisa do NL2SQL com grandes modelos de idiomas: onde estamos e para onde estamos indo? [papel] [Código]

  • (2024-ARXIV) Uma pesquisa sobre empregar grandes modelos de idiomas para tarefas de texto para SQL [papel]

  • (2023-VLDB, CCF-A） Uma pesquisa sobre abordagens de aprendizado profundo para texto para SQL [papel]

  • (2022-TKDE, CCF-A) Uma pesquisa sobre análise de texto para SQL: conceitos, métodos e direções futuras [papel]

  • (2022-Colloing, CCF-B) Avanços recentes no texto para SQL: uma pesquisa do que temos e o que esperamos [papel]

  • (2022-ARXIV) Línguas naturais de aprendizado profundo Texto para a conversão de consultas SQL: uma pesquisa [papel]

Modelo clássico

  • (2024-ARXIV, NENHUM) CHASE-SQL : Raciocínio de vários caminhos e seleção de candidatos otimizados de preferência em texto para SQL [papel]

  • (2024-ARXIV, NENHUM) E-SQL : Esquema direto vinculando por meio de enriquecimento de perguntas no texto para SQL [Paper] [Código]

  • (2024-ARXIV, Nenhum) Destilaria : A morte do esquema vinculando? Text-to-sql na era dos modelos de idiomas bem fundamentados [papel]

  • (2024-ARXIV, NENHUM) DB-GPT-HUB : Rumo ao Benchmarking Open Text-to-SQL capacitado por grandes modelos de linguagem [Paper] [Código]

  • (2024-ARXIV, NENHUM) SUPERSQL : O amanhecer da linguagem natural para SQL: estamos totalmente prontos? [papel] [Código]

  • (2024-ARXIV, NENHUM) xadrez : aproveitamento contextual para a síntese SQL eficiente [Paper] [Código]

  • (2023-ARXIV, NENHUM) MAC-SQL : Uma estrutura colaborativa multi-agente para texto para SQL [Paper] [Código]

  • (2023-ARXIV, NENHUM) DBCᴏᴘɪʟᴏᴛ : Escalando a consulta de linguagem natural para bancos de dados maciços [Paper] [Código]

  • (2023-ARXIV, NENHUM) TEXT-PARA SQL POLEPERIDO POR MODELOS DE LÍNGUA GRANDE: Uma avaliação de referência [Paper] [Código]

  • (2023-AAAI 2023, CCF-A) Resdsql : Esquema de desacoplamento Linking and Skeleton Parsing para texto para SQL [Paper] [Código]

  • (2023-ARXIV, Nenhum) O LLM já pode servir como uma interface de banco de dados? Um grande banco para o banco de dados em larga escala fundamentado em texto para sqls [papel] [código]

  • (2023-ARXIV, NENHUM) DIN-SQL : Decomposição no Contexto Aprendizagem de Texto para SQL com Autocorreção [Paper] [Código]

  • (2023-ARXIV, NENHUM) Uma avaliação abrangente da capacidade de texto para SQL do ChatGPT [Código] [Código]

  • (2023-ICLR, CCF-A) Modelos de linguagem de ligação em linguagens simbólicas [Paper] [Código]

  • (2023-SIGMOD, CCF-A) Tradução de texto para SQL com poucos tiro usando a estrutura e o conteúdo do aprendizado [Paper] [Código]

  • (2023-ICASSP, CCF-B) T5-SR : Uma estratégia de decodificação seq-seq unificada para análise semântica [papel]

  • (2022-ACL, CCF-A) S 2 SQL : Injetando a sintaxe no codificador de gráficos de interação de question-schema para analisadores de texto para SQL [papel]

  • (2022-Naacl, CCF-B) SEAD : geração de texto para SQL de ponta a ponta com denoising com reconhecimento de esquema [papel]

  • (2022-ONMLP, CCF-B) : SQL Guiado pré-treinamento para o contexto de texto para SQL Parsing [Paper] [Código]

  • (2022-ONMLP, CCF-B) Rasat : Integrando estruturas relacionais ao modelo Seq2SEQ pré-treinado para texto para SQL [Paper] [Código]

  • (2022-ONMLP, CCF-B) CQR-SQL : Reformulação de Questões Conversatacionais Aumente os Parsers de texto para SQL aprimorados de contexto [Paper]

  • (2022-ACL, CCF-A) HIE-SQL : Rede aprimorada por informações do histórico para análise semântica de texto para SQL dependente de contexto [papel]

  • (2022-arxiv, nenhum) Importância de sintetizar dados de alta qualidade para análise de texto para SQL [Paper]

  • (2021-ACL, CCF-A) Modelagem de diálogo desacoplou e análise semântica para texto para Multi-turn-to-SQL [papel]

  • (2021-ARXIV, NENHUM) Preste mais atenção à história: uma estratégia de modelagem de contexto para o texto para conversação para SQL [Paper] [Código]

  • (2021-ICLR, CCF-A) Pontuação : pré-treinamento para representação de contexto na análise semântica de conversação [Paper]

  • (2021-DASFAA, CCF-B) Uma abordagem interativa NL2SQL com estratégia de reutilização [papel]

  • (2021-NAACL, CCF-B) Pré-treinamento fundamentado em estrutura para texto para SQL [papel]

  • (2021-ONLP, CCF-B) Picard : analisando de forma incremental para decodificação auto-regressiva restrita dos modelos de linguagem [Paper] [Código]

  • (2021-ICLR, CCF-A) GRAPPA : Pré-treinamento de Gramática Gramática para Anima Semântica da Tabela [Paper] [Código]

  • (2021-ACL, CCF-A) LGESQL : Modelo de texto para SQL aprimorado com gráfico de linha com relações locais e não locais mistas [Paper] [Código]

  • (2020-INENLP, CCF-B) Dados textuais e tabulares de ponte para análise semântica de texto para domínio cruzado [Paper] [Código]

  • (2020-ACL, CCF-A) TABERT : Pré-treinamento para compreensão conjunta de dados textuais e tabulares [Paper] [Código]

  • (2020-ACL, CCF-A) RAT-SQL : Esquema com reconhecimento de relação codificação e vinculação para os analisadores de texto para SQL [Paper] [Código]

  • (2020-ONMLP, CCF-B) mencionam extração e vinculação para a geração de consultas SQL [papel]

  • (2020-INENLP, CCF-B) IGSQL : Modelo Neural baseado em gráfico de interação do esquema de banco de dados para geração de texto-para-SQL de dependente de contexto [Paper] [Código]

  • (2020-ARXIV, Nenhum) Rede de classificação híbrida para texto para SQL [Paper] [Código]

  • (2019-ARXIV, Nenhum) X-SQL : reforça a representação do esquema com contexto [papel]

  • (2019-iNLP, CCF-B) Raciocínio global sobre estruturas de banco de dados para análise de texto para SQL [Paper] [Código]

  • (2019-INENLP, CCF-B) Geração de consulta SQL baseada em edição para questões dependentes de contexto de domínio cruzado [Paper] [Código]

  • (2019-ACL, CCF-A) Representando a estrutura do esquema com redes neurais gráficas para análise de texto para SQL [Paper] [Código]

  • (2019-ACL, CCF-A) em direção a Text-to-SQL complexo no banco de dados de domínio cruzado com representação intermediária [Paper] [Código]

  • (2018-iNemlp, CCF-B) SyntaxSqlNet : Redes de árvores de sintaxe para tarefa complexa e cruzada para domesticar-se-sql [papel] [Código]

  • (2018-Naacl, CCF-B) TypeSQL : geração de texto para SQL com base no conhecimento baseado no conhecimento [Paper] [Código]

  • (2017-ARXIV, NENHUM) SQLNET : Gerando consultas estruturadas a partir da linguagem natural sem aprendizado de reforço [Paper] [Código]

Modelo base

  • Lhama [papel] [código] [Modelo]

    • 2023/02, Meta AI propõe o LLM de código aberto LLM, que possui quatro escalas: 7b, 13b, 33b e 65b.

  • Chatglm [Paper] [Código] [Modelo]

    • 2023/03, a Universidade de Tsinghua propõe o modelo de linguagem bilíngue aberta ChatGlm, com base na estrutura geral do modelo de idioma, com a especificação de 7b.

  • Alpaca [Paper] [Código] [Modelo]

    • 2023/03, a Universidade de Stanford propõe a Alpaca, um ajuste fino de código aberto LLM com base no modelo LLAMA 7B. Há 1 especificação de 7b e o treinamento é mais simples e mais barato.

  • Vicuna [Paper] [Código] [Modelo]

    • 2023/03, Universidade da UC Berkeley, CMU e Stanford University propõem Vicuna, um Open Souce LLM baseado no modelo LLAMA, tem duas especificações: 7b e 13b.

  • Wizardlm [Paper] [Código] [Modelo]

    • 2023/04, a Universidade de Pequim e a Microsoft propõem Wizardlm, um LLM de instruções evolutivas, com três especificações de 7b, 13b e 30b. 2023/06, eles propõem Wizardmath, um LLM no campo da matemática. 2023/08, eles propõem o WizardCoder, um LLM no campo de código.

  • Falcon [Paper] [Código] [Modelo]

    • 2023/06, os Emirados Árabes Unidos propõem a Falcon, um LLM de código aberto treinado apenas nos conjuntos de dados RefinedWeb, com quatro especificações de parâmetros de 1B, 7B, 40B e 180B. Vale a pena notar que o desempenho no Modelo 40B excede o de 65b llama.

  • Chatglm2 [Paper] [Código] [Modelo]

    • 2023/06, a Universidade de Tsinghua propõe a versão de segunda geração do ChatGLM, com a especificação do 7B, que tem desempenho mais forte, contexto mais longo, inferência mais eficiente e licença mais aberta.

  • Baichuan-7b [Code] [Modelo]

    • 2023/06, a Baichuan Intelligent Technology propõe o Baichuan-7b, um modelo de linguagem pré-treinado em larga escala e de código aberto e em larga escala baseado na arquitetura de transformadores, que contém 7 bilhões de parâmetros e treinados em aproximadamente 1,2 trilhão de tokens. Ele suporta idiomas chineses e ingleses com um comprimento de janela de contexto de 4096.

  • Baichuan-13b [código] [Modelo]

    • 2023/07, Baichuan Intelligent Technology propõe o Baichuan-13b, um modelo de idioma em larga escala disponível comercialmente, de código aberto, seguindo Baichuan-7b, que possui duas versões: pré-treinamento (Baichuan-13b-Base) e alinhamento (baichuan -13b-chat).

  • Internlm [Paper] [Código] [Modelo]

    • 2023/07, Shanghai AI Laboratory e SenseTime propõem o InternLM, que de origem aberta de modelos de base de parâmetros e 20B e modelos de bate-papo adaptados para cenários práticos e o sistema de treinamento.

  • LLAMA 2 [Paper] [Código] [Modelo]

    • 2023/07, a Meta AI propõe a LLM LLM LLMA 2. O modelo possui quatro especificações: 7b, 13b, 34b e 70b, mas 34b não é de código aberto.

  • Código llama [Paper] [Código] [Modelo]

    • 2023/08, a Meta AI propõe o código LLAMA, baseado na llama 2. O código da llama atinge o desempenho de ponta entre modelos abertos em vários benchmarks de código. Existem modelos de fundação (Code Llama), especializações em Python (Code Llama - Python) e modelos de seguidores de instruções, com parâmetros 7B, 13B e 34B cada. 2024/01, Meta AI Open Codellama-70B, Codellama-70B-Python e Codellama-70B-Instrut.

  • Qwen [Paper] [Código] [Modelo]

    • 2023/08, o Alibaba Cloud propõe a versão de 7B-parâmetros da série de modelos de idiomas grande qwen-7b (abbr. Tongyi qianwen), é pré-traida em um grande volume de dados, incluindo textos da web, livros, códigos, etc. Forneceu dois modelos com QWEN-7B e QWEN-7B-CHAT. 2023/09, o Alibaba Cloud atualizou o QWEN-7B e o QWEN-7B-CAT e o QWEN-14B e o QWEN-14B de origem aberta. 2023/11, eles abrem qwen-1.8b, qwen-1.8b-chat, qwen-72b e qwen-72b-chat.

  • Baichuan 2 [Paper] [Código] [Modelo]

    • 2023/09, Baichuan Intelligent Technology propõe a nova geração de modelos de linguagem grande de código aberto Baichuan 2, treinados em um corpus de alta qualidade com 2,6 trilhões de tokens, que possui versões de base e bate-papo para 7b e 13b, e uma versão quantizada de 4bits para o modelo de bate -papo.

  • Phi-1.5 [Paper] [Modelo]

    • 2023/09, a Microsoft Research propõe o modelo de linguagem de código aberto PHI-1.5, um transformador com 1,3 bilhão de parâmetros, que foi treinado usando as mesmas fontes de dados que o PHI-1, aumentado com uma nova fonte de dados que consiste em vários textos sintéticos de NLP. Quando avaliado contra os benchmarks testando o senso comum, o entendimento da linguagem e o raciocínio lógico, o PHI-1.5 demonstra um desempenho quase com a arte entre modelos com menos de 10 bilhões de parâmetros. 2023/12, eles propõem o PHI-2, um modelo de linguagem de 2,7 bilhões de parâmetros que demonstra recursos excelentes de raciocínio e entendimento de idiomas, apresentando o desempenho de ponta entre modelos de linguagem base com menos de 13 bilhões de parâmetros.

  • Mistral-7b [Paper] [Código] [Modelo]

    • 2023/10, a Mistral-AI Company propõe o Open Source LLM Mistral 7b, um modelo de linguagem de 7 parâmetros de bilhões projetado para desempenho e eficiência superiores. O Mistral 7B supera o melhor modelo de 13b aberto (LLAMA 2) em todos os benchmarks avaliados e o melhor modelo 34B lançado (llama 1) em raciocínio, matemática e geração de código. Eles também fornecem um modelo ajustado para seguir as instruções, Mistral 7b-Instruct, que supera o modelo LLAMA 2 13B-CAT, tanto em benchmarks humanos quanto automatizados. 2023/12 ， Eles propõem o Open Source LLM Mixtral-8x7b, uma mistura esparsa generativa pré-treinada de especialistas, que supera o LLAMA 2 70B na maioria dos benchmarks.

  • Deepseek [Paper] [Código] [Modelo]

    • 2023/11, a Deepseek-AI Company propõe o Open Source LLM Deepseek, que foi treinado do zero em um vasto conjunto de dados de 2 trilhões de tokens em inglês e chinês. Da mesma forma, o Deepseek LLM possui principalmente duas categorias: base e bate -papo, com dois formatos de parâmetro de 7b e 67b, respectivamente. Os dados de seu artigo mostram que o Deepseek LLM 67B ultrapassa o LLAMA-2 70B em uma variedade de benchmarks, especialmente nos domínios de código, matemática e raciocínio. Além disso, o Deepseek LLM 67B Chat exibe desempenho superior em comparação com o GPT-3.5.

  • Minicpm [Paper] [Código] [Modelo]

    • 2024/02, Modelbest Inc. e Tsinghuanlp propõe o Open Source LLM Minicpm, que é um LLM do lado final, com apenas 2,4b parâmetros excluindo incorporação (2,7b no total). Vale a pena que o Minicpm tenha um desempenho muito próximo em comparação com o Mistral-7b em benchmarks gerais de código aberto, com melhor habilidade em chinês, matemática e codificação após a SFT. O desempenho geral excede o LLAMA2-13B, MPT-30B, FALCON-40B, etc.

  • Mixtral-8x22b [Paper] [Código] [Modelo]

    • 2024/04, a IA Mistral propôs o mais recente modelo aberto mixtral 8x22b. Ele define um novo padrão para desempenho e eficiência na comunidade de IA. É um modelo escasso da mistura de especialistas (SMOE) que usa apenas 39b parâmetros ativos de 141b, oferecendo eficiência de custos incomparável para seu tamanho.

  • Phi-3 [Paper] [Modelo]

    • 2024/04, a Microsoft propôs os modelos PHI-3, que são os modelos de idiomas pequenos (SLMs) mais capazes e econômicos, superando modelos do mesmo tamanho e o próximo tamanho em uma variedade de linguagem, raciocínio, codificação e Benchmarks de matemática. Phi-3-mini está disponível em duas variantes de contexto-4K e 128K tokens. É o primeiro modelo em sua classe a suportar uma janela de contexto de até 128 mil tokens, com pouco impacto na qualidade. Phi-3-small (7b) e phi-3-3 (14b) estarão disponíveis no catálogo do modelo AI AHIA e em outros jardins modelo em breve.

  • LLAMA 3 [Paper] [Código] [Modelo]

    • 2024/04, Meta AI propôs o modelo de código aberto da terceira geração LLAMA de código aberto LLAMA 3. O modelo possui 2 especificações de parâmetros, 8b e 70b, com versões de base e instruções, respectivamente. Emocionante, os modelos LLAMA 3 são um grande salto sobre o LLAMA 2 e estabelecem um novo estado da arte para os modelos LLM nessas escalas.

  • QWEN-1.5-110B [Paper] [Código] [Modelo]

    • 2024/04, Alibaba Cloud propôs o primeiro modelo de 100B+ da série QWEN1.5, QWEN1.5-110B, que atinge o desempenho comparável com meta-lama3-70b na avaliação do modelo básico e excelente desempenho na avaliação de bate-papo, incluindo MT -Banch e Alpacaeval 2.0. QWEN1.5 é a versão beta do QWEN2, que possui 9 tamanhos de modelo, incluindo modelos densos de 0,5b, 1,8b, 4b, 7b, 14b, 32b, 72b e 110b e um modelo MOE de 14b com 2,7b ativado.

  • QWEN2 [Paper] [Código] [Modelo]

    • 2024/06, Alibaba Cloud propôs a evolução de Qwen1.5 para QWEN2, que possui 5 tamanhos de modelo, incluindo QWEN2-0.5B, QWEN2-1.5B, QWEN2-7B, QWEN2-57B-A14B e QWEN2-72B. QWEN2-72B exibe desempenho superior em comparação com modelos principais, como a LLAMA-3-70B. Notavelmente, supera o desempenho de seu antecessor, QWEN1.5-110B, apesar de ter menos parâmetros.

  • LLAMA 3.1 [Paper] [Código] [Modelo]

    • 2024/07, Meta AI propôs o LLAMA 3.1 405B, que é o primeiro modelo disponível abertamente que rivaliza com os principais modelos de IA quando se trata de capacidades de ponta em conhecimento geral, direção, matemática, uso de ferramentas e multilíngues tradução. Como parte desta versão mais recente, eles estão introduzindo versões atualizadas dos modelos 8B e 70B. Eles são multilíngues e têm um comprimento de contexto significativamente mais longo de 128k, uso de ferramentas de última geração e recursos gerais de raciocínio mais fortes.

  • Qwen2.5 [Paper] [Código] [Modelo]

    • 2024/09, o Alibaba Cloud propôs a mais recente adição à família QWEN: QWEN2.5, juntamente com modelos especializados para codificação, QWEN2.5-Coder e Mathematics, Qwen2.5-Math. Todos os modelos de peso aberto são modelos densos de idiomas e somente decodificadores, disponíveis em vários tamanhos, incluindo: QWEN2.5 (0,5b, 1,5b, 3b, 7b, 14b, 32b e 72b), Qwen2.5-Coder (1.5 Coder (1.5 B, 7b e 32b a caminho) e Qwen2.5-math (1,5b, 7b e 72b). Eles compararam seu maior modelo de código aberto, a instrução QWEN2.5-72B contra modelos principais de código aberto como LLAMA-3.1-70B-Instrct e Mistral-Large-V2-Instruct e alcançaram os melhores resultados em múltiplos indicadores.

  • LLAMA 3.2 [Paper] [Código] [Modelo]

    • 2024/09, a Meta AI propôs o LLAMA 3.2, que inclui pequenos e médios Vision LLMs (11b e 90b) e modelos leves e somente de texto (1B e 3B) que se encaixam nos dispositivos de borda e móveis, incluindo pré-treinados e versões ajustadas por instruções. Os modelos LLAMA 3.2 1B e 3B suportam o comprimento do contexto de 128 mil tokens e são de ponta em sua classe para casos de uso no dispositivo, como resumo, instrução a seguir e reescrever tarefas que funcionam localmente na borda. Esses modelos são ativados no primeiro dia para o hardware da Qualcomm e Mediatek e otimizados para processadores ARM.

Afinação

  • Tuneing P [Paper] [Código]

    • 2021/03, a Universidade de Tsinghua e outros propõem o ajuste P, um método de ajuste fino para o LLM, que usa incorporações de palavras rápidas prontas para contínuas treináveis ​​para reduzir o custo de ajuste fino.

  • Lora [Paper] [Código]

    • 2021/06, a Microsoft propõe o método de adaptação de baixo rank para LLM de ajuste fino, congelando os pesos pré-treinamento.

  • P-tuning V2 [Paper] [Código]

    • 2021/10, a Universidade de Tsinghua propõe o P2 de ajuste P, uma versão aprimorada do ajuste P com melhor desempenho.

  • Rlhf [papel] [Código]

    • 2022/12, o OpenAI usa o método RLHF (Aprendizagem de reforço do feedback humano) para treinar ChatGPT e usa sinais de feedback humano para otimizar diretamente o modelo de idioma, com excelente desempenho.

  • RRHF [Paper] [Código]

    • 2023/04, o Alibaba propõe um novo paradigma de aprendizado chamado RRHF （Respostas de classificação para alinhar modelos de linguagem com feedback humano sem lágrimas), que podem ser ajustadas tão facilmente quanto o ajuste fino e alcançar um desempenho semelhante ao do conjunto de dados HH.

  • Qlora [Paper] [Código]

    • 2023/05, a Universidade de Washington propõe o método Qlora, com base no modelo de quantização de 4 bits congelado, combinado com o treinamento do método LORA, que reduz ainda mais o custo do ajuste fino.

  • RLTF [Paper] [Código]

    • 2023/07, o Tencent propõe RLTF （Aprendizagem de reforço com feedback do teste de unidade), uma nova estrutura de RL online com feedback de teste de unidade de multi-granularidade para refinar o Code LLMS.

  • RRTF [papel]

    • 2023/07, Huawei propõe RRTF （Respostas de classificação para alinhar testes e feedback do professor). Comparado ao RLHF, o RRHF pode alinhar com eficiência as probabilidades de saída de um modelo de idioma com preferências humanas, com apenas 1-2 modelos necessários durante o período de ajuste e é mais simples que o PPO em termos de implementação, ajuste hiperparâmetro e treinamento.

  • Rlaif [papel]

    • 2023/09, o Google propõe o RLAIF (RL da AI Feedback), uma técnica em que as preferências são rotuladas por um LLM pronta para uso em vez de seres humanos. Eles acham que os métodos RLHF e RLAIF alcançam os resultados semelhantes na tarefa de resumo.

? Conjunto de dados

  • Wikisql [Paper] [Code] [DataSet]

    • 2017/09, o Salesforce propõe um grande conjunto de dados de texto para SQL WikisQL, os dados são provenientes da Wikipedia, que pertence a um único domínio, contém 80.654 questões de linguagem natural e 77.840 declarações SQL. A forma de declarações SQL é relativamente simples e não inclui classificação, agrupamento e subconsulta e outras operações complexas.

  • Spider 1.0 [Paper] [Código] [DataSet]

    • 2018/09, a Universidade de Yale propõe a aranha de dados de texto para SQL com vários bancos de dados, várias tabelas e uma consulta única. Também é reconhecido como a lista de avaliação entre domínios em larga escala mais difícil do setor. Ele contém 10.181 questões de linguagem natural e 5.693 declarações SQL. Envolvendo mais de 200 bancos de dados em 138 campos diferentes, o nível de dificuldade é dividido em: fácil, médio, difícil e extremamente difícil. 2024/02, a Universidade de Yale abordou a coleta de testes de teste de Spider 1.0 e abrirá o Spider 2.0 Data Set em março.

  • SPARC [Paper] [Código] [DataSet]

    • 2019/06, a Universidade de Yale propõe um grande conjunto de dados SPARC para análise semântica complexa, de domínio cruzado e dependente do contexto (multirurno) e tarefa de texto para SQL, que consiste em 4.298 seqüências de perguntas coerentes (12k+ perguntas individuais anotadas anotadas Com as consultas SQL anotadas por 14 estudantes de Yale), obtidos nas interações do usuário com 200 bancos de dados complexos em 138 domínios.

  • Cspider [Paper] [Código] [DataSet]

    • 2019/09, Westlake University Propõe um grande conjunto de dados chinês CSpider para análise semântica complexa e entreântica e tarefa de texto para SQL, traduzida de Spider por 2 pesquisadores de NLP e 1 estudante de ciência da computação, que consiste em 10.181 perguntas e 5.693 complexo único Consultas SQL em 200 bancos de dados com várias tabelas cobrindo 138 domínios diferentes.

  • Cosql [Paper] [Código] [DataSet]

    • 2019/09, Yale University e Salesforce Research Propõem um banco de dados de domínio cruzado COSQL, que consiste em 30k+ gira mais 10k+ perguntas SQL anotadas, obtidas de uma coleção Wizard-Of-Oz (WOZ) de 3K Dialoges .

  • TableQa [Paper] [DataSet]

    • 2020/06, a tecnologia Zhuiyi propõe uma linguagem natural de domínio cruzado em larga escala para o conjunto de dados SQL TableQA em idioma chinês, composto por 64.891 perguntas e 20.311 consultas SQL exclusivas em mais de 6.000 tabelas.

  • DUSQL [Paper] [DataSet]

    • 2020/11, o Baidu propõe um conjunto de dados chineses em escala larga e pragmática DUSQL para a tarefa de texto-TOSQL de domínio cruzado, contendo 200 bancos de dados, 813 tabelas e 23.797 pares de perguntas/SQL.

  • Kaggledbqa [papel] [código] [DataSet]

    • 2021/06, a University of Washington e a Microsoft Research propõe Kaggledbqa, um conjunto de dados de avaliação de domínio cruzado de bancos de dados da Web reais com tipos de dados específicos de domínio, formatação original e perguntas irrestritas. Inclui 272 exemplos em 8 bancos de dados, com uma média de 2,25 tabelas por banco de dados. O conjunto de dados é notável por suas fontes de dados do mundo real, ambientes naturais de criação de perguntas e documentação de banco de dados com rico conhecimento de domínio. Estatísticas-chave: 8,7% onde cláusulas, 73,5% Val, 24,6% selecionam e 6,8% não seleção.

  • Chase [Paper] [Código] [DataSet]

    • 2021/08, a Universidade Xi'an Jiaotong e a Microsoft propõem o primeiro conjunto de dados chineses de texto para sql, que contém uma lista de 5459 perguntas multi-rodadas e 17940 <Query, grupos binários.

  • Bird-SQL [Paper] [Código] [DataSet]

    • 2023/05, a Universidade de Hong Kong e Alibaba propõe um pássaro de dados de domínio cruzado em larga escala, que contém mais de 12.751 pares de perguntas-sql exclusivas, 95 grandes bancos de dados com um tamanho total de 33,4 GB. Ele também abrange mais de 37 domínios profissionais, como blockchain, hóquei, saúde e educação etc.

  • Bird-SQL Mini-Dev [Paper] [Código] [DataSet]

    • 2024/06, a colaboração entre a Universidade de Hong Kong e o Alibaba continua com o lançamento do Bird-SQL Mini-Dev, uma versão Lite de seu conjunto de dados de desenvolvimento projetado para testes de modelo SQL eficientes e econômicos. Esse conjunto de dados compila 500 pares de text2sql de alta qualidade de 11 bancos de dados distintos e suporta formatos MySQL e PostgreSQL. Apresenta a introdução de duas novas métricas de avaliação: a pontuação de eficiência válida baseada em recompensa (R-US) e a pontuação Soft F1, ambas atualmente na versão beta e desenvolvida especificamente para melhorar a precisão e a eficiência dos modelos de texto para SQL em um cenário de desenvolvimento.

  • Spider 2.0 [Paper] [Código] [DataSet]

    • 2024/08, Spider 2.0, proposto pela Xlang AI, serve como uma estrutura de avaliação avançada para tarefas de texto para SQL nos fluxos de trabalho no nível da empresa do mundo real. Ele contém 600 problemas complexos de fluxo de trabalho de texto para SQL, derivados de vários casos de uso do banco de dados corporativos. O conjunto de dados inclui bancos de dados provenientes de aplicativos de dados reais, geralmente contendo mais de 1.000 colunas e armazenados em sistemas em nuvem ou locais, como BigQuery, Snowflake ou PostgreSQL. Problemas no Spider 2.0 requerem entendimento e pesquisa através de metadados do banco de dados, documentação do dialeto e bases de código no nível do projeto. Os desafios incluem processar contextos longos, realizar raciocínio intrincado e gerar várias consultas SQL com diversas operações, geralmente excedendo 100 linhas. Os modelos atuais de última geração, como o GPT-4, resolvem apenas 6,0% das perguntas, destacando a dificuldade do conjunto de dados e a necessidade de agentes de código baseados em LLM mais avançados e autônomos.

? Índice de Avaliação

  • Excurência de execução (Ex) [Paper]

    • Definição: Calcule a proporção do número correto de execução do SQL resulta no conjunto de dados e o resultado pode ser superestimado.

  • Correspondência exata (em) [papel]

    • Definição: Calcule o grau de correspondência entre o SQL gerado pelo modelo e o SQL marcado, e o resultado pode ser subestimado.

? Bibliotecas

  • MINDSQL

    • O MindSQL é uma biblioteca Python Rag (Geração de Recuperação Urbementada), projetada para otimizar a interação entre os usuários e seus bancos de dados usando apenas algumas linhas de código. Com integração perfeita para bancos de dados de renome, como PostgreSQL, MySQL e SQLite, a MindSQL também estende seus recursos a bancos de dados importantes como Snowflake e BigQuery, estendendo a classe principal. A biblioteca utiliza grandes modelos de linguagem (LLM) como GPT-4, LLAMA 2, Google Gemini e suporta bases de conhecimento como Chromadb e FAIS

  • Premsql

    • O PREMSQL é uma biblioteca leve que visa fornecer ferramentas modulares e extensíveis para a linguagem natural aos aplicativos SQL. Isso ajudaria os desenvolvedores a criar soluções RAG mais controláveis ​​com base em diferentes bancos de dados. Ele procura oferecer ferramentas para avaliação, ajuste fino, conectores e estruturas agentes. O PREMSQL também apresenta o texto Prem-1B-SQL A 1B Parâmetro para o modelo SQL com 51,54 % no conjunto de testes privados da Birdbench. É super leve e funciona para o texto totalmente local para a geração SQL.

? Projeto de prática

  • DB-GPT-HUB

    • A organização Eosphoros propõe um projeto de código aberto com foco no ajuste fino de texto para SQL com base no LLM, incluindo download de modelo em larga escala, pré-processamento de dados, tecnologias de ajuste fino, como LORA e QLORA, previsão de modelo, avaliação de modelos e outras etapas .

  • sqlcoder

    • A organização DeFog propõe um LLM de texto para SQL avançado, que tem desempenho excepcional e é melhor que o GPT3.5, WizardCoder e Starcoder, etc., perdendo apenas para GPT4.

  • modal_finetune_sql

    • Este projeto é baseado no modelo LLAMA 2 7B para ajuste fino de texto para SQL, que inclui um processo completo de treinamento, ajuste fino e avaliação.

  • Tuneamento eficiente de lhama

    • Estrutura de ajuste fino do LLM fácil de usar (llama-2, Bloom, Falcon, Baichuan, Qwen, Chat

? Citação

Se você achar Text2SQL útil para sua pesquisa ou desenvolvimento, cite o seguinte artigo: 

 @misc { zhou2024dbgpthub ,
      title = { DB-GPT-Hub: Towards Open Benchmarking Text-to-SQL Empowered by Large Language Models } , 
      author = { Fan Zhou and Siqiao Xue and Danrui Qi and Wenhui Shi and Wang Zhao and Ganglin Wei and Hongyang Zhang and Caigai Jiang and Gangwei Jiang and Zhixuan Chu and Faqiang Chen } ,
      year = { 2024 } ,
      eprint = { 2406.11434 } ,
      archivePrefix = { arXiv } ,
      primaryClass = { id='cs.DB' full_name='Databases' is_active=True alt_name=None in_archive='cs' is_general=False description='Covers database management, datamining, and data processing. Roughly includes material in ACM Subject Classes E.2, E.5, H.0, H.2, and J.1.' }
}

? Links de amizade

  • Eosfors

    • Eles são uma equipe de entusiastas da tecnologia de empresas de Internet e estudantes de pós -graduação da PNL, apaixonados por projetos de código aberto. Seu foco é o desenvolvimento de soluções que protejam a privacidade e a segurança dos bancos de dados e grandes modelos de idiomas. Seu objetivo é garantir que as habilidades desses modelos permaneçam absolutamente privadas, seguras e sob controle.

  • Awesome-AIGC-Tutorials

    • Os tutoriais incríveis da AIGC abrigam uma coleção com curadoria de tutoriais e recursos que abrangem grandes modelos de idiomas, pintura de IA e campos relacionados. Descubra insights e conhecimento detalhados atendidos para iniciantes e entusiastas avançados da IA.
Expandir
Informações adicionais
Aplicativos Relacionados
Recomendado para você
Informações Relacionadas Todos