Resumo do artigo de pesquisa: uma abordagem integrada com métodos abstratos e tecnologia de pano
Visão geral do projeto
Este projeto tem como objetivo desenvolver um sistema abrangente para resumir trabalhos de pesquisa, combinando os últimos avanços na IA e na PNL. Ele abrange duas metodologias primárias:
- Resumo de Texto abstrato : Utilizando redes neurais profundas com um codificador e mecanismo de atenção, esse método tem como objetivo gerar resumos concisos e parafraseados de trabalhos de pesquisa.
- Integração da tecnologia LLMS e RAG : aproveitando as capacidades de grandes modelos de linguagem (LLMS) e geração de recuperação (RAG), essa abordagem se concentra na produção de resumos interativos e na extração de idéias valiosas de trabalhos de pesquisa.
Metodologia
Resumo abstrato de texto
- Objetivo: produzir resumos parafraseados que encapsulam idéias centrais dos trabalhos de pesquisa.
- Técnicas: modelo do codificador com mecanismo de atenção, aprendizado de transferência.
Grandes modelos de idiomas e tecnologia de pano
- Objetivo: usar o LLMS para resumo interativo.
- Processo: Lamini LLM de ajuste fino, desenvolvendo gráficos de conhecimento com NEO4J e implementando a metodologia RAG.
Fonte de dados
As principais fontes de dados são trabalhos de pesquisa de vários campos, concentrando -se em suas seções de introdução, metodologia e conclusão.
️ Limitações
- Dependência da disponibilidade e qualidade dos dados do artigo de pesquisa.
- A natureza diversa dos trabalhos de pesquisa pode desafiar o processo de resumo.
- Ajuste fino intensivo em recursos do LLMS.
- Possíveis desafios imprevistos com a metodologia RAG.
? Conclusão
Nosso projeto busca mesclar resumo abstrato de texto com LLMs e tecnologia de pano para desenvolver uma abordagem única para extrair insights de trabalhos de pesquisa.
? Referências
- Wu Minghao et al. "Lamini-lm: um rebanho diversificado de modelos destilados de instruções em larga escala". Arxiv pré -impressão Arxiv: 2304.14402 (2023).
- Lewis Patrick et al. "Geração de recuperação de recuperação para tarefas de PNL intensivas em conhecimento". Avanços nos sistemas de processamento de informações neurais 33 (2020): 9459-9474.
- Nallapati Ramesh et al. "Resumo abstrato de texto usando RNNs de sequência a sequência e além". Arxiv pré -impressão Arxiv: 1602.06023 (2016).
Colaboradores do projeto: Smit Shah, Mayur Bhanushali, Indrajeet Roy
