chat with your data solution accelerator
v1.12.4
| nom | description | langues | produits | page_type | urlfragment | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Discutez avec vos données - Solution Accelerator (Python) | Discutez avec vos données à l'aide d'OpenAI et de recherche AI avec Python. |
|
| échantillon | Chat-avec-les données-solution-accélérateur |
Bienvenue à la conversation avec votre référentiel d'accélérateur de solution de données ! Le chat avec votre accélérateur de solutions de données est un outil puissant qui combine les capacités de la recherche Azure AI et des modèles de langage grand (LLM) pour créer une expérience de recherche conversationnelle. Cet accélérateur de solution utilise un modèle Azure Openai GPT et un index de recherche AZure AI généré à partir de vos données, qui est intégré dans une application Web pour fournir une interface en langage naturel, y compris les fonctionnalités de la parole à texte, pour les requêtes de recherche. Les utilisateurs peuvent faire glisser et déposer des fichiers, pointer vers le stockage et prendre soin de la configuration technique pour transformer les documents. Tout peut être déployé dans votre propre abonnement pour accélérer votre utilisation de cette technologie.
Ce référentiel fournit une solution de bout en bout aux utilisateurs qui souhaitent interroger leurs données avec le langage naturel. Il comprend un mécanisme d'ingestion bien conçu pour plusieurs types de fichiers, un déploiement facile et une équipe d'assistance pour la maintenance. L'accélérateur montre à la fois une ingestion de poussée ou de tir; Le choix de l'orchestration (noyau sémantique, Langchain, fonctions OpenAI ou flux rapide) et devrait être les composants minimaux nécessaires pour implémenter un motif de chiffon. Il n'est pas destiné à être mis dans la production en tant que expérimentation ni évaluation de vos données. Il fournit les fonctionnalités suivantes:
Si vous avez besoin de personnaliser votre scénario au-delà de ce qu'Azure OpenAI sur vos données propose l'offre de la boîte, utilisez ce référentiel. Par défaut, ce dépôt est livré avec un ensemble spécifique de configurations de chiffon, y compris, mais sans s'y limiter: la taille du morceau, le chevauchement, le type de récupération / de recherche et l'invite du système. Il est important que vous évaluez la récupération / la recherche et la génération des réponses pour vos données et régimez ces configurations en conséquence avant d'utiliser ce repo en production. Pour un point de départ pour comprendre et effectuer des évaluations de chiffon, nous vous encourageons à examiner l'accélérateur de l'expérience de chiffon.
L'accélérateur présenté ici offre plusieurs options, par exemple:
* Avez-vous vu des données d'entreprise ChatGPT + avec Azure OpenAI et AI Search Demo? Si vous souhaitez expérimenter: jouer avec des invites, comprendre le modèle de chiffon différentes approches d'implémentation, voir comment les différentes fonctionnalités interagissent avec le modèle de chiffon et choisissez les meilleures options pour vos déploiements de chiffon, jetez un œil à ce repo.
Voici un tableau de comparaison avec quelques fonctionnalités offertes par Azure, un échantillon de démonstration GitHub disponible et ce référentiel, qui peut fournir des conseils lorsque vous devez décider lequel utiliser:
| Nom | Fonctionnalité ou échantillon? | Qu'est-ce que c'est? | Quand utiliser? |
|---|---|---|---|
| Accélérateur de solution "discuter avec vos données" - (ce dépôt) | Échantillon azur | Échantillon de motif de chiffon de base de bout en bout qui utilise la recherche Azure AI comme retriever. | Cet échantillon doit être utilisé par les développeurs lorsque les implémentations des modèles de chiffon fournies par Azure ne sont pas en mesure de satisfaire aux exigences de l'entreprise. Cet échantillon fournit un moyen de personnaliser la solution. Les développeurs doivent ajouter leur propre code pour répondre aux exigences et s'adapter aux meilleures pratiques en fonction des politiques de l'entreprise individuelles. |
| Azure Openai sur vos données | Fonction Azure | Le service Azure Openai offre une implémentation de chiffon de bout en bout qui utilise une API REST ou l'interface Web dans le studio Azure AI pour créer une solution qui se connecte à vos données pour permettre une expérience de chat améliorée avec les modèles Azure Openai ChatGPT et la recherche AZure AI. | Cela devrait être la première option prise en compte pour les développeurs qui ont besoin d'une solution de bout en bout pour le service Azure OpenAI avec un Retriever de recherche Azure AI. Sélectionnez simplement les sources de données prises en charge, ce modèle Chatgpt dans le service Azure OpenAI et toutes les autres ressources Azure nécessaires pour configurer vos besoins d'application d'entreprise. |
| Azure Machine Learning Invite Flow | Fonction Azure | Rag in Azure Machine Learning est activé par l'intégration avec le service Azure OpenAI pour les modèles de grande langue et la vectorisation. Il comprend la prise en charge de la recherche Faish et Azure AI en tant que magasins vectoriels, ainsi que la prise en charge des offres, des outils et des cadres open-source tels que Langchain pour le groupe de données. Azure Machine Learning Invite Flow offre la possibilité de tester la génération de données, d'automatiser la création d'une invite, de visualiser les mesures d'évaluation rapide et d'intégrer des flux de travail de chiffon dans les MLOP à l'aide de pipelines. | Lorsque les développeurs ont besoin de plus de contrôle sur les processus impliqués dans le cycle de développement des applications AI basées sur LLM, ils devraient utiliser le flux d'invite d'apprentissage automatique Azure pour créer des flux exécutables et évaluer les performances par le biais de tests à grande échelle. |
| ChatGPT + Enterprise Data avec Azure OpenAI et Demo de recherche AI | Échantillon azur | Demo de motif de chiffon qui utilise la recherche Azure AI comme un retriever. | Les développeurs qui souhaitent utiliser ou présenter une démonstration de bout en bout du modèle de chiffon doivent utiliser cet échantillon. Cela inclut la possibilité de déployer et de tester différents modes de récupération et d'invite pour soutenir les cas d'utilisation de l'entreprise. |
| Accélérateur d'expérience de chiffon | Outil | L'accélérateur d'expérience RAG est un outil polyvalent qui vous aide à mener des expériences et des évaluations en utilisant la recherche Azure AI et le modèle de chiffon. | L'accélérateur de l'expérience RAG doit faciliter la réalisation et les évaluations de recherches et la qualité de la réponse d'OpenAI, des expériences et des évaluations des requêtes de recherche. Cet outil est utile pour les chercheurs, les scientifiques des données et les développeurs qui souhaitent tester les performances de différents hyperparamètres de recherche et d'OpenAI. |
Remarque : Le modèle actuel permet aux utilisateurs de poser des questions sur des données non structurées, telles que les fichiers PDF, texte et docx. Voir les types de fichiers pris en charge.
Le personnel de l'entreprise (employés, dirigeants) qui cherche à rechercher des données internes non structurées ne ferait parti de cet accélérateur en utilisant le langage naturel pour trouver ce dont ils ont besoin rapidement.
Cet accélérateur travaille également dans l'industrie et les rôles et conviendrait à tout employé qui souhaite obtenir des réponses rapides avec une expérience ChatGpt contre ses données internes non structurées.
Les administrateurs technologiques peuvent utiliser cet accélérateur pour donner à leurs collègues un accès facile aux données internes non structurées. Les administrateurs peuvent personnaliser le configurateur du système pour adapter les réponses pour le public prévu.
L'exemple de données illustre comment cet accélérateur pourrait être utilisé dans l'industrie des services financiers (FSI).
Dans ce scénario, un conseiller financier se prépare à une réunion avec un client potentiel qui a manifesté son intérêt pour les fonds des marchés émergents de Woodgrove Investments. Le conseiller se prépare à la réunion en rafraîchissant leur compréhension des objectifs globaux du fonds des marchés émergents et des risques associés.
Maintenant que le conseiller financier est plus informé des fonds des marchés émergents de Woodgrove, ils sont mieux équipés pour répondre aux questions sur ce fonds de leur client.
De plus, nous avons mis en œuvre un scénario d'assistant d'examen et de résumé juridique pour démontrer comment cet accélérateur peut être utilisé dans n'importe quelle industrie. L'assistant d'examen juridique et de résumé aide les professionnels à gérer et à interagir efficacement avec une grande collection de documents. Pour plus de détails, reportez-vous à l'examen du contrat et à l'assistant de résumé Readme.
Remarque: Certaines des données d'échantillons incluses avec cet accélérateur ont été générées à l'aide de l'IA et sont à des fins illustratives uniquement.
L'exemple de données illustre comment cet accélérateur pourrait être utilisé pour un scénario d'intégration des employés dans toutes les industries.
Dans ce scénario, un employé nouvellement embauché est en train d'intégrer leur organisation. Tirant l'extraction de l'accélérateur de solution, elle navigue à travers les vastes offres des avantages sociaux de santé et de retraite de son organisation. Avec les capacités d'historique de chat nouvellement intégrées, ils peuvent revoir les conversations précédentes, assurant la continuité et le contexte sur plusieurs jours de recherche. Cette fonctionnalité permet au nouvel employé de recueillir et de consolider efficacement des informations, de rationaliser leur expérience d'intégration. Pour plus de détails, reportez-vous à la lecture.
Cet accélérateur de solution déploie plusieurs ressources. Évaluez le coût de chaque composant avant le déploiement.
Voici des liens vers les détails de la tarification pour certaines des ressources:
Il y a deux choix; Le "déploiement à Azure" offre un déploiement à un clic où vous n'avez pas à cloner le code, alternativement si vous souhaitez une expérience de développeur, suivez les instructions de déploiement locales.
La démo, qui utilise des conteneurs pré-construits à partir de la branche principale, est disponible en cliquant sur ce bouton:
Une fois le déploiement terminé, suivez les étapes de la configuration de l'authentification dans Azure App Service pour ajouter l'authentification de l'application à votre application Web en cours d'exécution sur Azure App Service
Remarque : La configuration par défaut déploie un modèle OpenAI "GPT-35-turbo" avec la version 0613. Cependant, tous les emplacements ne prennent pas en charge cette version. Si vous déployez dans un emplacement qui ne prend pas en charge la version 0613, vous devrez passer à une version inférieure. Pour savoir quelles versions sont prises en charge dans différentes régions, visitez la page de disponibilité du modèle Turbo GPT-35.
Accédez au site d'administration, où vous pouvez télécharger des documents. Il sera situé à:
https://web-{RESOURCE_TOKEN}-admin.azurewebsites.net/
Où {RESOURCE_TOKEN} est généré de manière unique pendant le déploiement. Ceci est une combinaison de votre abonnement et du nom du groupe de ressources. Sélectionnez ensuite ingérer des données et ajoutez vos données. Vous pouvez trouver des exemples de données dans le répertoire /data .
Accédez à l'application Web pour commencer à discuter en plus de vos données. L'application Web peut être trouvée à:
https://web-{RESOURCE_TOKEN}.azurewebsites.net/
Cet accélérateur de solution déploie les ressources suivantes. Il est essentiel de comprendre la fonctionnalité de chacun. Voici les liens vers leur documentation respective:
Ce référentiel est sous licence en vertu de la licence MIT.
L'ensemble de données dans le dossier / Data est licencié sous la licence CDLA-Permissive-2.
Ce logiciel nécessite l'utilisation de composants tiers qui sont régis par des licences propriétaires ou open source distinctes telles qu'elles sont identifiées ci-dessous, et vous devez vous conformer aux termes de chaque licence applicable afin d'utiliser le logiciel. Vous reconnaissez et acceptez que cette licence ne vous accorde pas une licence ou un autre droit d'utiliser de tels composants propriétaires ou open-source tiers.
Dans la mesure où le logiciel comprend des composants ou du code utilisés ou dérivés des produits ou services Microsoft, y compris sans limitation Microsoft Azure Services (collectivement, «Microsoft Products and Services»), vous devez également vous conformer aux termes du produit applicables à ces produits et services Microsoft. Vous reconnaissez et acceptez que la licence régissant le logiciel ne vous accorde pas de licence ou autre droit d'utiliser les produits et services Microsoft. Rien dans la licence ou ce fichier ReadMe ne servira à remplacer, modifier, résilier ou modifier les conditions dans les termes du produit pour tout produit et services Microsoft.
Vous devez également vous conformer à toutes les lois et réglementations d'exportation nationales et internationales qui s'appliquent au logiciel, qui comprennent des restrictions sur les destinations, les utilisateurs finaux et l'utilisation finale. Pour plus d'informations sur les restrictions d'exportation, visitez https://aka.ms/export.
Vous reconnaissez que les logiciels et les produits et services Microsoft (1) ne sont pas conçus, destinés ou mis à disposition en tant que dispositifs médicaux, et (2) ne sont pas conçus ou destinés à être un substitut à des conseils médicaux professionnels, un diagnostic, un traitement ou un jugement et ne doivent pas être utilisés pour remplacer ou un substitut à des conseils médicaux professionnels, un diagnostic, un traitement ou un jugement. Le client est seul responsable d'afficher et / ou d'obtenir des consentements, des avertissements, des avertissements et des remerciements appropriés pour les utilisateurs finaux de la mise en œuvre par le client des services en ligne.
Vous reconnaissez que le logiciel n'est pas soumis aux audits de conformité SOC 1 et SOC 2. Aucune technologie Microsoft, ni aucune de ses technologies de composants, y compris le logiciel, n'est destinée ou mise à disposition en tant que substitut des conseils, opinion ou jugement professionnel d'un professionnel des services financiers certifiés. N'utilisez pas le logiciel pour remplacer, remplacer ou fournir des conseils financiers professionnels ou un jugement.
BY ACCESSING OR USING THE SOFTWARE, YOU ACKNOWLEDGE THAT THE SOFTWARE IS NOT DESIGNED OR INTENDED TO SUPPORT ANY USE IN WHICH A SERVICE INTERRUPTION, DEFECT, ERROR, OR OTHER FAILURE OF THE SOFTWARE COULD RESULT IN THE DEATH OR SERIOUS BODILY INJURY OF ANY PERSON OR IN PHYSICAL OR ENVIRONMENTAL DAMAGE (COLLECTIVELY, “HIGH-RISK USE”), AND THAT YOU WILL ENSURE THAT, IN THE EVENT OF ANY INTERRUPTION, DEFECT, ERROR, OR OTHER FAILURE OF THE SOFTWARE, THE SAFETY OF PEOPLE, PROPERTY, AND THE ENVIRONMENT ARE NOT REDUCED En dessous d'un niveau raisonnablement, approprié et légal, que ce soit en général ou dans une industrie spécifique. En accédant au logiciel, vous reconnaissez en outre que votre utilisation à haut risque du logiciel est à vos propres risques.
