guac ai mole

? Guac-ai-mole

Guac-AI-Mole est un outil alimenté par modèle de langue (LLM) pour inspecter et comprendre la chaîne d'approvisionnement des logiciels d'une organisation. Il utilise des modèles LLM, tels que Openai GPT-4, et GUAC pour interroger et analyser les artefacts de la chaîne d'approvisionnement sécurisés, tels que la facture de matériaux de logiciels (SBOM), pour prendre des décisions exploitables.

? Ceci est un projet de hackathon. N'utilisez pas dans la production.

Démo

La démonstration fournira des échantillons de questions et réponses générées par Guac-ai-mole!

Ces réponses sont pré-générées et mises en cache pour des temps de réponse plus rapides et pour éviter d'avoir besoin d'accès à l'API. Vous pouvez essayer vos propres questions et réponses en configurant l'application localement.

Vidéo

Configuration du développement

Pré-requis

• Installez et exécutez GUAC à l'aide de la branche principale. Il fonctionne à partir de cet engagement.
• Installer Steamlit
• Openai, Azure OpenAI ou accès API Localai (testé et recommandé d'utiliser avec les modèles gpt-4-32k-0613 et ultérieurs)

Remplir le registre avec des exemples d'images et des sBoms attachés comme artefacts d'OCI références

• Téléchargez et copiez Oras et Syft sur votre $PATH
• Connectez-vous à votre registre (assurez-vous d'avoir un accès push) et exécutez export REGISTRY=<registry name ie, myregistry.io> pour définir votre registre
• Exécutez scripts/populate-registry.sh pour remplir le registre avec des exemples d'images et des SBOMS attachés en tant qu'artefacts OCI références OCI
• Vous pouvez vérifier les SBoms attachés en utilisant oras discover . Par exemple,

$ oras discover ${REGISTRY} /vul-image:latest
Discovered 1 artifact referencing latest
Digest: sha256:b6f1a6e034d40c240f1d8b0a3f5481aa0a315009f5ac72f736502939419c1855

Artifact Type           Digest
application/spdx+json   sha256:5479d40d5d27025ab4eda699e91961fc0537def2ffe850e2c19172b41eb72ca7

Ingestion de SBOMS des références OCI à Guac

• Exécutez guacone collect registry ${REGISTRY} pour ingérer les SBOM des références OCI à Guac. Cela ingérera automatiquement les SBOM des références OCI à Guac.

Exécutez l'application

• Installez les dépendances Python avec pip install -r requirements.txt
• Exécutez streamlit run app.py pour démarrer l'application Streamlit (Ajouter --logger.level=debug pour les journaux de débogage)
• Naviguez vers l'URL de l'application (par défaut: http: // localhost: 8501)
• Configurez l'Open AI API compatible (Openai, Azure Openai, Localai) API Key, Tenpoint et nom de déploiement dans la barre latérale à gauche
  • Alternativement, définissez OPENAI_API_KEY , OPENAI_API_ENDPOINT et OPENAI_API_MODEL Variables d'environnement
• Configurez le point de terminaison GUAC GraphQL dans la barre latérale à gauche (par défaut: http: // localhost: 8080 / requête). Cette URL doit être accessible à partir de l'application.
  • Alternativement, définissez la variable d'environnement GUAC_GRAPHQL_ENDPOINT