guac ai mole

- Guac-ai-mole

Guac-ai-mole เป็นเครื่องมือขับเคลื่อนภาษาขนาดใหญ่ (LLM) เพื่อตรวจสอบและทำความเข้าใจห่วงโซ่อุปทานซอฟต์แวร์ขององค์กร มันใช้โมเดล LLM เช่น OpenAI GPT-4 และ GUAC เพื่อสอบถามและวิเคราะห์สิ่งประดิษฐ์ห่วงโซ่อุปทานที่ปลอดภัยเช่นซอฟต์แวร์ Bill of Materials (SBOM) เพื่อทำการตัดสินใจที่สามารถดำเนินการได้

- นี่คือโครงการ Hackathon อย่าใช้ในการผลิต

การสาธิต

การสาธิตจะให้คำถามและคำตอบตัวอย่างที่สร้างโดย Guac-ai-Mole!

คำตอบเหล่านี้ถูกสร้างขึ้นล่วงหน้าและแคชสำหรับเวลาตอบสนองที่เร็วขึ้นและเพื่อหลีกเลี่ยงการเข้าถึง API คุณสามารถลองใช้คำถามและคำตอบของคุณเองโดยตั้งค่าแอพในพื้นที่

วิดีโอ

การตั้งค่าการพัฒนา

สิ่งที่ต้องมีก่อน

• ติดตั้งและเรียกใช้ GUAC โดยใช้สาขาหลัก มันทำงานตามการกระทำนี้
• ติดตั้ง Steamlit
• Openai, Azure Openai หรือ Localai API (ทดสอบและแนะนำให้ใช้กับรุ่น gpt-4-32k-0613 และรุ่นใหม่กว่า)

เติมทะเบียนรีจิสทรีพร้อมภาพตัวอย่างและ SBOM ที่แนบมาเป็นสิ่งประดิษฐ์ผู้อ้างอิง OCI

• ดาวน์โหลดและคัดลอก oras และ syft ไปยัง $PATH ของคุณ
• เข้าสู่ระบบรีจิสทรีของคุณ (ตรวจสอบให้แน่ใจว่ามีการเข้าถึงแบบพุช) และเรียกใช้ export REGISTRY=<registry name ie, myregistry.io> เพื่อตั้งค่ารีจิสทรีของคุณ
• เรียกใช้ scripts/populate-registry.sh เพื่อเติมรีจิสทรีด้วยภาพตัวอย่างและ SBOMs ที่แนบมาเป็นสิ่งประดิษฐ์ผู้อ้างอิง OCI
• คุณสามารถตรวจสอบ SBOM ที่แนบมาได้โดยใช้ oras discover ตัวอย่างเช่น,

$ oras discover ${REGISTRY} /vul-image:latest
Discovered 1 artifact referencing latest
Digest: sha256:b6f1a6e034d40c240f1d8b0a3f5481aa0a315009f5ac72f736502939419c1855

Artifact Type           Digest
application/spdx+json   sha256:5479d40d5d27025ab4eda699e91961fc0537def2ffe850e2c19172b41eb72ca7

การบริโภค SBOMs จากผู้อ้างอิง OCI ไปยัง GUAC

• เรียกใช้ guacone collect registry ${REGISTRY} เพื่อบริโภค SBOMs จากผู้อ้างอิง OCI ไปยัง GUAC สิ่งนี้จะนำเข้าสู่ SBOM โดยอัตโนมัติจากผู้อ้างอิง OCI ไปยัง GUAC

เรียกใช้แอพ

• ติดตั้ง Python Dependencies ด้วย pip install -r requirements.txt
• เรียกใช้ streamlit run app.py เพื่อเริ่มแอพ streamlit (เพิ่ม --logger.level=debug สำหรับบันทึกการดีบัก)
• นำทางไปยัง URL แอพ (ค่าเริ่มต้น: http: // localhost: 8501)
• ตั้งค่า Open AI API ที่เข้ากันได้ (Openai, Azure Openai, Localai) API Key, จุดสิ้นสุดและชื่อการปรับใช้ในแถบด้านข้างทางด้านซ้าย
  • อีกทางเลือกหนึ่งตั้ง OPENAI_API_KEY , OPENAI_API_ENDPOINT และตัวแปรสภาพแวดล้อม OPENAI_API_MODEL
• ตั้งค่าจุดสิ้นสุด GUAC GraphQL ในแถบด้านข้างทางด้านซ้าย (ค่าเริ่มต้น: http: // localhost: 8080/query) URL นี้จะต้องสามารถเข้าถึงได้จากแอพ
  • อีกทางเลือกหนึ่งตั้งค่าตัวแปรสภาพแวดล้อม GUAC_GRAPHQL_ENDPOINT