LLM Recommendation Systems

LLM-Recommendation-Systems

Feinabstimmung LLMs für textbasierte Empfehlungen

In diesem Projekt wird das Potenzial von Feinabstimmungsmodellen (LLMs) speziell für textbasierte Empfehlungen untersucht, um die Genauigkeit und die Benutzerzufriedenheit zu verbessern. Es führt einen neuartigen schnellen Mechanismus ein, der Beziehungsinformationen in natürlichen Sprachtext verwandelt und es dem LLM ermöglicht, Benutzerinteraktionen zu interpretieren und fundiertere Empfehlungen abzugeben.

Projektübersicht

Schlüsselpunkte:

1. Verwendete das Amazon Review -Datensatz 2018, um ein personalisiertes Produktempfehlungssystem zu entwickeln.
2. Implementiert und verglichen die Leistung zweier großer Sprachmodelle: Mistral-7b und Tinyllama.
3. Angewandte fortschrittliche Techniken wie LORA (Anpassung mit niedriger Rang) und Qlora (quantisierte LORA) zur effizienten Modellfeineinstellung.
4. Entwickelte eine neuartige Aufforderungstrategie, um die Benutzerinteraktionsverlauf in natürliche Sprache für die Modelle in natürliche Sprache zu verwandeln.
5. Erreichte über 98% Genauigkeit bei der Vorhersage der nächsten Produktkäufe der Benutzer mithilfe des feinstimmigen Tinyllama-Modells.
6. Zeigten, dass kleinere, spezialisierte Modelle größere Modelle für bestimmte Aufgaben übertreffen können, wenn sie richtig abgestimmt sind.
7. Führte die Fehleranalyse durch, um Muster in falschen Vorhersagen und potenziellen Verbesserungsbereichen zu identifizieren.
8. Untersuchte das Gleichgewicht zwischen Modellgröße, Recheneffizienz und Vorhersagegenauigkeit in Empfehlungssystemen.

Das Projekt konzentriert sich darauf, die Effizienz von Feinabstimmungs-LLMs für Empfehlungsaufgaben mithilfe eines vielfältigen und expansiven Datensatzes zu demonstrieren. Die Implementierung umfasst die folgenden Phasen:

1. Datenextraktion und Vorverarbeitung :

   • Extrahierte Teilmengen von Amazon -Überprüfungsdaten und konvertierte sie in Datenrahmen.
   • Unnötige Spalten entfernt.
   • Benutzer mit unzureichenden Kaufgeschichten herausgefiltert.
   • Transformierte die verbleibenden Daten in Eingabeaufforderungen und bildete die Eingabe für die LLM.

2. Schnelltechnik :

   • Erkundete verschiedene Aufforderungstechniken.
   • Für jede Eingabeaufforderung für eine dreiteilige Struktur festgelegt: Anweisungen, Eingabetails und Bodenwahrheitsausgabe.
   • Diese Struktur bietet dem Modell eine klare Aufgabe, relevante Informationen und das gewünschte Ausgangsformat.

3. Modellimplementierung :

   • Verwendete die Bibliotheken „Unloth AI“ und "Huggingface" für vorgebrachte Modelle und Anpassungswerkzeuge.
   • Als Qlora betrachtet, eine Technik zur Verbesserung der Modellleistung.
   • Erstellte konsolidierte SFTTrainer und TrainingArguments , um Hyperparameteranpassungen während des Trainings zu zentralisieren.