Derzeit verwenden alle beliebten LLM-Dienstanbieter eine Feinabstimmung mit JSONL-Dateien, die die Eingaben und Ausgänge des Modells mit kleinen Variationen beschreiben, beispielsweise für Gemini OpenAI, das Format etwas unterschiedlich.
Nach dem Herunterladen einer speziell geformten JSONL -Datei beginnt der Prozess der Spezialisierung des LLM -Modells auf dem angegebenen Datensatz für alle aktuellen, bekannten LLM -Anbieter, die dieser Dienst bezahlt wird.
Für die Feinabstimmung auf einer lokalen Maschine mit Ollama empfehle ich, mich auf ein detailliertes Video des YouTube Channel Tech zu verlassen, um ein LLM und uns mit Alloma zu optimieren:
https://www.youtube.com/watch?v=pTaSDVz0gok
Ein Beispiel für einen Jupyter-Laptop mit der Vorbereitung des JSONL-Datensatzes aus Exporten aller Telegrammnachrichten und dem Start des lokalen Feinabstiegsprozesses finden Sie hier:
https://github.com/demensdeum/llm-train-example
