Ein eigenes LLM feinjustieren mit Charmed Kubeflow und Feast

Canonicals Charmed Kubeflow zusammen mit Feast und KServe ermöglicht im Homelab oder auf einer einzelnen Ubuntu-Maschine das Ende‑zu‑Ende-Finetuning eines Sprachmodells. In diesem Beitrag führe ich durch die benötigte Umgebung, die Daten‑Ingestion über Hugging Face und Feast, das Training auf Kubernetes und das anschließende Serving via KServe.

WeiterlesenEin eigenes LLM feinjustieren mit Charmed Kubeflow und Feast