Ein eigenes LLM feinjustieren mit Charmed Kubeflow und Feast

Canonicals Charmed Kubeflow zusammen mit Feast und KServe ermöglicht im Homelab oder auf einer einzelnen Ubuntu-Maschine das Ende‑zu‑Ende-Finetuning eines Sprachmodells. In diesem Beitrag führe ich durch die benötigte Umgebung, die Daten‑Ingestion über Hugging Face und Feast, das Training auf Kubernetes und das anschließende Serving via KServe.

WeiterlesenEin eigenes LLM feinjustieren mit Charmed Kubeflow und Feast

KDE stoppt vorläufige LLM-Richtlinie nach heftiger Debatte

Ein Anfangsvorschlag für Leitlinien zum Einsatz von Large Language Models in KDE stieß auf starken Widerstand. Das Papier wurde nach zwei Tagen Diskussion geschlossen; die Autoren kündigen Überarbeitungen an — mögliche Folge: künftige Entscheidungen nur noch mit Entwicklerbeteiligung.

WeiterlesenKDE stoppt vorläufige LLM-Richtlinie nach heftiger Debatte

Calibre 9.15 führt KI‑gestütztes Text‑Abenteuer ein – optionales Feature benötigt LLM‑API‑Key

  • Beitrags-Autor:
  • Beitrag veröffentlicht:
  • Beitrags-Kategorie:Linux News
  • Beitrags-Kommentare:0 Kommentare

Die neue Version Calibre 9.15 erweitert den Ebook‑Manager um einen spielerischen KI‑Modus namens „Create Your Own Adventure“. Die Funktion ist optional, läuft über externe LLM‑APIs und ergänzt eine Reihe weiterer Neuerungen sowie praktische Bugfixes.

WeiterlesenCalibre 9.15 führt KI‑gestütztes Text‑Abenteuer ein – optionales Feature benötigt LLM‑API‑Key

Rust führt formelle LLM‑Richtlinie für das Core‑Repository ein

  • Beitrags-Autor:
  • Beitrag veröffentlicht:
  • Beitrags-Kategorie:Linux News
  • Beitrags-Kommentare:0 Kommentare

Das Rust‑Projekt hat eine offizielle Richtlinie zum Einsatz großer Sprachmodelle (LLMs) im zentralen Code‑Repository beschlossen. KI‑generierter Code wird deutlich strikter behandelt, private Nutzung bleibt erlaubt — und ein automatischer ‚Circuit Breaker‘ stoppt AI‑Autoren‑Merges, wenn ihr Anteil zu hoch wird.

WeiterlesenRust führt formelle LLM‑Richtlinie für das Core‑Repository ein

Ollama lokal auf Fedora mit Podman betreiben: Containerisierte LLMs ohne Host-Overhead

Mit Ollama lassen sich große Sprachmodelle lokal ausführen — praktisch für Entwicklung, Datenschutz und Offline-Tests. Auf Fedora empfiehlt sich Podman, um Ollama isoliert in einem Container zu betreiben, Modellspeicher persistent zu halten und die Host-Umgebung sauber zu lassen.

WeiterlesenOllama lokal auf Fedora mit Podman betreiben: Containerisierte LLMs ohne Host-Overhead