Local AI: Wichtige Begriffe und was sie wirklich bedeuten

  • Beitrags-Autor:
  • Beitrag veröffentlicht:
  • Beitrags-Kategorie:Linux News
  • Beitrags-Kommentare:0 Kommentare

Die Welt der lokal betriebenen KI-Modelle ist schnelllebig – und das Fachvokabular ist oft verwirrend. Dieser Artikel erklärt die zentralen Begriffe (Tokens, Quantisierung, Harness u. a.) knapp und praxisnah, damit Sie beim Arbeiten mit Tools wie llama.cpp oder Ollama sicherer werden.

WeiterlesenLocal AI: Wichtige Begriffe und was sie wirklich bedeuten

Hermes auf dem Raspberry Pi betreiben und vom Laptop per Remote-Gateway steuern

Mit Hermes lässt sich ein immer laufendes Agenten-Backend auf einem Raspberry Pi betreiben und von einem Laptop aus über Hermes Desktop steuern. Der Artikel erklärt, wie man das Backend auf dem Pi startet, die Desktop-Installation vornimmt, das Remote-Gateway konfiguriert und den Dienst per systemd dauerhaft betreibt.

WeiterlesenHermes auf dem Raspberry Pi betreiben und vom Laptop per Remote-Gateway steuern