branchway

Langfuse hosten

Langfuse protokolliert, was eine KI-Anwendung tut: welche Anfrage gestellt wurde, welche Antwort kam, wie lange es dauerte und was es kostete. Wer Sprachmodelle produktiv einsetzt, braucht so etwas – und sollte es selbst betreiben.

Image und Port

AngabeWert
Imagelangfuse/langfuse:2
Port3000
Empfohlene GrößeM (1024 MB)

Diese Werte trägst du unter „Umgebung“ ein:

NameWert
DATABASE_URLdie Verbindung deiner PostgreSQL-Datenbank
NEXTAUTH_SECRETein langes Zufallswort
SALTein weiteres Zufallswort
NEXTAUTH_URLdie Adresse deiner Instanz

Datenbank und Dateien

Leg in der Console eine PostgreSQL-Datenbank an und verknüpfe sie mit der App. Die Zugangsdaten stehen danach als Umgebungsvariablen bereit, du musst nichts abtippen.

Worauf du achten musst

  • In den Protokollen stehen echte Eingaben deiner Nutzer. Das sind schnell personenbezogene Daten – ein weiterer US-Dienst, der sie sieht, ist genau das, was man vermeiden will. Auf eigener Instanz bleibt es bei dir.
  • Aufbewahrungsfrist festlegen: Prompt-Protokolle ewig zu speichern ist selten zu rechtfertigen.
  • Die Datenbank wächst mit jeder Anfrage. Bei hohem Aufkommen die Datenbank großzügiger wählen als die App.

Was es kostet

Größe M im Dauerbetrieb kostet rund 15,64 € im Monat, dazu die Datenbank ab rund 7,82 €. Abgerechnet wird sekundengenau: Wer nur zeitweise braucht, was hier läuft, stoppt die App und zahlt für diese Zeit nichts. Alle Preise

Häufige Fragen

Funktioniert das mit jedem Modellanbieter?

Ja, die Anbindung läuft über die Bibliotheken von Langfuse in deiner Anwendung – unabhängig davon, welches Modell dahinter steckt.

Brauche ich das für ein kleines Projekt?

Sobald echte Nutzer beteiligt sind, hilft es sehr: Ohne Protokoll ist ein Fehlverhalten des Modells praktisch nicht nachvollziehbar.

Weiterlesen