RE: https://chaos.social/@moreentropy/117002260709455918Nachdem ich den Default-Prompt ersetzt und die Temperatur auf 0.3 geschraubt habe funktioniert das jetzt reproduzierbar gut und schnell. Keine Lügen mehr und kein random "ich kann xy nicht schalten".Mit dem qwen3.5-4b und Context Size 24576 habe ich üppig freien VRAM in meinen 8GB, vielleicht kriegt man das sogar in 4GB gequetscht mit etwas Optimierung, dann wäre das für noch mehr Setups machbar.#homeassistant #llm #voiceassistant
RE: https://chaos.social/@moreentropy/117002260709455918Nachdem ich den Default-Prompt ersetzt und die Temperatur auf 0....
