heise+ | Verschiedene Formate von Sprachmodellen im Überblick
by from heise online News on (#6WAKQ)
Sprachmodelle konnen in zahlreichen Formaten vorliegen. Wer sie lokal einsetzen will, muss aber nur uber Safetensors und das GGUF-Format Bescheid wissen.