heise+ | Googles TurboQuant-Verfahren: Praxistest auf einer AMD-GPU
by from heise online News on (#77NAE)
Googles TurboQuant komprimiert den KV-Cache groer Sprachmodelle auf 3 Bit. Tests auf einer AMD-Karte zeigen: Das Kernversprechen stimmt - mit Nebeneffekten.