Bitknauserei: Lassen sich Paramter von Sprachmodellen auf ein Bit reduzieren?
by from heise online News on (#6K4GQ)
Um dem Hardwarehunger von groen Sprachmodellen Herr zu werden, setzt man auf Quantisierung. Einen neuen Ansatz stellen Microsoft-Forscher zur Diskussion.