heise+ | Komprimierte KI: Wie Quantisierung große Sprachmodelle verkleinert

Wir erklaren die wichtigsten Quantisierungsmethoden, mit denen Sprachmodelle wie ChatGPT Energie und Kosten sparen und sogar lokal auf Smartphones laufen.