Thumbnail 1799570
thumbnail
Large (256x256)

Articles

Geschrumpfte Chatbots: So passt die KI plötzlich in 4 GByte RAM
Quantisierung ermoglicht groe Sprachmodelle auf Consumer-Hardware. Bonsai verspricht 27B-LLMs mit wenig RAM - auch auf Handys.
1