heise+ | AirLLM: Große KI-Modelle auf schwachen Grafikkarten starten

Mit dem GitHub-Repository AirLLM konnen Sie gewaltige KI-Modelle lokal auf wenigen GByte VRAM laufen lassen. Doch die Sache hat einen groen Haken.