Fout

Onvoldoende geheugen om het model uit te voeren

Het model en zijn context passen niet in het beschikbare geheugen, en hoe je ze laat passen.

Wat het betekent

Een model heeft ruimte nodig voor zijn gewichten en voor de context die het verwerkt, in het geheugen van je videokaart of, zonder die, in het werkgeheugen. De engine vroeg meer dan er vrij was en kreeg nee.

Wat je kunt doen

• Kies een kleiner model, of een lichtere quantisatie van hetzelfde model. De tabellen in de wiki laten zien wat op welke hardware past.
• Verklein het Contextvenster bij Instellingen → Modellen.
• Sluit programma's die de videokaart gebruiken, zoals games, videobewerking en andere AI-gereedschappen, en probeer het opnieuw.

Nog steeds vast

Instellingen → Gegevens → Logmap openen bevat de logs, en app.log kun je veilig delen. Open een issue met de melding die je zag en die log, of lees Problemen oplossen.