Erreur

Pas assez de mémoire pour faire tourner le modèle

Le modèle et son contexte ne tiennent pas dans la mémoire disponible, et comment les y faire tenir.

Ce que cela signifie

Un modèle a besoin de place pour ses poids et pour le contexte qu'il traite, dans la mémoire de votre carte graphique ou, sans elle, dans la mémoire du système. Le moteur en a demandé plus qu'il n'y en avait de libre, et on le lui a refusé.

Que faire

  • Choisissez un modèle plus petit, ou une quantification plus légère du même. Les tableaux du wiki montrent ce qui tient sur quel matériel.
  • Réduisez la Fenêtre de contexte dans Paramètres → Modèles.
  • Fermez les programmes qui utilisent la carte graphique, comme les jeux, les logiciels de montage vidéo et les autres outils d'IA, puis réessayez.

Toujours bloqué

Paramètres → Données → Ouvrir le dossier des journaux contient les journaux, et app.log peut être partagé sans risque. Ouvrez un ticket avec le message que vous avez vu et ce journal, ou lisez Dépannage.