Erreur
Pas assez de mémoire pour faire tourner le modèle
Le modèle et son contexte ne tiennent pas dans la mémoire disponible, et comment les y faire tenir.
Ce que cela signifie
Un modèle a besoin de place pour ses poids et pour le contexte qu'il traite, dans la mémoire de votre carte graphique ou, sans elle, dans la mémoire du système. Le moteur en a demandé plus qu'il n'y en avait de libre, et on le lui a refusé.
Que faire
- Choisissez un modèle plus petit, ou une quantification plus légère du même. Les tableaux du wiki montrent ce qui tient sur quel matériel.
- Réduisez la Fenêtre de contexte dans
Paramètres → Modèles. - Fermez les programmes qui utilisent la carte graphique, comme les jeux, les logiciels de montage vidéo et les autres outils d'IA, puis réessayez.
Toujours bloqué
Paramètres → Données → Ouvrir le dossier des journaux contient les journaux, et app.log peut être partagé sans risque. Ouvrez un ticket avec le message que vous avez vu et ce journal, ou lisez Dépannage.