오류

모델을 실행할 메모리가 부족합니다

모델과 그 컨텍스트가 사용 가능한 메모리에 들어가지 않습니다. 들어가게 하는 방법입니다.

무슨 뜻인가요

모델에는 가중치와 처리 중인 컨텍스트를 둘 공간이 필요하며, 그래픽 카드의 메모리에, 그래픽 카드가 없으면 시스템 메모리에 놓입니다. 엔진이 남아 있는 공간보다 더 많이 요청했고 거절당했습니다.

해결 방법

• 더 작은 모델이나 같은 모델의 더 작은 양자화를 고르세요. 위키의 표에서 어떤 하드웨어에 무엇이 들어가는지 볼 수 있습니다.
• 설정 → 모델에서 컨텍스트 창을 줄이세요.
• 게임, 동영상 편집기, 다른 AI 도구처럼 그래픽 카드를 쓰는 프로그램을 닫고 다시 시도하세요.

그래도 막혔다면

로그는 설정 → 데이터 → 로그 폴더 열기에 있으며 app.log는 안전하게 공유할 수 있습니다. 표시된 메시지와 그 로그를 함께 이슈를 남겨 주세요. 문제 해결도 읽어 보세요.