Erro no Llama

pedro05

```

🥲 Failed to load the model

Error loading model.

(Exit code: -1073740791). Unknown error. Try a different model and/or config.

```

como resolvo esse erro ?

ivan

pedro05 experimentou instalar outro modelo conforme a mensagem sugere?

Quais as especificações de hardware da sua máquina e qual seu sistema operacional?

pedro05

ivan Boa tarde ivan, Sim já testei com outro modelo e mesmo assim fica dando erro

Referende a meu hardware é um notebook I5 6 16GB MEM DDR4 Windows 11 , e um SSD M2 512 GB, Placa de vídeo Nvidia geforce 940MX

pedro05

```

Failed to load the model

Error loading model.

(Exit code: -1073740791). Unknown error. Try a different model and/or config.

```

ivan Agora apareceu outro erro na print, o erro que aparecia antes é o que eu mandei nessa mensagem.

Não sei o que posso fazer para resolver esse erro

pedro05

Sabe me dizer algum modelo que funcione? Caso não der, ficar nesses erros posso utilizar o chat GPT para terminar o curso de IA do guanabara.

ivan

pedro05 não tenho certeza mas o problema pode estar associado ao hardware. De qualquer forma o LM Studio costuma demorar muito nas respostas em hardwares mais antigos, principalmente no caso de uma GPU antiga (ou APU), então talvez nem valha a pena usar ele. Até pouco tempo eu usava uma GPU Radeon 580 e após fazer uma pergunta podia sair pra passar um café até terminar de responder; recentemente troquei para uma placa melhor e as respostas agora fluem bem mais rapidamente, mas eu continuo usando os serviços online mesmo, como Chatgpt, Claude e Gemini. E sim, você conseguirá completar o curso sem o uso de uma IA local. Eles apenas mostraram essa ferramenta como uma opção a a mais.

ivan

pedro05 eu também já verifiquei em outros erros de mais usuários questões relacionadas ao uso de gguf

Clique na roldana que fica no extremo canto inferior direito e verifique as informações indicadas na print

Pode ser que sua unidade gráfica não seja compatível ou que tenha que configurar o gguf, mas não sei te especificar como fazer isso.

melo11cd

llama.cpp error: ‘vk:😛hysicalDevice::createDevice: ErrorExtensionNotPresent’
esta dando este erro ao tentar baixar o lhama no LMsutdio

melo11cd

resposta do chatgpt:

O erro vk::PhysicalDevice::createDevice: ErrorExtensionNotPresent no Llama.cpp ao tentar baixar o modelo no LMStudio geralmente está relacionado a problemas com o suporte à API Vulkan no sistema, que é usada para aceleração gráfica e computacional. Aqui estão algumas etapas que você pode seguir para resolver o problema:

—

1. Verifique o Suporte à API Vulkan

Certifique-se de que sua GPU e drivers suportam a API Vulkan.
Para verificar o suporte:
- No Linux, use o comando:
  
  $$
  bashCopy codevulkaninfo
  
  $$
- No Windows, você pode usar ferramentas como o Vulkan SDK.
Se o suporte não estiver presente, atualize seus drivers gráficos para a versão mais recente diretamente do site do fabricante (NVIDIA, AMD ou Intel).

—

2. Atualize os Drivers Gráficos

Windows:
- Acesse o Gerenciador de Dispositivos → Adaptadores de Vídeo → Atualizar drivers.
- Ou baixe o driver diretamente do site do fabricante.
Linux:
- Para placas NVIDIA:
  
  $$
  bashCopy codesudo apt-get install nvidia-driver-<versão>
  
  $$
- Para placas AMD: Use o driver proprietário AMDGPU ou Mesa atualizado.

—

3. Habilite Extensões Vulkan Necessárias

O erro indica que alguma extensão Vulkan requerida pelo Llama.cpp ou pelo LMStudio está faltando.
No Linux, verifique quais extensões Vulkan estão habilitadas:

$$
bashCopy codevulkaninfo | grep Extension

$$
No Windows, use o Vulkan SDK para diagnosticar as extensões disponíveis.
Certifique-se de que o sistema atende aos requisitos mínimos do Llama.cpp e LMStudio.

—

4. Reinstale ou Configure o LMStudio

Certifique-se de que o LMStudio esteja configurado corretamente.
Exclua quaisquer dados parcialmente baixados ou corrompidos.
Baixe novamente o modelo seguindo as instruções do LMStudio.

—

5. Alternativas

Se o problema persistir, considere usar o CUDA (se sua GPU suportar) ou outro backend suportado pelo Llama.cpp, como OpenCL, que pode ser menos dependente da Vulkan.
Para alternar para o CUDA, certifique-se de que o CUDA Toolkit esteja instalado.

—

Se nenhuma dessas soluções resolver o problema, você pode compartilhar mais informações, como:

Sistema operacional.
Especificações da GPU e do driver gráfico.
Passos específicos que levam ao erro.

Com essas informações, podemos ajudar com mais precisão. 😊

melo11cd

melo11cd
selecionei apenas LMs compativeis… ta dificil resolver… vou tentar o hermes e tambem o lhama 3.1 do mostrado na aula. as ultimas versoes nao rodam em mu pc e sou leigo, nao consegui configurar placa de video.

ivan

melo11cd o app é totalmente opcional e você não precisará dele para acompanhar as aulas. Se o hardware, sistema ou drivers não for compatível, não vai rodar mesmo. Mas mesmo que rode, se o seu hardware não for muito bom, as respostas demoram muito tempo e não vale a pena usar a ferramenta.

melo11cd

ivan entendi… obrigado, Ivan!!

mas tambem era so ver a aula seguinte que o problema estaria resolvido kkkkk
estou vendo agora…