O risco escondido dos servidores LM Studio expostos
Traduzido do inglês. Leia o original em English.
O problema
LM Studio é um aplicativo com interface gráfica que deixa fácil rodar modelos locais. Ele também traz um servidor local que entrega uma API compatível com a OpenAI na porta 1234.
Esse servidor deixa você usar seus modelos de outros aplicativos ou compartilhar na sua rede. Como muitas ferramentas de desenvolvimento ele escolhe a facilidade antes da segurança. Você liga o servidor e marca “Serve on Local Network” sem um firewall na frente e acabou de abrir uma porta para a internet.
O que pode dar errado
O servidor do LM Studio não pede autenticação por padrão. Se a máquina está ligada direto na internet ou seu roteador encaminha a porta 1234, um atacante consegue fazer isso.
- Usar seus modelos. Outra pessoa usa sua GPU para gerar texto ou código.
- Custar dinheiro. Inferência contínua numa máquina alugada é uma conta por trabalho que você nunca pediu.
- Ler o contexto. Se a sessão carrega conversa anterior o que estava ali pode ser legível.
Como eu encontrei isso
Eu queria saber se o design fácil tinha produzido a mesma exposição acidental que eu venho encontrando em outras ferramentas. O LM Studio tem um único interruptor na interface que liga o servidor.
Então fui procurar com o FOFA que é um motor de busca de ciberespaço.
Procurei máquinas com a porta 1234 exposta usando uma assinatura própria da resposta do servidor do LM Studio. A consulta foi port="1234" && body="LM Studio".
Encontrei mais de 3.000 hosts expostos.
Não são servidores vazios. São endpoints de API que respondem a prompts.
Como proteger sua instância do LM Studio
Se você usa o recurso de servidor existem três passos que te mantêm seguro.
1. Amarre o servidor só no localhost
A não ser que outro dispositivo precise alcançar, amarre o servidor em 127.0.0.1 em vez de 0.0.0.0. O interruptor fica nas configurações do servidor na interface.
2. Use um firewall
Se você realmente precisa do “Serve on Local Network” deixe o firewall do sistema ou o roteador bloquear a porta 1234 por fora e permitir só os endereços locais que você usa.
3. Desligue o servidor quando não estiver usando
Feche quando terminar. Suba o servidor local quando estiver usando e feche quando não estiver.
Conclusão
O LM Studio coloca um servidor de modelos na sua área de trabalho e isso traz as mesmas responsabilidades de rede que você teria num servidor na nuvem. Uma caixa de seleção é tudo o que existe entre sua GPU e a internet. Veja em que endereço um interruptor de servidor realmente escuta antes de deixar ligado.