EP10: Testando IA localmente
Opções para se rodar LLMs na sua máquina
🧭 Mapa da Edição
📓 IA local: supermercado, fogão e cooktop — descomplicando Hugging Face, Ollama e LM Studio
🌊 Da hospedagem com massagem ao Google revolucionando vídeo por IA — e Apple, finalmente, entrando no jogo
📦 Do fundo do mar dev: rankings de LLMs, música feita por IA e Kubernetes que responde educadamente aos seus comandos
📓 Entrada no Logbook
Esses dias fui brincar com LLMs rodando localmente.
A ideia era simples: testar um modelo direto no meu PC, sem depender de nuvem. Mas bastou dar os primeiros passos pra eu me ver cercado de nomes: Hugging Face, Ollama, LM Studio…
A sensação? Tipo quando você entra na cozinha e tem três equipamentos que teoricamente fazem a mesma coisa, mas cada um do seu jeito.
Foi aí que a analogia me ajudou a entender:
Hugging Face é o supermercado: um repositório gigante onde você encontra modelos prontos, datasets, APIs, e mais.
Ollama é o fogão direto ao ponto: roda modelos localmente via terminal com um simples ollama run mistral.
LM Studio é o cooktop cheio de controles: interface gráfica, playground pra ajustar temperatura, top_p, ver respostas com conforto visual. O legal é que todos eles se complementam, e rodam offline.
Você pode, por exemplo:
Buscar o modelo no Hugging Face.
Testar ele visualmente no LM Studio.
E depois automatizar via Ollama no terminal.
🧠 E o dilema: local vs cloud?
Rodar IA localmente é uma baita alternativa quando:
Você quer testar sem depender de conexão.
Precisa de privacidade nos dados.
Ou simplesmente quer fugir das limitações (e custos) das APIs públicas.
Claro, pra produção em larga escala, a nuvem ainda é o caminho mais robusto.
Mas pro estudo, protótipos, e até pequenos apps, o local tá mais acessível do que nunca.
🌊 Marés da semana
O Airbnb decidiu que só hospedagem não basta. Agora, além da estadia, você pode contratar serviços presenciais: massagens, cabeleireiros, personal trainers… Confesso que me pegou: meu TCC da faculdade era sobre um app assim, mas ficou só no papel. Moral? Ideia boa precisa de execução.
O Google I/O 2025 foi simplesmente uma avalanche. Daria pra fazer uma newsletter só disso, mas vai o resumo: assistentes que controlam seu celular, criador de vídeos por IA absurdo, novo Gemini 2.5 Pro refinado pra devs, e o Veo 3, modelo de vídeo com efeitos sonoros 🤯. Se quiser pegar tudo sem sofrer, tem esse resumo de 10 minutos.
A Apple resolveu entrar com tudo: vai liberar seus modelos de IA pra desenvolvedores. O objetivo? Incentivar o desenvolvimento em cima do Apple Intelligence. A disputa esquentou, agora, quem programa pra Apple, tem mais munição.
📦 Treasure - Good Stuff
Quer acompanhar o ranking das melhores IAs? Recomendo o Artificial Analysis: uma curadoria atualizada das LLMs que mais se destacam em inteligência, performance e custo.
Já quis criar uma música, mas não sabe cantar? Relaxa, tem IA pra isso. O Suno é ótimo — inclusive já ouvi algumas propagandas criadas com ele na rádio local. Sempre me pergunto: será que acham que passa despercebido? 🫥
E pra quem precisa mexer com Kubernetes mas não sabe todos as manhas: o Google lançou o Kubectl AI. É só pedir com jeitinho e a IA executa pra você. Menos dor de cabeça agora.