LM Studio is een gratis app van Element Labs om lokale taalmodellen te zoeken, te downloaden en te gebruiken, met een chatvenster en een lokale server.
Beoordeel LM Studio
Gemiddeld 0,0 · beoordelingen: 0
Bedankt! Je beoordeling is opgeslagen; je kunt die nog wijzigen. De beoordeling kon niet worden opgeslagen. Probeer het later opnieuw. Vandaag zijn er te veel beoordelingen vanaf je netwerk gegeven. Probeer het morgen opnieuw. Het gemiddelde verschijnt na 5 beoordelingen.
Over LM Studio
LM Studio 0.4.25 is een desktop-app van Element Labs voor Windows om taalmodellen op je eigen pc te vinden, te downloaden en mee te chatten. Je kunt LM Studio gratis downloaden; de app zelf is freeware en geen opensourcesoftware. De modellen draaien lokaal, zonder dat je vragen naar een clouddienst gaan.
Voor wie is LM Studio bedoeld?
Wie lokaal met AI wil experimenteren zonder opdrachtregel
LM Studio is gemaakt voor wie een lokaal model wil proberen zonder te typen in een terminal. In de app zoek je in een catalogus naar modellen in het GGUF-formaat, zie je hoe groot ze zijn en of ze bij je hardware passen, en download je ze met één klik. Daarna chat je in een vertrouwd venster, met gespreksgeschiedenis en instellingen per model, zoals de lengte van de context en hoe creatief de antwoorden mogen zijn. Je kunt documenten aan een gesprek toevoegen en systeeminstructies opslaan. Omdat alles op je pc gebeurt, blijven teksten en bestanden bij jou, wat prettig is bij notities, vertrouwelijke stukken of werk zonder internet.
Ontwikkelaars
LM Studio start op verzoek een lokale server met een API die compatibel is met OpenAI. Programma's en scripts die normaal met een clouddienst praten, verbind je zo met een model op je eigen machine, handig om te testen zonder kosten per aanroep.
Voor wie minder geschikt
Wie een zwakke laptop zonder veel werkgeheugen heeft, merkt dat grotere modellen traag of helemaal niet draaien. En wie per se opensourcesoftware wil gebruiken, kiest een van de alternatieven.
Systeemvereisten
Volgens de officiële systeemvereisten werkt LM Studio op Windows x64 en ARM; er zijn ook versies voor macOS op Apple Silicon (met MLX) en Linux. Aanbevolen is 16 GB werkgeheugen. Een videokaart is optioneel, met bij voorkeur 4 GB videogeheugen of meer, en de processor moet AVX2 ondersteunen. Hoeveel een model precies vraagt, hangt af van het model zelf.
Installatie
- Ga naar de downloadpagina van LM Studio en kies Windows.
- Start het installatiebestand van ongeveer 590 MB.
- Open de zoekfunctie in de app en download een klein model om te beginnen.
- Start een chat, of zet onder Developer de lokale server aan.
Meer informatie vind je op lmstudio.ai.
Licentie en modellen
De app is gratis te gebruiken, maar de code is niet openbaar. Modellen zitten niet in LM Studio: je downloadt ze los, elk met een eigen licentie. Lees die licentie als je een model zakelijk wilt inzetten.
Voor- en nadelen
- Pluspunt: overzichtelijke app zonder opdrachtregel.
- Pluspunt: modellen zoeken en downloaden in de app.
- Pluspunt: lokale server compatibel met OpenAI.
- Minpunt: geen opensourcesoftware.
- Minpunt: veel werkgeheugen nodig voor grotere modellen.
- Minpunt: processor moet AVX2 ondersteunen.
Alternatieven
Ollama is opensource en sterk in de opdrachtregel en API. Jan is een opensource-app met vergelijkbare chat, en GPT4All en AnythingLLM richten zich meer op chatten met eigen documenten.