Microsoftin tiimipäälliköt näyttävät pitävän LM Studio AI:stä; mistä on kyse?

Kaksi merkittävää hahmoa Microsoftilla, Azure CTO Mark Russinovich ja kehittäjäyhteisön VP Scott Hanselmann ovat äskettäin siirtyneet Twitteriin ilmaistakseen innostuksensa LM Studio AI:stä, alustasta, jolla voit ladata suuria kielimalleja (LLM) ja olla vuorovaikutuksessa niiden kanssa paikallisesti tietokoneellesi. Mutta mitä LM Studio AI tarkalleen ottaen on, ja miksi se tuottaa niin positiivista kohua?

Tämä sovellus, jolla voit ladata LLM:t ja keskustella heidän kanssaan paikallisessa järjestelmässäsi, on taideteos: https://t.co/QHS8nXIjPY

- Mark Russinovich (@markrussinovich) Helmikuu 2, 2024

LM Studio AI on pohjimmiltaan avoimen lähdekoodin sovellus, jonka avulla käyttäjät voivat hyödyntää LLM:n tehoja ilman pilvipohjaisia ​​ratkaisuja. Tämä ainutlaatuinen lähestymistapa tarjoaa useita etuja, mukaan lukien:

• Yrittämällä LLM:itä paikallisesti, käyttäjät säilyttävät täydellisen hallinnan tietoihinsa, mikä vähentää online-yksityisyyttä ja luvatonta käyttöä koskevia huolia.
• Paikallisen käsittelyn ansiosta LM Studio AI antaa käyttäjille mahdollisuuden työskennellä LLM:iden kanssa ilman Internet-yhteyttä, mikä tekee siitä erityisen houkuttelevan tilanteissa, joissa yhteys on rajoitettu tai epäluotettava.
• Ilmaisena avoimen lähdekoodin alustana LM Studio AI poistaa pääsyn esteet ja tekee LLM-tutkimuksesta laajemman yleisön ulottuvilla. Lisäksi sen tuki eri LLM-malleille, mukaan lukien Llama, MPT ja StarCoder, antaa käyttäjille mahdollisuuden räätälöidä kokemustaan.

Helppokäyttöisyytensä lisäksi LM Studio AI:n ominaisuudet ovat herättäneet huomiota kehittäjien, kuten Hanselmanin, keskuudessa, joka korosti sen nopeaa käyttöönottoa ja saumatonta integraatiota henkilökohtaiseen NVIDIA-grafiikkasuorittimeensa. Tämän toiminnon avulla kehittäjät voivat kokeilla LLM:itä reaaliajassa, mikä edistää nopeaa prototyyppien luomista ja luovaa tutkimista.

Wow @LMStudioAI on mahtava. Toimii vain. Asensin paikalliset mallit toimimaan NVidiassani ja se käynnistyi 10 minuutissa! SITTEN paikallinen välityspalvelin, joka teeskentelee olevansa OpenAI-päätepiste, ja kirjoitan C#-chat-sovelluksia lentokonetilassa! https://t.co/3ahw2p20Ty Helvetin lähes täydellinen sovellus #Ai #chatgpt pic.twitter.com/lCXITXUIfT

– Scott Hanselman? (@shanselman) Helmikuu 3, 2024

Esimerkiksi Hanselman kuvaili LM Studio AI:n käyttämistä paikallisen OpenAI-välityspalvelimen perustamiseen, jolloin hän voi rakentaa C#-chat-sovelluksia offline-tilassa. 

Vaikka Microsoft-lukujen viimeaikaiset twiitit herättivät uutta kiinnostusta, LM Studio AI on kerännyt tunnustusta eri lähteistä teknologiayhteisössä. Tämä YouTube-video esittelee alustan helppokäyttöisyyttä ja korostaa sen vetovoimaa yksilöihin, jotka ovat innokkaita sukeltamaan LLM:ien maailmaan.

Sinä voit saada sen tätä.