Microsoft 팀장은 LM Studio AI를 좋아하는 것 같습니다. 무슨 소문이야?

Microsoft의 두 저명한 인물, Azure CTO 마크 루시 노 비치 개발자 커뮤니티 부사장 스콧 한셀 만 컴퓨터에서 로컬로 LLM(대형 언어 모델)을 다운로드하고 상호 작용할 수 있는 플랫폼인 LM Studio AI에 대한 열정을 표현하기 위해 최근 Twitter를 방문했습니다. 그런데 LM Studio AI란 정확히 무엇이며 왜 그렇게 긍정적인 반응을 불러일으키는 걸까요?

로컬 시스템에서 LLM을 다운로드하고 채팅할 수 있는 이 앱은 예술 작품입니다. https://t.co/QHS8nXIjPY

— 마크 루시노비치(@markrussinovich) 2024년 ２월 2일

핵심적으로 LM Studio AI는 사용자가 클라우드 기반 솔루션에 의존하지 않고도 LLM의 기능을 활용할 수 있도록 지원하는 오픈 소스 애플리케이션입니다. 이 독특한 접근 방식은 다음과 같은 여러 가지 이점을 제공합니다.

• LLM을 로컬에서 실행함으로써 사용자는 자신의 데이터에 대한 완전한 제어권을 유지하고 온라인 개인 정보 보호 및 무단 액세스에 대한 우려를 완화합니다.
• 로컬 처리 기능을 갖춘 LM Studio AI를 사용하면 사용자가 인터넷 연결 없이 LLM으로 작업할 수 있으므로 연결이 제한되거나 불안정한 상황에 특히 유용합니다.
• 무료 오픈 소스 플랫폼인 LM Studio AI는 진입 장벽을 제거하여 더 많은 사람들이 LLM 탐색에 액세스할 수 있도록 해줍니다. 또한 Llama, MPT 및 StarCoder를 포함한 다양한 LLM 모델에 대한 지원을 통해 사용자는 자신의 경험을 맞춤화할 수 있습니다.

접근성 외에도 LM Studio AI의 기능은 빠른 설정과 개인 NVIDIA GPU와의 원활한 통합을 강조한 Hanselman과 같은 개발자의 반향을 불러일으켰습니다. 이 기능을 통해 개발자는 LLM을 실시간으로 실험하여 신속한 프로토타입 제작과 창의적인 탐색을 촉진할 수 있습니다.

와우 @LM스튜디오AI 정말 놀랍습니다. 그냥 작동합니다. 내 NVidia에서 실행되는 로컬 모델을 설정했고 10분 만에 실행되었습니다! 그런 다음 OpenAI 엔드포인트인 척하는 로컬 프록시를 사용하고 비행기 모드에서 C# 채팅 앱을 작성하고 있습니다! https://t.co/3ahw2p20Ty 거의 완벽한 앱이네요 #일체 포함 #chatgpt pic.twitter.com/lCXITXUIfT

— 스캇 핸셀먼? (@샨셀만) 2024년 ２월 3일

예를 들어 Hanselman은 LM Studio AI를 활용하여 로컬 OpenAI 프록시를 설정하고 C# 채팅 애플리케이션을 오프라인으로 구축할 수 있다고 설명했습니다. 

최근 Microsoft 인물의 트윗이 새로운 관심을 불러일으켰지만 LM Studio AI는 기술 커뮤니티 내의 다양한 소스로부터 인정을 받았습니다. 이 유튜브 영상 플랫폼의 사용 용이성을 보여주고 LLM의 세계를 탐구하려는 개인에게 매력을 강조합니다.

당신은 그것을 얻을 수 있습니다 여기에서 지금 확인해 보세요..