Những người đứng đầu nhóm Microsoft có vẻ thích LM Studio AI; tin đồn gì thế?

Hai nhân vật nổi bật tại Microsoft, Azure CTO Mark Russinovich và Phó chủ tịch cộng đồng nhà phát triển Scott Hanselmann gần đây đã lên Twitter để bày tỏ sự nhiệt tình của họ đối với LM Studio AI, một nền tảng để tải xuống và tương tác với các mô hình ngôn ngữ lớn (LLM) cục bộ trên máy tính của bạn. Nhưng chính xác thì LM Studio AI là gì và tại sao nó lại tạo ra tiếng vang tích cực như vậy?

Ứng dụng này để tải xuống và trò chuyện với LLM trên hệ thống cục bộ của bạn là một tác phẩm nghệ thuật: https://t.co/QHS8nXIjPY

- Mark Russinovich (@markrussinovich) 2 Tháng hai, 2024

Về cốt lõi, LM Studio AI là một ứng dụng nguồn mở trao quyền cho người dùng tận dụng sức mạnh của LLM mà không cần dựa vào các giải pháp dựa trên đám mây. Cách tiếp cận độc đáo này mang lại một số lợi thế, bao gồm:

• Bằng cách chạy LLM cục bộ, người dùng giữ toàn quyền kiểm soát dữ liệu của họ, giảm thiểu những lo ngại về quyền riêng tư trực tuyến và truy cập trái phép.
• Với khả năng xử lý cục bộ, LM Studio AI cho phép người dùng làm việc với LLM mà không cần kết nối internet, khiến nó đặc biệt hấp dẫn trong các tình huống có kết nối hạn chế hoặc không đáng tin cậy.
• Là một nền tảng mã nguồn mở, miễn phí, LM Studio AI loại bỏ các rào cản gia nhập, giúp nhiều đối tượng hơn có thể tiếp cận khám phá LLM. Ngoài ra, nó còn hỗ trợ nhiều mô hình LLM khác nhau, bao gồm Llama, MPT và StarCoder, cho phép người dùng điều chỉnh trải nghiệm của họ.

Ngoài khả năng truy cập, các tính năng của LM Studio AI còn gây được tiếng vang với các nhà phát triển như Hanselman, người đã nêu bật khả năng thiết lập nhanh chóng và khả năng tích hợp liền mạch với GPU NVIDIA cá nhân của mình. Chức năng này cho phép các nhà phát triển thử nghiệm LLM trong thời gian thực, thúc đẩy quá trình tạo mẫu nhanh và khám phá sáng tạo.

Ồ @LMStudioAI là tuyệt vời. Chỉ hoạt động. Tôi đã thiết lập các mô hình cục bộ chạy trên NVidia của mình và chạy sau 10 phút! SAU ĐÓ, một proxy cục bộ giả vờ là điểm cuối OpenAI và tôi đang viết ứng dụng trò chuyện C# ở chế độ trên máy bay! https://t.co/3ahw2p20Ty Ứng dụng gần như hoàn hảo #ai #chatgpt pic.twitter.com/lCXITXUIfT

- Scott Hanselman? (@shanselman) 3 Tháng hai, 2024

Ví dụ: Hanselman đã mô tả việc sử dụng LM Studio AI để thiết lập proxy OpenAI cục bộ, cho phép anh xây dựng các ứng dụng trò chuyện C# ngoại tuyến. 

Trong khi các dòng tweet gần đây từ các số liệu của Microsoft đã thu hút sự quan tâm mới, thì LM Studio AI đã nhận được sự công nhận từ nhiều nguồn khác nhau trong cộng đồng công nghệ. Video YouTube này thể hiện tính dễ sử dụng của nền tảng và nêu bật sự hấp dẫn của nó đối với những cá nhân mong muốn tìm hiểu sâu hơn về thế giới LLM.

Bạn có thể lấy nó tại đây.