Azure AI Search hiện tăng dung lượng lưu trữ, kích thước chỉ mục vectơ. Đây là những gì đã thay đổi

Microsoft vừa mới được công bố gần đây rằng nó đang mở rộng dung lượng lưu trữ và kích thước chỉ mục vectơ của Azure AI Search, công cụ hỗ trợ AI phổ biến dành cho các nhà phát triển.

Thông báo được đưa ra ngay khi ứng dụng RAG ra mắt vào năm 2024, vì vậy mọi người cần truy xuất một cách tiết kiệm chi phí. Giờ đây, ở một số khu vực nhất định, các dịch vụ cấp Cơ bản và Tiêu chuẩn mới cung cấp nhiều không gian lưu trữ và sức mạnh xử lý hơn, đặc biệt là để tìm vectơ, văn bản và siêu dữ liệu. Bản cập nhật này giúp cắt giảm đáng kể chi phí, với giá mỗi vectơ giảm khoảng 85% và chi phí lưu trữ tổng thể giảm tới 75% hoặc hơn. 

Những nâng cấp này cũng có nghĩa là bạn có thể lưu trữ nhiều dữ liệu hơn trên mỗi phân vùng, có chỉ mục vectơ lớn hơn và tận hưởng hiệu suất nhanh hơn cho các tác vụ như lập chỉ mục và tìm kiếm.

Công ty cũng cải thiện cách hoạt động của tìm kiếm vector và tiết kiệm dung lượng lưu trữ. Giờ đây, bạn có thể sử dụng các kỹ thuật như lượng tử hóa và lấy mẫu quá mức, đồng thời điều chỉnh cài đặt để giảm mức sử dụng bộ nhớ tới 75%. Ngoài ra, việc đặt thuộc tính “Đã lưu trữ” trên các trường vectơ có thể giảm thêm chi phí lưu trữ

Azure AI Search là công cụ giúp dễ dàng tạo các tính năng tìm kiếm nâng cao và ứng dụng hỗ trợ AI bằng cách kết hợp các mô hình ngôn ngữ với dữ liệu kinh doanh. Nó giúp các nhà phát triển xây dựng các chức năng tìm kiếm cho ứng dụng di động hoặc web, cho dù là cho công ty của họ hay cho phần mềm mà họ đang cung cấp dưới dạng dịch vụ.

Cách đây không lâu, Microsoft cũng cho biết mẫu Command R+ mới của Cohere bây giờ đã có là một trong hàng trăm mô hình ngôn ngữ trong Azure AI. Mẫu xe vừa ra mắt hôm nay có thông số 104B và được cho là tốt hơn và rẻ hơn GPT-4 Turbo.

Bạn có thể tìm thêm chi tiết về công suất tăng lên tại đây.