Uptime Industries muốn tăng cường sử dụng AI địa phương hóa với sản phẩm ‘AI-in-a-box’ mang tên Lemony AI
Uptime Industries giới thiệu Lemony AI, thiết bị 'AI-in-a-box', nâng cao khả năng AI địa phương, tiết kiệm năng lượng, liên kết nhiều mô hình AI.
Uptime Industries đã giới thiệu một sản phẩm đột phá trong lĩnh vực trí tuệ nhân tạo với thiết bị 'AI-in-a-box' có tên là Lemony AI. Thiết bị này được thiết kế để cung cấp cơ sở hạ tầng AI ngay tại chỗ, không cần dựa vào các dịch vụ đám mây bên ngoài, và nhấn mạnh tính địa phương hóa trong việc vận dụng công nghệ AI. Với kích thước tương đương một chiếc bánh sandwich, Lemony AI có khả năng chạy các mô hình ngôn ngữ lớn (LLM), các tác nhân AI và quy trình công việc AI chỉ trên một nút duy nhất. Thiết bị này chỉ cần 65 watt năng lượng để hoạt động, mức tiêu thụ tương đương việc sạc một máy tính xách tay. Nếu cần thiết, các thiết bị Lemony có thể được kết nối với nhau để tạo ra cụm AI lớn hơn, tăng cường sức mạnh tính toán mà vẫn đảm bảo sự an toàn và bảo mật của dữ liệu.
Sascha Buehrle, đồng sáng lập và CEO của Uptime Industries, cho biết mỗi nút của Lemony có thể hỗ trợ các mô hình ngôn ngữ đến 75 tỷ tham số, và có thể chứa các mô hình nguồn mở cũng như các phiên bản mô hình đóng đã được điều chỉnh lại. Công ty đã thiết lập quan hệ đối tác với IBM và JetBrains nhằm cung cấp các mô hình AI nhanh chóng và dễ dàng hơn, đặc biệt là các mô hình đóng của IBM. Ý tưởng cho Lemony AI bắt nguồn từ một dự án phụ của các nhà sáng lập Uptime khi họ tìm cách phân phối các mô hình ngôn ngữ trên các máy tính siêu nhỏ Raspberry Pi, và dần dần mở rộng khả năng xử lý của chúng khi thành công.
Uptime Industries đã nhận được sự quan tâm lớn từ các doanh nghiệp trong các ngành công nghiệp có quy định nghiêm ngặt như tài chính, chăm sóc sức khỏe và luật pháp. Thiết bị Lemony AI không chỉ giải quyết vấn đề bảo mật và quyền riêng tư mà còn tạo điều kiện để các tổ chức có thể nhanh chóng thông qua AI mà không cần đưa ra các quyết định tổng thể trong phạm vi toàn tổ chức. Đây chính là chiến lược mà Sascha Buehrle đề cập: “chúng tôi cần xây dựng một thứ gì đó nhỏ gọn, có thể dễ dàng tích hợp vào các nhóm, và không yêu cầu quyết định tổ chức rộng rãi.”
Với sự dẫn dắt của True Ventures trong vòng gọi vốn hạt giống, Uptime đã huy động được 2 triệu USD từ các nhà đầu tư tiềm năng khác như Alumni Ventures và JetBrains, cùng một số nhà đầu tư thiên thần. Mục tiêu chính của quỹ tài trợ này là để phát triển thêm các thiết bị, nâng cao tính năng phần mềm Lemony OS để hoạt động trên phần cứng của các công ty khác, như Nvidia DGX Spark, cũng như mở rộng từ nền tảng chỉ dành cho một người dùng sang một nền tảng có thể hỗ trợ cả nhóm làm việc.
Uptime đang lên kế hoạch mở rộng khả năng của Lemony AI để phục vụ nhiều người dùng hơn, hiện tại thiết bị thu phí 499 USD mỗi tháng và hỗ trợ tối đa năm người dùng. Bên cạnh đó, công ty cũng có ý định mở rộng phần mềm cho các thiết bị AI vi mô để có thể hoạt động trên phần cứng của các hãng khác nhằm thu hút thêm các khách hàng tiềm năng.
Nguồn: TechCrunch, SiliconANGLE, Uptime Industries website