Google âm thầm ra mắt ứng dụng cho phép tải về và chạy mô hình AI trên thiết bị
Google ra mắt app chạy mô hình AI offline từ Hugging Face trên điện thoại.
Google đã phát hành một ứng dụng độc đáo, Google AI Edge Gallery, mang đến khả năng chạy các mô hình trí tuệ nhân tạo AI do nền tảng Hugging Face cung cấp trên các thiết bị di động. Ứng dụng này đột phá ở khả năng hoạt động mà không cần kết nối Internet, một điểm nhấn hấp dẫn cho người dùng muốn xử lý dữ liệu cá nhân trực tiếp trên thiết bị mà không phải gửi lên đám mây. Hiện tại, ứng dụng đã có sẵn cho Android và sẽ sớm ra mắt trên iOS, cho phép người dùng tận dụng khả năng xử lý mạnh mẽ của các dòng điện thoại hiện đại để thực hiện các tác vụ AI đa dạng.
Một điểm mạnh của Google AI Edge Gallery là chức năng đa dạng cho phép người dùng tải xuống và sử dụng các mô hình AI cho nhiều nhiệm vụ khác nhau như tạo ảnh, trả lời câu hỏi, và thậm chí là viết mã. Yếu tố thú vị là tất cả đều có thể thực hiện offline, sử dụng sức mạnh và hiệu suất từ chính bộ vi xử lý tích hợp trong thiết bị. Điều này không chỉ mở rộng thêm khả năng sử dụng AI mà còn đảm bảo tính bảo mật thông tin cho người dùng.
Google cũng đã mạnh dạn giới thiệu một khu vực trong ứng dụng gọi là "Prompt Lab", nơi người dùng có thể bắt đầu các tác vụ đơn giản như tóm tắt và viết lại văn bản, tất cả đều dễ dàng thực hiện chỉ với một lần nhấn. Khu vực này cũng cung cấp một bộ thiết lập tùy chỉnh sẵn sàng để người dùng có thể điều chỉnh hành vi của mô hình, từ đó tối ưu hóa cho nhu cầu cá nhân của từng người dùng. Đây là một bước cực kỳ tiện lợi và hiệu quả cho người dùng không chuyên về công nghệ khi tiếp cận với AI.
Trong ứng dụng này, một số tên mô hình tiêu biểu được gợi ý sử dụng bao gồm Gemma 3n của Google, một mô hình có khả năng xử lý các tác vụ trên điện thoại một cách nhanh chóng và hiệu quả. Tuy nhiên, Google cũng cảnh báo rằng hiệu suất của ứng dụng có thể biến đổi dựa trên phần cứng thiết bị và kích thước của mô hình AI được chọn. Những mô hình lớn hơn sẽ cần thời gian lâu hơn để hoàn thành các tác vụ phức tạp so với những mô hình kích thước nhỏ hơn.
Cuối cùng, Google kêu gọi sự tham gia của cả cộng đồng phát triển để góp ý kiến, đóng góp và thậm chí phát triển ứng dụng này trong tương lai. Với giấy phép Apache 2.0, mọi người có thể tự do sử dụng và phát triển ứng dụng trong các bối cảnh khác nhau, cho phép ứng dụng có khả năng mở rộng và cải thiện liên tục dựa trên nhu cầu thực tế từ thị trường.
Nguồn: TechCrunch