Qualcomm kích hoạt mô hình ngôn ngữ lớn Meta Llama 3 trên các thiết bị sử dụng Snapdragon

Qualcomm Technologies và Meta vừa công bố sự hợp tác nhằm tối ưu hóa việc ứng dụng các mô hình ngôn ngữ lớn Meta Llama 3 (LLMs) trực tiếp trên điện thoại thông minh, máy tính, kính VR/AR, xe hơi và các thiết bị khác. Khả năng vận hành Llama 3 trên thiết bị mang lại nhiều ưu điểm, bao gồm: tốc độ phản ứng vượt trội, nâng cao tính bảo mật, độ tin cậy và trải nghiệm cá nhân hóa cho người dùng.

"Chúng tôi rất hoan nghênh sự hợp tác và hướng tiếp cận cởi mở của Meta với Meta Llama 3, chúng tôi cùng hướng đến cam kết hỗ trợ trao quyền cho các nhà phát triển và thúc đẩy tính tiên phong trong ứng dụng trí tuệ nhân tạo" - Durga Malladi, Phó Chủ tịch Cấp cao và Giám đốc Điều hành mảng Công nghệ, Kế hoạch và Giải pháp, Qualcomm Technologies chia sẻ - "Chúng tôi ngày càng mở rộng lợi ích của hệ sinh thái Llama trên toàn cầu, cho phép khách hàng, đối tác và các nhà phát triển tạo ra một trải nghiệm AI hoàn toàn mới".

Mối quan hệ hợp tác nhằm mục đích nâng cao khả năng tiếp cận các tính năng của AI tạo sinh (Gen AI) bằng cách cho phép các nhà sản xuất thiết bị (OEM) và nhà phát triển đưa Llama 3 vào vận hành các trên thiết bị sử dụng nền tảng Snapdragon thuộc hạng flagship sắp ra mắt của hãng. Việc sử dụng kiến trúc điện toán không đồng nhất (Heterogeneous Computing Architecture) tận dụng sức mạnh của các thành phần xử lý hàng đầu bao gồm CPU, GPU và NPU, kết hợp với kiến trúc bộ nhớ tân tiến, giúp các khách hàng, đối tác và nhà phát triển tối đa hóa hiệu suất ứng dụng, hiệu suất nhiệt độ và tuổi thọ pin.

Các nhà phát triển sẽ có quyền truy cập vào nguồn tài nguyên và công cụ để vận hành Llama 3 một cách tối ưu trên nền tảng Snapdragon thông qua Qualcomm AI Hub, cổng thông tin hiện đang cung cấp khoảng 100 mô hình AI được tối ưu hóa. Qualcomm AI Hub giúp các nhà phát triển thúc đẩy thời gian tung sản phẩm ra thị trường nhanh hơn, đồng thời mở khóa các tiện ích của AI trên thiết bị cho ứng dụng của họ.