Apple quan tâm công nghệ chạy mô hình AI 27 tỷ tham số trực tiếp trên iPhone, không cần máy chủ

Apple được cho là đã làm việc với startup PrismML, công ty đang phát triển công nghệ thu nhỏ những mô hình trí tuệ nhân tạo vốn thường cần máy chủ mạnh để có thể vận hành trực tiếp trên điện thoại.

Theo báo cáo từ The Information được 9to5Mac dẫn lại, PrismML tuyên bố đã đưa một phiên bản thu gọn của mô hình Qwen 3.6 với 27 tỷ tham số chạy trên iPhone 17 Pro. Apple đã tổ chức các cuộc gặp với startup này để trao đổi về những cách có thể ứng dụng công nghệ của họ.

Nếu công nghệ thực sự đáp ứng được hiệu năng, mức tiêu thụ năng lượng và chất lượng đầu ra như công bố, đây có thể là một hướng đi quan trọng giúp Apple đưa những khả năng AI mạnh hơn lên iPhone mà không phải gửi toàn bộ yêu cầu tới trung tâm dữ liệu.

Hiện chưa có xác nhận rằng Apple sẽ đầu tư, mua lại PrismML hoặc tích hợp công nghệ này vào iPhone. Thông tin mới chỉ cho thấy hai bên đã có những cuộc trao đổi về khả năng hợp tác.

PrismML đã đưa mô hình 27 tỷ tham số lên iPhone 17 Pro?

Theo báo cáo, PrismML đã thu nhỏ Qwen 3.6, một mô hình ngôn ngữ nguồn mở do Alibaba phát triển, để chạy trực tiếp trên iPhone 17 Pro.

Mô hình được nhắc đến có khoảng 27 tỷ tham số, trong khi phần lớn mô hình AI chạy trên điện thoại hiện chỉ kích hoạt vài tỷ tham số tại một thời điểm. PrismML cho biết phiên bản của mình vẫn có thể thực hiện những nhiệm vụ phức tạp, bao gồm hỗ trợ phát triển phần mềm.

Startup này dự kiến công bố mô hình nguồn mở vào ngày 14/7/2026, giúp cộng đồng nghiên cứu và nhà phát triển có cơ hội kiểm tra độc lập các tuyên bố về hiệu suất.

Tuy nhiên, số lượng tham số lớn không tự động đồng nghĩa mô hình thông minh hơn trong mọi tình huống. Chất lượng thực tế còn phụ thuộc vào:

• Kiến trúc mô hình.
• Chất lượng dữ liệu đào tạo.
• Cách nén và lượng tử hóa.
• Khả năng suy luận trên phần cứng cụ thể.
• Tốc độ tạo nội dung.
• Mức tiêu thụ RAM và pin.
• Độ chính xác sau khi thu nhỏ.

Vì vậy, cần chờ mô hình được phát hành và đánh giá độc lập trước khi kết luận đây là bước đột phá hoàn chỉnh.

PrismML là công ty nào?

PrismML là startup tập trung vào việc tăng “mật độ trí tuệ” của mô hình AI, tức duy trì năng lực xử lý trong khi giảm dung lượng bộ nhớ, năng lượng và tài nguyên phần cứng cần thiết.

Theo thông tin trên website công ty, các mô hình 1-bit Bonsai của PrismML có thể:

• Sử dụng bộ nhớ ít hơn khoảng 14 lần.
• Chạy nhanh hơn khoảng 8 lần.
• Tiêu thụ năng lượng thấp hơn khoảng 5 lần so với phiên bản độ chính xác đầy đủ tương ứng.

PrismML hiện cung cấp các mô hình Bonsai kích thước 1,7 tỷ, 4 tỷ và 8 tỷ tham số. Công ty cũng phát triển mô hình tạo ảnh Bonsai Image 4B để chạy cục bộ trên iPhone, Mac và GPU. Các số liệu hiệu suất này do PrismML công bố và cần được xem trong điều kiện thử nghiệm cụ thể của công ty.

Công nghệ của PrismML tập trung vào những mô hình có trọng số 1-bit hoặc ba mức -1, 0, 1, thay vì lưu mỗi trọng số bằng định dạng số có độ chính xác cao hơn.

Cách tiếp cận này có thể giảm đáng kể dung lượng mô hình, nhưng thách thức là phải hạn chế mức suy giảm chất lượng sau khi nén.

Mô hình 1-bit hoạt động như thế nào?

Mô hình AI thông thường phải lưu trữ hàng tỷ trọng số. Mỗi trọng số có thể sử dụng 16 bit, 8 bit hoặc một định dạng khác tùy cách triển khai.

Ví dụ mang tính minh họa, nếu một mô hình 27 tỷ tham số lưu mỗi tham số bằng 16 bit, riêng trọng số lý thuyết có thể cần khoảng 54GB bộ nhớ, chưa tính dữ liệu trung gian và tài nguyên phục vụ quá trình suy luận.

Một mô hình như vậy rõ ràng không thể được nạp theo phương pháp thông thường vào RAM của iPhone.

Lượng tử hóa 1-bit giảm mạnh lượng dữ liệu cần lưu bằng cách biểu diễn trọng số bằng số lượng trạng thái rất hạn chế. Điều này có thể đem lại ba lợi ích chính:

• Giảm dung lượng lưu trữ.
• Giảm lượng dữ liệu phải chuyển giữa bộ nhớ và bộ xử lý.
• Giảm mức tiêu thụ điện trong quá trình suy luận.

Đổi lại, quá trình nén quá mạnh có thể làm mất thông tin và giảm độ chính xác. Công nghệ cốt lõi của PrismML nằm ở việc thiết kế hoặc chuyển đổi mô hình sao cho vẫn giữ được năng lực hữu ích sau khi giảm độ chính xác của trọng số.

Apple đã gặp PrismML để làm gì?

The Information cho biết Apple đã tổ chức các cuộc gặp với PrismML để thảo luận về những cách hãng có thể sử dụng công nghệ của startup này. Báo cáo không nói rõ các cuộc trao đổi đã dẫn đến hợp đồng, khoản đầu tư hay kế hoạch mua lại nào.

Apple có thể quan tâm đến PrismML theo nhiều hướng:

• Cấp phép công nghệ nén mô hình.
• Tích hợp phương pháp tối ưu vào Apple Foundation Models.
• Hợp tác phát triển mô hình cho Apple silicon.
• Tuyển dụng đội ngũ nghiên cứu.
• Đầu tư chiến lược.
• Mua lại toàn bộ startup.

Đây mới là các khả năng suy luận dựa trên hoạt động phổ biến trong ngành công nghệ, không phải kế hoạch đã được Apple xác nhận.

Việc tổ chức cuộc gặp cũng chưa chắc đồng nghĩa thương vụ sẽ diễn ra. Các công ty công nghệ lớn thường đánh giá nhiều startup và giải pháp trước khi quyết định phát triển nội bộ, hợp tác hay mua lại.

Apple hiện đang chạy AI trên iPhone như thế nào?

Apple Intelligence sử dụng mô hình kết hợp giữa xử lý trực tiếp trên thiết bị và xử lý trên máy chủ.

Những yêu cầu phù hợp có thể được giải quyết ngay trên iPhone, iPad hoặc Mac. Với tác vụ phức tạp cần nhiều năng lực tính toán hơn, hệ thống có thể chuyển phần dữ liệu cần thiết sang Private Cloud Compute để xử lý bằng mô hình lớn hơn trên máy chủ. Apple cho biết dữ liệu gửi tới hệ thống này không được lưu trữ và không thể bị Apple truy cập.

Trong thế hệ mô hình được Apple công bố năm 2025, mô hình ngôn ngữ chạy trên thiết bị có quy mô khoảng 3 tỷ tham số và được tối ưu bằng các kỹ thuật như chia sẻ KV cache cùng lượng tử hóa nhận biết 2-bit.

Con số 27 tỷ tham số trong thử nghiệm của PrismML lớn gấp nhiều lần mô hình khoảng 3 tỷ tham số đó. Tuy nhiên, hai mô hình không thể được so sánh chỉ dựa vào số lượng tham số vì có thể khác nhau về kiến trúc, mục tiêu sử dụng, phương pháp lượng tử hóa và chất lượng đầu ra.

Vì sao Apple muốn đưa mô hình AI lớn hơn lên iPhone?

Tăng cường quyền riêng tư

Khi tác vụ được xử lý ngay trên thiết bị, nội dung của người dùng không cần rời khỏi iPhone.

Đây là lợi ích đặc biệt quan trọng với những dữ liệu như:

• Tin nhắn.
• Email.
• Hình ảnh cá nhân.
• Tài liệu công việc.
• Lịch trình.
• Thông tin liên hệ.
• Dữ liệu ứng dụng.

Apple xem xử lý trên thiết bị là nền tảng quan trọng trong chiến lược quyền riêng tư của Apple Intelligence.

Hoạt động khi không có mạng

Mô hình chạy cục bộ có thể tiếp tục xử lý một số nhiệm vụ khi thiết bị không kết nối Internet hoặc mạng không ổn định.

Điều này có thể hữu ích khi người dùng:

• Đi máy bay.
• Di chuyển tại khu vực sóng yếu.
• Không muốn dùng dữ liệu di động.
• Làm việc với nội dung nhạy cảm.
• Cần phản hồi tức thời.

Tuy nhiên, không phải mọi tính năng AI đều có thể hoạt động ngoại tuyến. Các tác vụ cần tìm kiếm thông tin mới hoặc truy cập dịch vụ trực tuyến vẫn cần kết nối mạng.

Giảm độ trễ

Việc gửi yêu cầu lên máy chủ, chờ xử lý rồi nhận kết quả trở lại tạo ra độ trễ phụ thuộc vào tốc độ mạng và tải hệ thống.

Xử lý trên thiết bị có thể mang lại phản hồi nhanh hơn cho những thao tác như:

• Viết lại câu.
• Tóm tắt nội dung.
• Phân loại dữ liệu.
• Trích xuất thông tin.
• Thực hiện lệnh trong ứng dụng.
• Hỗ trợ lập trình cục bộ.

Giảm phụ thuộc vào trung tâm dữ liệu

AI trên máy chủ đòi hỏi chi phí lớn cho GPU, điện năng, làm mát và hạ tầng mạng.

Nếu một phần lớn tác vụ được chuyển sang hàng triệu thiết bị người dùng, Apple có thể giảm lượng tài nguyên máy chủ cần thiết. Tuy nhiên, chi phí không biến mất mà được chuyển một phần sang yêu cầu phần cứng, bộ nhớ và pin của thiết bị.

AI lớn chạy trên iPhone sẽ gặp những giới hạn nào?

RAM

Một mô hình AI cần không chỉ dung lượng để lưu trọng số mà còn cần RAM cho KV cache, dữ liệu đầu vào và các phép tính trung gian.

Ngay cả khi được nén mạnh, mô hình 27 tỷ tham số vẫn có thể tạo áp lực lớn lên bộ nhớ thiết bị, đặc biệt khi iOS và các ứng dụng khác đang hoạt động cùng lúc.

Nhiệt độ

Suy luận AI liên tục có thể khiến chip và bộ nhớ hoạt động ở cường độ cao.

Nếu nhiệt độ tăng quá mức, iPhone có thể:

• Giảm hiệu năng để bảo vệ linh kiện.
• Giảm độ sáng màn hình.
• Tạo phản hồi chậm hơn.
• Tiêu hao pin nhanh.
• Làm gián đoạn tác vụ dài.

Thời lượng pin

Chạy AI cục bộ không có nghĩa tác vụ không tốn năng lượng. Ngược lại, các mô hình lớn có thể sử dụng CPU, GPU, Neural Engine và bộ nhớ trong thời gian dài.

PrismML tuyên bố công nghệ của mình tiết kiệm năng lượng đáng kể, nhưng vẫn cần đánh giá trên tác vụ thực tế, thời lượng dài và nhiều thế hệ iPhone khác nhau.

Dung lượng lưu trữ

Mô hình cài trên máy sẽ chiếm bộ nhớ trong.

Nếu mỗi mô hình cần vài gigabyte, người dùng phiên bản iPhone dung lượng thấp có thể phải đánh đổi không gian dành cho ảnh, video và ứng dụng.

Apple có thể giải quyết bằng cách tải mô hình theo nhu cầu, chia mô hình thành nhiều thành phần hoặc chỉ cài một số khả năng phù hợp với thiết bị.

Chất lượng sau khi nén

Một mô hình nhỏ hơn về dung lượng nhưng giảm độ chính xác quá nhiều sẽ không mang lại giá trị thực tế.

Các bài kiểm tra cần xem xét không chỉ điểm benchmark mà còn những vấn đề như:

• Khả năng làm theo hướng dẫn.
• Tỷ lệ đưa ra thông tin sai.
• Khả năng hiểu tiếng Việt.
• Độ chính xác khi viết mã.
• Khả năng xử lý ngữ cảnh dài.
• Mức độ an toàn.
• Tốc độ phản hồi duy trì theo thời gian.

Công nghệ này có thể giúp Siri thông minh hơn không?

Về lý thuyết, mô hình lớn hơn trên thiết bị có thể giúp Siri xử lý nhiều yêu cầu phức tạp hơn mà không cần phụ thuộc hoàn toàn vào máy chủ.

Một số khả năng có thể được cải thiện gồm:

• Hiểu câu lệnh tự nhiên.
• Duy trì ngữ cảnh hội thoại.
• Tóm tắt nội dung trên màn hình.
• Thực hiện nhiều bước trong ứng dụng.
• Phân tích tài liệu cá nhân.
• Hỗ trợ viết và chỉnh sửa nội dung.
• Tạo mã hoặc tự động hóa quy trình.

Tuy nhiên, Siri không chỉ phụ thuộc vào quy mô mô hình. Trải nghiệm còn cần hệ thống nhận dạng giọng nói, App Intents, quyền truy cập ứng dụng, dữ liệu ngữ cảnh, cơ chế sử dụng công cụ và các lớp an toàn.

Apple đã mở rộng Foundation Models framework để nhà phát triển có thể sử dụng mô hình Apple trên thiết bị, trong Private Cloud Compute hoặc tích hợp nhà cung cấp khác thông qua giao thức tương thích.

Công nghệ của PrismML nếu được Apple sử dụng có thể trở thành một thành phần trong kiến trúc này, chứ không nhất thiết thay thế toàn bộ Apple Intelligence.

AI chạy hoàn toàn trên thiết bị có thay thế đám mây không?

Khả năng cao là không.

Mô hình trên thiết bị phù hợp với những tác vụ cần tốc độ, quyền riêng tư và hoạt động ngoại tuyến. Mô hình máy chủ vẫn có lợi thế khi cần:

• Lượng tính toán rất lớn.
• Ngữ cảnh dài.
• Truy cập thông tin mới.
• Xử lý nhiều công cụ.
• Tạo hình ảnh hoặc video chất lượng cao.
• Thực hiện các tác vụ kéo dài.
• Phối hợp nhiều mô hình chuyên biệt.

Chiến lược hợp lý hơn là hệ thống lai:

1. iPhone xử lý những yêu cầu phù hợp ngay trên máy.
2. Private Cloud Compute tiếp nhận tác vụ phức tạp hơn.
3. Dịch vụ bên thứ ba được sử dụng khi người dùng cho phép và nhiệm vụ yêu cầu.

Apple hiện cũng áp dụng kiến trúc kết hợp giữa mô hình trên thiết bị và Private Cloud Compute.

Công nghệ nén tốt hơn có thể mở rộng phần công việc được xử lý trên iPhone, nhưng khó loại bỏ hoàn toàn nhu cầu sử dụng máy chủ.

Điều này có ý nghĩa gì với những thế hệ iPhone tương lai?

Nếu Apple áp dụng công nghệ tương tự PrismML, các thế hệ iPhone mới có thể được nâng cấp mạnh ở ba nhóm phần cứng:

RAM lớn hơn

Mô hình AI cần nhiều bộ nhớ, vì vậy RAM có thể trở thành yếu tố quan trọng không kém chip xử lý.

Sự khác biệt về RAM cũng có thể quyết định những tính năng AI nào được hỗ trợ trên từng đời iPhone.

Neural Engine mạnh hơn

Apple có thể tiếp tục nâng số lượng phép tính AI mà Neural Engine xử lý mỗi giây, đồng thời tối ưu GPU và băng thông bộ nhớ cho suy luận mô hình.

Tuy nhiên, hiệu suất AI không thể đánh giá chỉ bằng một con số TOPS. Phần mềm, kiến trúc mô hình và khả năng sử dụng bộ nhớ cũng rất quan trọng.

Bộ nhớ trong cao hơn

Nếu mô hình được lưu cục bộ, dung lượng 128GB có thể ngày càng hạn chế đối với người dùng muốn giữ nhiều dữ liệu và sử dụng các tính năng AI nâng cao.

Apple có thể phải tối ưu kích thước mô hình hoặc tăng dung lượng khởi điểm trên các thiết bị tương lai.

Apple có thể mua lại PrismML không?

Chưa có bằng chứng cho thấy một thương vụ mua lại đang diễn ra.

9to5Mac lưu ý rằng Apple từng thực hiện các thương vụ AI kín tiếng, trong đó có việc mua lại startup Q.ai với giá được báo cáo khoảng 2 tỷ USD. Tuy nhiên, việc Apple gặp PrismML không đủ để chứng minh hãng sẽ đi theo hướng tương tự.

Apple có thể chọn:

• Mua lại công ty.
• Đầu tư thiểu số.
• Cấp phép bằng sáng chế.
• Hợp tác nghiên cứu.
• Tuyển dụng nhân sự.
• Tự xây dựng công nghệ tương đương.

Lựa chọn cuối cùng sẽ phụ thuộc vào chất lượng công nghệ, quyền sở hữu trí tuệ, khả năng tích hợp với Apple silicon và chiến lược AI dài hạn của Apple.

Người dùng chưa nên kỳ vọng tính năng xuất hiện ngay

Ngay cả khi Apple đạt thỏa thuận với PrismML, việc đưa công nghệ lên sản phẩm thương mại có thể cần nhiều thời gian.

Apple sẽ phải kiểm tra:

• Độ ổn định trên nhiều thiết bị.
• Tác động đến pin và nhiệt độ.
• Chất lượng ở nhiều ngôn ngữ.
• Khả năng bảo vệ dữ liệu.
• Rủi ro nội dung sai hoặc nguy hiểm.
• Khả năng tương thích với iOS.
• Hiệu suất khi nhiều ứng dụng cùng hoạt động.

Do đó, chưa có cơ sở để khẳng định công nghệ này sẽ xuất hiện trên iPhone 18, iOS 27 hay một phiên bản Siri cụ thể.

Apple được cho là đã gặp startup PrismML để tìm hiểu công nghệ chạy mô hình AI lớn trực tiếp trên iPhone.

PrismML tuyên bố đã đưa phiên bản thu gọn của Qwen 3.6 với 27 tỷ tham số lên iPhone 17 Pro và vẫn hỗ trợ những nhiệm vụ phức tạp như lập trình. Công ty tập trung vào mô hình 1-bit và các phương pháp giúp giảm bộ nhớ, tăng tốc độ, đồng thời tiết kiệm năng lượng.

Công nghệ này có thể giúp Apple tăng quyền riêng tư, giảm độ trễ và đưa thêm khả năng AI hoạt động ngoại tuyến. Tuy nhiên, những thách thức về RAM, pin, nhiệt độ, dung lượng lưu trữ và chất lượng sau khi nén vẫn cần được kiểm chứng.

Hiện chưa có thông tin Apple sẽ mua lại PrismML hoặc đưa công nghệ này vào sản phẩm cụ thể. Người dùng nên xem đây là dấu hiệu về hướng nghiên cứu tiềm năng của Apple, thay vì một tính năng đã được xác nhận.

Bạn đang cần nâng cấp iPhone, iPad hoặc MacBook để sử dụng những tính năng AI mới? Hãy đến Di Động 3 Tốt để được tư vấn sản phẩm phù hợp với nhu cầu và ngân sách.

📍 Cơ sở 1: 41 Quang Trung, TP. Thái Bình, Hưng Yên
📍 Cơ sở 2: 145 Quang Trung, TP. Thái Bình, Hưng Yên
☎️ Hotline: 0828.17.17.17
💬 Liên hệ nhanh: Fanpage và Zalo Di Động 3 Tốt

Di Động 3 Tốt – Chất lượng tốt nhất – Giá thành tốt nhất – Hậu mãi tốt nhất.