Giải mã AI PC: Chúng thực sự làm được gì?

Sự thật về phần cứng đằng sau những lời quảng cáo

Ngành công nghệ luôn vận hành theo các chu kỳ định nghĩa phần cứng. Chúng ta từng chứng kiến kỷ nguyên của PC đa phương tiện và ultrabook. Giờ đây, mọi nhà sản xuất lớn đều đang nói về AI PC. Về cốt lõi, AI PC đơn giản là một chiếc máy tính được trang bị một phần cứng chuyên dụng gọi là Neural Processing Unit (NPU). Con chip này được thiết kế đặc biệt để xử lý các phép tính toán học phức tạp cần thiết cho các tác vụ machine learning. Trong khi máy tính hiện tại của bạn có thể chạy các chương trình AI cơ bản bằng CPU hoặc GPU, thì việc này thường gây nóng máy và hao pin đáng kể. AI PC thay đổi điều đó bằng cách chuyển các khối lượng công việc này sang một bộ xử lý chuyên dụng hiệu quả hơn nhiều. Điều này có nghĩa là laptop của bạn có thể thực hiện các tác vụ nâng cao như dịch ngôn ngữ thời gian thực hoặc chỉnh sửa hình ảnh phức tạp mà không làm quạt quay vù vù hay cạn sạch pin chỉ trong một giờ.

Lợi ích tức thì cho người dùng phổ thông không phải là một chiếc máy tính tự suy nghĩ. Thay vào đó, nó là một cỗ máy xử lý các tác vụ nền một cách thông minh hơn. Bạn sẽ thấy điều này qua chất lượng cuộc gọi video tốt hơn, nơi phần cứng giúp loại bỏ tiếng ồn nền và giữ bạn luôn ở giữa khung hình mà không làm chậm các ứng dụng khác. Đó là việc chuyển dịch gánh nặng của AI từ các trung tâm dữ liệu khổng lồ trên cloud trực tiếp xuống thiết bị trên đùi bạn. Sự thay đổi này hứa hẹn thời gian phản hồi nhanh hơn và bảo mật tốt hơn vì dữ liệu của bạn không bao giờ phải rời khỏi ổ cứng để xử lý. Đây là thay đổi cơ bản trong cách phần mềm tương tác với phần cứng. Lần đầu tiên sau một thập kỷ, các thành phần vật lý của máy tính đang được thiết kế lại để đáp ứng nhu cầu cụ thể của phần mềm tạo sinh và các mô hình suy luận cục bộ.

Bộ máy bên dưới nắp máy

Để hiểu điều gì làm cho những cỗ máy này khác biệt, bạn phải nhìn vào ba trụ cột của điện toán hiện đại. CPU là bộ xử lý đa năng xử lý hệ điều hành và các chỉ dẫn cơ bản. GPU là chuyên gia quản lý pixel và đồ họa phức tạp. NPU là thành viên mới xuất sắc trong việc xử lý song song ở mức tiêu thụ điện năng thấp. Con chip thứ ba này được tối ưu hóa cho loại toán học cụ thể mà các mạng thần kinh sử dụng, bao gồm hàng tỷ phép nhân và cộng đơn giản. Bằng cách giảm tải các tác vụ này cho NPU, phần còn lại của hệ thống vẫn mát mẻ và phản hồi nhanh. Đây không chỉ là một bản nâng cấp nhỏ, mà là một sự thay đổi cấu trúc trong cách bố trí silicon. Intel, Qualcomm và AMD đều đang cạnh tranh để xem ai có thể tích hợp NPU hiệu quả nhất vào các bộ vi xử lý di động mới nhất của họ.

Hầu hết mọi người đánh giá quá cao những gì phần cứng này sẽ làm ngay từ ngày đầu. Họ mong đợi một trợ lý kỹ thuật số quản lý toàn bộ cuộc sống của mình. Trên thực tế, lợi ích hiện tại tinh tế hơn nhiều. Các nhà phát triển phần mềm chỉ mới bắt đầu viết các ứng dụng có thể giao tiếp với những con chip mới này. Hiện tại, NPU chủ yếu được sử dụng cho “Windows Studio Effects” hoặc các tính năng chuyên biệt trong các bộ công cụ sáng tạo như Adobe Premiere. Giá trị thực sự nằm ở suy luận trên thiết bị (on-device inference). Điều này có nghĩa là chạy một mô hình ngôn ngữ lớn cục bộ. Thay vì gửi một tài liệu riêng tư lên server để tóm tắt, bạn có thể thực hiện ngay trên máy của mình. Điều này loại bỏ độ trễ khi chờ server phản hồi và đảm bảo thông tin nhạy cảm của bạn được bảo mật. Khi ngày càng nhiều nhà phát triển áp dụng các tiêu chuẩn này, danh sách các tính năng được hỗ trợ sẽ phát triển từ việc làm mờ nền đơn giản đến tự động hóa cục bộ phức tạp và các công cụ tạo sinh hoạt động mà không cần kết nối internet.

Các nhãn quảng cáo có thể gây nhầm lẫn. Bạn có thể thấy các thuật ngữ như Copilot Plus hoặc phần cứng AI-native. Đây chủ yếu là các bài tập xây dựng thương hiệu để cho bạn biết rằng máy đáp ứng một ngưỡng sức mạnh xử lý nhất định. Ví dụ, Microsoft yêu cầu một hiệu suất NPU cụ thể trước khi một chiếc laptop có thể mang thương hiệu AI cao cấp của họ. Điều này đảm bảo máy có thể xử lý các tính năng sắp tới của hệ điều hành Windows vốn dựa vào việc xử lý nền liên tục. Nếu bạn mua máy tính hôm nay, về cơ bản bạn đang đầu tư vào một tương lai nơi phần mềm được xây dựng xung quanh các khả năng cục bộ này. Đó là sự khác biệt giữa một cỗ máy khó lòng chạy nổi phần mềm mới nhất và một cỗ máy được xây dựng để phát triển trong thế giới của machine learning cục bộ.

Sự thay đổi sức mạnh điện toán toàn cầu

Nỗ lực thúc đẩy AI cục bộ có tác động to lớn đến nền kinh tế công nghệ toàn cầu. Trong vài năm qua, chúng ta phụ thuộc nặng nề vào các nhà cung cấp cloud. Điều này tạo ra nút thắt cổ chai nơi chỉ những người có internet nhanh, ổn định mới có thể sử dụng các công cụ mạnh mẽ nhất. Bằng cách chuyển sức mạnh này xuống thiết bị, các nhà sản xuất đang dân chủ hóa quyền truy cập vào điện toán cao cấp. Một nhà nghiên cứu ở vùng sâu vùng xa hoặc một du khách trên chuyến bay dài giờ đây có thể truy cập cùng mức độ hỗ trợ vốn trước đây bị khóa sau kết nối tốc độ cao. Điều này làm giảm khoảng cách kỹ thuật số giữa các trung tâm đô thị kết nối tốt và phần còn lại của thế giới. Nó cũng giảm chi phí năng lượng khổng lồ liên quan đến việc vận hành các trang trại server khổng lồ cho mỗi truy vấn đơn giản.

Quyền riêng tư là động lực toàn cầu khác. Các khu vực khác nhau có luật khác nhau về nơi dữ liệu có thể được lưu trữ và xử lý. Liên minh Châu Âu có các quy tắc nghiêm ngặt thường xung đột với cách các công ty cloud của Mỹ hoạt động. AI PC giải quyết nhiều vấn đề pháp lý này bằng cách giữ dữ liệu trong phạm vi thiết bị của người dùng. Điều này làm cho những cỗ máy này đặc biệt hấp dẫn đối với các cơ quan chính phủ và nhà cung cấp dịch vụ chăm sóc sức khỏe, những người xử lý hồ sơ nhạy cảm. Họ có thể sử dụng các công cụ hiện đại mà không lo lắng về rò rỉ dữ liệu hoặc các vấn đề tuân thủ quốc tế. Sự chuyển dịch sang xử lý cục bộ này là phản ứng trực tiếp đối với nhu cầu ngày càng tăng của thế giới về chủ quyền dữ liệu và quyền riêng tư cá nhân.

Chúng ta cũng đang thấy sự thay đổi trong cách phần cứng được sản xuất và bán trên toàn thế giới. Cuộc đua xây dựng NPU tốt nhất đã mang lại những người chơi mới vào thị trường laptop. Qualcomm hiện là đối thủ lớn của Intel và AMD bằng cách sử dụng kiến trúc ưu tiên di động vốn vượt trội trong các tác vụ AI. Sự cạnh tranh này tốt cho người tiêu dùng vì nó làm giảm giá thành và thúc đẩy đổi mới nhanh hơn. Mọi khu vực lớn từ Châu Á đến Bắc Mỹ hiện đang chạy đua để đảm bảo chuỗi cung ứng cho các con chip chuyên dụng này. AI PC không chỉ là một sản phẩm. Nó là trọng tâm của một chiến lược toàn cầu mới nhằm làm cho điện toán trở nên kiên cường hơn và ít phụ thuộc vào các cấu trúc quyền lực tập trung. Quá trình chuyển đổi này có khả năng sẽ định hình thập kỷ tiếp theo của ngành công nghiệp điện tử khi mọi thiết bị từ điện thoại đến server đều áp dụng các loại silicon chuyên dụng tương tự.

Sống cùng trí tuệ cục bộ

Hãy tưởng tượng một ngày làm việc điển hình với một cỗ máy tự xử lý suy luận. Bạn bắt đầu buổi sáng bằng cách mở hàng tá email lộn xộn. Thay vì đọc từng cái, bạn yêu cầu hệ thống cục bộ tóm tắt các mục hành động chính. Điều này xảy ra ngay lập tức vì mô hình đã được tải sẵn trong bộ nhớ hệ thống của bạn. Trong một cuộc họp video, NPU đang làm việc chăm chỉ để giữ mắt bạn nhìn vào camera ngay cả khi bạn đang liếc nhìn ghi chú. Nó lọc bỏ tiếng chó sủa ở nền và dịch một đồng nghiệp đang nói bằng ngôn ngữ khác trong thời gian thực. Tất cả những điều này xảy ra mà không làm laptop nóng lên hay tiếng quạt át mất giọng nói của bạn. Đây là khía cạnh thực tế của công nghệ mà thường bị mất đi trong những lời thổi phồng.

Vào buổi chiều, bạn có thể cần chỉnh sửa ảnh cho một bài thuyết trình. Trước đây, bạn phải chọn thủ công các đối tượng hoặc sử dụng công cụ dựa trên cloud mất thời gian xử lý. Với AI PC, bạn chỉ cần gõ lệnh để xóa nền hoặc thay đổi ánh sáng. Phần cứng cục bộ xử lý các phép toán nặng và các thay đổi xuất hiện khi bạn gõ. Sau đó, bạn đang làm việc trên một báo cáo tài chính nhạy cảm. Bạn sử dụng một trợ lý cục bộ để kiểm tra lỗi và gợi ý cách diễn đạt tốt hơn. Vì quá trình xử lý là cục bộ, bạn không phải lo lắng về dữ liệu bí mật của công ty mình bị sử dụng để huấn luyện một mô hình công cộng. Cỗ máy giống như một phần mở rộng riêng tư của bộ não bạn hơn là một cổng kết nối đến một server xa xôi. Mức độ tích hợp này thay đổi nhịp điệu làm việc bằng cách loại bỏ những ma sát nhỏ thường làm chậm chúng ta.

Ngày kết thúc với một chút công việc sáng tạo. Bạn muốn tạo một số concept art cho dự án cá nhân. Bạn mở một trình tạo ảnh cục bộ và tạo ra nhiều bản nháp chất lượng cao trong vài giây. Không có phí đăng ký và không phải chờ đợi trong hàng đợi sau những người dùng khác. Hiệu suất nhất quán bất kể tốc độ internet của bạn. Đây là tác động thực tế của việc có khả năng phần cứng hiện đại trong tầm tay. Nó không phải là một tính năng lớn mà là hàng trăm cải tiến nhỏ giúp máy tính cảm thấy có năng lực hơn. Cỗ máy không còn chỉ là một công cụ thụ động. Nó trở thành một đối tác tích cực dự đoán những gì bạn cần và xử lý các phần tẻ nhạt của cuộc sống kỹ thuật số. Dưới đây là một số cách phổ biến mà những cỗ máy này được sử dụng ngày nay:

• Chạy các mô hình ngôn ngữ cục bộ để phân tích và soạn thảo tài liệu riêng tư.
• Nâng cao luồng video và âm thanh với xử lý nền tiêu thụ điện năng thấp.
• Tự động hóa các tác vụ chỉnh sửa ảnh và video lặp đi lặp lại thông qua các plugin chuyên dụng.
• Cung cấp các tính năng hỗ trợ tiếp cận thời gian thực như phụ đề trực tiếp và theo dõi mắt.

Đến khi bạn đóng laptop vào buổi tối, bạn vẫn còn nhiều pin. Đây có lẽ là phần bị đánh giá thấp nhất của trải nghiệm. Vì NPU rất hiệu quả, thời lượng pin trên những cỗ máy mới này thường vượt quá những gì chúng ta nghĩ là có thể đối với các laptop mạnh mẽ. Bạn không chỉ nhận được nhiều trí thông minh hơn. Bạn nhận được nhiều sự linh hoạt hơn. Khả năng thực hiện công việc cao cấp trong quán cà phê hoặc trên tàu mà không cần tìm ổ cắm điện là một cải tiến lớn về chất lượng cuộc sống. Nó thay đổi cách chúng ta nghĩ về nơi và khi nào chúng ta có thể làm việc hiệu quả. AI PC về cơ bản là chiếc laptop đầu tiên không bắt bạn phải chọn giữa sức mạnh và tính di động. Nó cung cấp một trải nghiệm cân bằng phù hợp với lối sống di động hiện đại mà không có những thỏa hiệp thông thường.

Những câu hỏi khó cho kỷ nguyên AI

Mặc dù phần cứng rất ấn tượng, chúng ta phải đặt câu hỏi đâu là chi phí ẩn. Liệu việc thúc đẩy AI PC có phải chỉ là cách để các nhà sản xuất ép buộc một chu kỳ nâng cấp mới? Hầu hết các tính năng được quảng cáo ngày nay về mặt kỹ thuật có thể chạy trên phần cứng cũ hơn nếu phần mềm được tối ưu hóa khác đi. Chúng ta phải tự hỏi liệu chúng ta có đang tạo ra một núi rác thải điện tử bằng cách thuyết phục mọi người rằng laptop hai năm tuổi của họ đột nhiên trở nên lỗi thời. Cũng có câu hỏi về đo từ xa và thu thập dữ liệu. Ngay cả khi quá trình xử lý là cục bộ, các công ty này đang thu thập bao nhiêu siêu dữ liệu về cách chúng ta sử dụng các công cụ này? Một cỗ máy liên tục quan sát và lắng nghe để giúp bạn cũng là một cỗ máy liên tục thu thập thông tin về thói quen của bạn.

Một mối quan tâm khác là “thuế AI” trên giá phần cứng. Những con chip mới này và bộ nhớ bổ sung cần thiết để chạy các mô hình cục bộ hiệu quả đang làm cho laptop đắt hơn. Liệu lợi ích có xứng đáng với hàng trăm đô la tăng thêm cho một sinh viên hoặc nhân viên văn phòng bình thường? Chúng ta cũng phải xem xét tác động môi trường của việc sản xuất những con chip phức tạp này. Năng lượng tiết kiệm được trong quá trình sử dụng có thể bị bù đắp bởi dấu chân carbon của quy trình sản xuất. Hơn nữa, chúng ta nên hoài nghi về sự khóa chặt phần mềm đi kèm với những cỗ máy này. Nếu một tính năng cụ thể chỉ hoạt động trên một thương hiệu bộ xử lý, chúng ta đang tiến tới một hệ sinh thái phân mảnh nơi lựa chọn phần cứng của bạn quyết định phần mềm bạn có thể sử dụng. Điều này có thể hạn chế lựa chọn của người tiêu dùng và kìm hãm bản chất mở của điện toán cá nhân mà chúng ta đã tận hưởng trong nhiều thập kỷ.

Kiến trúc của suy luận trên thiết bị

Đối với những người muốn hiểu khía cạnh kỹ thuật, chỉ số quan trọng nhất là TOPS. Nó viết tắt của Trillions of Operations Per Second (nghìn tỷ phép tính mỗi giây). Trong khi một CPU tiêu chuẩn có thể xử lý vài TOPS, một NPU hiện đại được kỳ vọng sẽ cung cấp 40 hoặc nhiều hơn. Sức mạnh thô này là vô ích nếu không có các lớp phần mềm phù hợp. Các nhà phát triển sử dụng các framework như OpenVINO hoặc Windows ML để giao tiếp với phần cứng. Các API này đóng vai trò là cầu nối cho phép một ứng dụng duy nhất chạy trên các loại silicon khác nhau. Thách thức hiện tại là băng thông bộ nhớ. Chạy một mô hình lớn đòi hỏi phải di chuyển nhiều dữ liệu nhanh chóng giữa bộ nhớ lưu trữ và bộ xử lý. Đây là lý do tại sao nhiều AI PC đang xuất xưởng với lượng RAM nhanh hơn và lớn hơn làm tiêu chuẩn. Bạn có thể tìm thêm chi tiết về các yêu cầu này tại trung tâm kỹ thuật Intel hoặc bằng cách xem xét các tiêu chuẩn phần cứng của Microsoft cho các thiết bị mới.

Bộ nhớ lưu trữ cục bộ cũng đóng một vai trò quan trọng. Các mô hình ngôn ngữ lớn có thể chiếm vài gigabyte dung lượng. Để giữ cho hệ thống nhanh nhạy, các nhà sản xuất đang sử dụng các ổ đĩa NVMe tốc độ cao có thể cung cấp dữ liệu cho NPU mà không bị nghẽn. Cũng có vấn đề về điều tiết nhiệt (thermal throttling). Mặc dù NPU hiệu quả, nó vẫn tạo ra nhiệt khi bị đẩy đến giới hạn. Các kỹ sư đang thiết kế các giải pháp làm mát mới ưu tiên khu vực xung quanh NPU để đảm bảo hiệu suất nhất quán trong các tác vụ dài. Nếu bạn là người dùng chuyên nghiệp, bạn nên tìm kiếm những cỗ máy cung cấp ít nhất 16GB bộ nhớ thống nhất và bộ xử lý đáp ứng các tiêu chuẩn công nghiệp mới nhất. Bạn có thể kiểm tra dữ liệu hiệu suất mới nhất từ các báo cáo kiến trúc của Qualcomm để xem các con chip khác nhau so sánh như thế nào trong thử nghiệm thực tế. Các yêu cầu kỹ thuật cho một AI PC hiện như sau:

• Một NPU chuyên dụng có khả năng đạt ít nhất 40 TOPS cho các tính năng nâng cao.
• Tối thiểu 16GB RAM tốc độ cao để hỗ trợ tải mô hình cục bộ.
• Firmware quản lý năng lượng tiên tiến để cân bằng tải NPU và CPU.
• Hỗ trợ hệ điều hành cho các framework và API xử lý thần kinh.

Tích hợp quy trình làm việc là mảnh ghép cuối cùng của câu đố. Không đủ nếu chỉ có phần cứng. Phần mềm phải biết cách sử dụng nó. Chúng ta đang thấy sự chuyển dịch sang “AI lai” (hybrid AI), nơi hệ thống quyết định xem có nên xử lý một tác vụ cục bộ hay trên cloud dựa trên độ phức tạp và năng lượng sẵn có. Điều này đòi hỏi một lớp điều phối tinh vi trong hệ điều hành. Đối với các nhà phát triển, điều này có nghĩa là học những cách mới để tối ưu hóa mã của họ cho xử lý song song. Quá trình chuyển đổi tương tự như khi chúng ta chuyển từ bộ xử lý đơn nhân sang đa nhân. Cần thời gian để hệ sinh thái phần mềm bắt kịp tiềm năng phần cứng. Tuy nhiên, một khi nền tảng đã được thiết lập, chúng ta sẽ thấy một lớp ứng dụng mới mà trước đây là không thể trên thiết bị di động.

Phán quyết thực tế

AI PC là một bước tiến đáng kể trong phần cứng cá nhân. Nó đại diện cho sự rời xa mô hình “thin client” nơi máy tính chỉ là màn hình cho cloud. Bằng cách đưa trí thông minh chuyên dụng vào silicon, các nhà sản xuất đang làm cho các thiết bị của chúng ta có khả năng hơn và riêng tư hơn. Mặc dù tiếp thị có thể đi trước phần mềm, sự thay đổi cơ bản là có thật. Nếu bạn là một chuyên gia sáng tạo hoặc người coi trọng quyền riêng tư, một cỗ máy có NPU là một khoản đầu tư thông minh. Đối với những người khác, lợi ích sẽ đến chậm rãi khi ngày càng nhiều ứng dụng bắt đầu tận dụng phần cứng này. Kỷ nguyên của máy tính đa năng đang được thay thế bằng kỷ nguyên của trợ lý chuyên dụng. Đó là một sự thay đổi cuối cùng sẽ chạm đến mọi phần trong cuộc sống kỹ thuật số của chúng ta.

Lưu ý của biên tập viên: Chúng tôi tạo trang web này như một trung tâm tin tức và hướng dẫn AI đa ngôn ngữ dành cho những người không phải là chuyên gia máy tính, nhưng vẫn muốn hiểu trí tuệ nhân tạo, sử dụng nó tự tin hơn và theo dõi tương lai đang đến gần.