Adakah AI PC Sudah Penting — Atau Sekadar Pemasaran?

Industri teknologi kini taksub dengan awalan dua huruf yang muncul pada setiap pelekat komputer riba dan slaid pemasaran baharu. Pengeluar perkakasan mendakwa era AI PC telah tiba, menjanjikan anjakan asas dalam cara kita berinteraksi dengan silikon. Pada terasnya, AI PC hanyalah komputer yang dilengkapi dengan Neural Processing Unit (NPU) khusus, yang direka untuk mengendalikan beban kerja matematik kompleks yang diperlukan oleh model pembelajaran mesin. Walaupun komputer riba semasa anda bergantung pada pemproses pusat dan kad grafik untuk tugas ini, generasi perkakasan baharu memindahkan beban tersebut kepada enjin khusus ini. Peralihan ini bukan tentang menjadikan komputer anda berfikir, tetapi menjadikannya lebih cekap. Dengan memindahkan tugas seperti pembatalan hingar latar belakang atau penjanaan imej daripada cloud ke meja anda, mesin ini bertujuan menyelesaikan masalah kependaman dan privasi. Jawapan pantas bagi kebanyakan pembeli ialah walaupun perkakasannya sudah sedia, perisiannya masih dalam proses mengejar. Anda sebenarnya membeli asas untuk alatan yang akan menjadi standard dalam beberapa tahun akan datang, bukannya alat yang mengubah hidup anda petang ini.

Untuk memahami apa yang menjadikan mesin ini berbeza, kita perlu melihat tiga tonggak pengkomputeran moden. Selama beberapa dekad, CPU mengendalikan logik dan GPU mengendalikan visual. NPU adalah tonggak ketiga. Ia dibina untuk melaksanakan berbilion operasi berketepatan rendah secara serentak, yang merupakan perkara yang diperlukan oleh model bahasa besar atau penjana imej berasaskan resapan. Apabila anda meminta komputer standard untuk mengaburkan latar belakang semasa panggilan video, CPU terpaksa bekerja keras, yang menjana haba dan menghabiskan bateri. NPU melakukan tugas yang sama menggunakan sebahagian kecil daripada kuasa tersebut. Ini dipanggil on-device inference. Daripada menghantar data anda ke ladang pelayan di negeri lain untuk diproses, pengiraan berlaku terus pada papan induk anda. Peralihan ini mengurangkan masa perjalanan data dan memastikan maklumat sensitif anda tidak pernah meninggalkan kawalan fizikal anda. Ia adalah langkah menjauhi kebergantungan total terhadap cloud yang telah menentukan dekad pengkomputeran yang lalu.

Label pemasaran sering mengaburkan realiti tentang apa yang berlaku di dalam casis. Syarikat seperti Intel, AMD, dan Qualcomm sedang berlumba untuk menentukan rupa standard AI PC. Microsoft telah menetapkan garis dasar 40 TOPS, atau Tera Operations Per Second, untuk jenama Copilot+ PC mereka. Nombor ini adalah ukuran berapa trilion operasi yang boleh dilakukan oleh NPU setiap saat. Jika komputer riba berada di bawah ambang ini, ia mungkin masih boleh menjalankan alatan AI, tetapi tidak akan layak untuk ciri tempatan paling canggih yang disepadukan ke dalam sistem pengendalian. Ini mewujudkan jurang yang jelas antara perkakasan lama dan standard baharu. Kita melihat peralihan ke arah silikon khusus yang mengutamakan kecekapan berbanding kelajuan jam mentah. Matlamatnya adalah untuk mencipta mesin yang kekal responsif walaupun semasa menjalankan model kompleks di latar belakang. Ini bukan sekadar tentang kelajuan. Ia tentang mencipta persekitaran yang boleh diramal di mana perisian boleh bergantung pada sumber perkakasan khusus tanpa bersaing dengan pelayar web atau spreadsheet anda untuk mendapatkan perhatian.

Anjakan Silikon Ke Arah Kecerdasan Tempatan

Kesan global daripada peralihan perkakasan ini sangat besar, menjejaskan segala-galanya daripada perolehan korporat hingga penggunaan tenaga antarabangsa. Organisasi besar melihat AI PC sebagai cara untuk mengurangkan bil pengkomputeran cloud mereka. Apabila beribu-ribu pekerja menggunakan pembantu AI untuk meringkaskan dokumen atau mendraf e-mel, kos panggilan API kepada pembekal luar meningkat dengan cepat. Dengan memindahkan beban kerja itu ke NPU tempatan, syarikat boleh mengurangkan perbelanjaan operasi mereka dengan ketara. Terdapat juga komponen keselamatan utama dalam peralihan ini. Kerajaan dan institusi kewangan sering ragu-ragu untuk menggunakan AI berasaskan cloud kerana risiko kebocoran data. Inferens tempatan menyediakan laluan ke hadapan yang memastikan data proprietari kekal dalam firewall korporat. Ini mendorong kitaran pembaharuan besar-besaran dalam pasaran perusahaan apabila jabatan IT bersedia untuk masa depan di mana penyepaduan AI adalah wajib untuk perisian produktiviti. Ini adalah penyusunan semula ruang kerja digital secara global.

Di luar pejabat korporat, langkah ke arah AI tempatan mempunyai implikasi untuk ketersambungan global dan ekuiti digital. Di kawasan dengan sambungan internet yang tidak stabil, AI berasaskan cloud sering tidak boleh digunakan. Komputer riba yang boleh melakukan terjemahan atau pengecaman imej tanpa pautan berkelajuan tinggi menjadi alat yang jauh lebih berkuasa dalam pasaran membangun. Kita melihat penyahpusatan kecerdasan. Daripada beberapa pusat data besar yang melayani seluruh dunia, kita bergerak ke arah model di mana setiap peranti mempunyai tahap keupayaan kognitif asas. Ini mengurangkan beban pada rangkaian data global dan menjadikan teknologi canggih lebih berdaya tahan.

Walau bagaimanapun, ini juga mewujudkan jurang digital baharu. Mereka yang mampu membeli perkakasan terkini yang dilengkapi NPU akan mempunyai akses kepada alatan yang tidak dimiliki oleh orang lain. Rantaian bekalan global sudah beralih untuk memenuhi permintaan ini, dengan pengeluar cip mengutamakan pembangunan NPU berbanding peningkatan CPU tradisional. Ini adalah perubahan paling ketara dalam seni bina PC sejak pengenalan pemproses grafik bersepadu.

Bagaimanakah rupa ini dalam praktiknya? Bayangkan hari kerja biasa bagi seorang pengurus pemasaran bernama Sarah. Dia memulakan paginya dengan menyertai persidangan video. Dahulu, kipas komputer ribanya akan berputar dengan kuat apabila sistem bergelut untuk menguruskan suapan video dan kabur latar belakang. Hari ini, NPU-nya mengendalikan kesan video secara senyap, membiarkan CPU bebas untuk menguruskan tab terbuka dan perisian pembentangan. Semasa mesyuarat, model tempatan mendengar audio dan menjana transkrip masa nyata. Kerana ini berlaku secara tempatan, dia tidak bimbang tentang privasi strategi sulit yang dibincangkan. Selepas mesyuarat, dia perlu mencari foto tertentu daripada kempen dua tahun lalu. Daripada menatal beribu-ribu fail, dia menaip deskripsi bahasa semula jadi ke dalam penjelajah failnya. AI tempatan, yang telah mengindeks imejnya menggunakan model penglihatan pada peranti, menemui fail yang tepat dalam beberapa saat. Ini adalah tahap penyepaduan yang terasa tidak kelihatan tetapi menjimatkan minit-minit geseran sepanjang hari.

Lewat petang, Sarah perlu membuang objek yang mengganggu daripada foto produk. Daripada membuka editor berasaskan cloud yang berat, dia menggunakan alat tempatan yang menggunakan NPU untuk mengisi piksel serta-merta. Apabila dia perlu mendraf taklimat, pembantu tempatannya mencadangkan penambahbaikan berdasarkan gaya penulisannya sebelum ini, semuanya tanpa menghantar drafnya ke pelayan pusat. Inilah janji AI PC. Ia bukan tentang satu ciri hebat yang mengubah segala-galanya. Ia tentang seratus penambahbaikan kecil yang menghilangkan sela masa antara pemikiran dan pelaksanaan. Menjelang penghujung hari, baterinya masih pada lima puluh peratus kerana NPU khusus jauh lebih cekap daripada pemproses serba guna pada masa lalu. Mesin itu terasa lebih seperti rakan kongsi yang memahami konteks kerjanya daripada sekadar terminal bodoh untuk perkhidmatan cloud. Ini adalah aplikasi dunia sebenar yang melangkaui gembar-gembur pemasaran.

Walau bagaimanapun, kita mesti bersikap skeptikal terhadap janji-janji baharu yang berkilat ini. Soalan pertama yang perlu kita tanya ialah siapa yang benar-benar mendapat manfaat daripada perkakasan ini. Adakah NPU di sana untuk melayani pengguna, atau adakah ia di sana untuk membantu vendor perisian mengumpul lebih banyak data telemetri di bawah samaran pemprosesan tempatan? Walaupun inferens tempatan lebih peribadi daripada inferens cloud, sistem pengendalian masih menyimpan rekod tentang apa yang dilakukan oleh AI. Kita juga mesti mempertimbangkan kos tersembunyi mesin ini. AI PC memerlukan lebih banyak RAM dan storan yang lebih pantas untuk memastikan model dimuatkan dan responsif. Ini menaikkan harga kemasukan untuk pengguna. Adakah kita dipaksa ke dalam kitaran naik taraf yang mahal untuk ciri-ciri yang sepatutnya boleh dioptimumkan untuk perkakasan sedia ada? Terdapat juga persoalan tentang jangka hayat. Model AI berkembang pada kadar yang jauh melebihi kitaran perkakasan. Komputer riba yang dibeli hari ini dengan 40 TOPS mungkin usang dalam dua tahun jika generasi model seterusnya memerlukan 100 TOPS. Kita sedang memasuki tempoh susut nilai perkakasan yang pantas yang boleh mengecewakan pembeli.

Kita juga perlu melihat kesan alam sekitar. Walaupun AI pada peranti lebih cekap daripada AI cloud untuk pengguna individu, pembuatan cip khusus ini memerlukan bahan nadir dan proses intensif tenaga. Jika industri mendesak untuk pembaharuan global berbilion PC, e-waste dan jejak karbon akan menjadi besar. Terdapat juga isu sifat “kotak hitam” model-model ini. Walaupun pemprosesan adalah tempatan, banyak model adalah proprietari. Pengguna mungkin tidak tahu bagaimana AI membuat keputusan atau apakah bias yang tertanam dalam pemberat tempatan. Kita menukar ketelusan perisian mudah dengan kerumitan rangkaian saraf. Adakah kemudahan carian yang lebih pantas atau panggilan video yang lebih baik berbaloi dengan kehilangan kebolehramalan dalam alatan kita? Ini adalah soalan sukar yang jabatan pemasaran di Intel dan Microsoft tidak sabar untuk menjawabnya. Kita mesti mengimbangi keterujaan keupayaan baharu dengan pandangan yang jelas tentang pertukaran yang terlibat dalam peralihan ini.

Ada cerita, alat, trend, atau soalan AI yang anda fikir kami patut liputi? Hantar idea artikel anda kepada kami — kami ingin mendengarnya.

Bagi pengguna kuasa dan golongan geek, realiti AI PC terletak pada spesifikasi teknikal dan ekosistem pembangun. Standard semasa dibina di sekitar ONNX Runtime dan DirectML, yang membolehkan pembangun menyasarkan NPU merentas vendor perkakasan yang berbeza. Walau bagaimanapun, kita masih melihat banyak pemecahan. Alat yang dioptimumkan untuk Qualcomm Snapdragon X Elite mungkin tidak berjalan dengan cara yang sama pada cip Intel Core Ultra atau AMD Ryzen AI. Ini menimbulkan sakit kepala bagi pembangun yang ingin menyepadukan AI tempatan ke dalam aliran kerja mereka. Had API juga menjadi kebimbangan. Walaupun perkakasan mungkin mampu mencapai 40 TOPS, sistem pengendalian sering mengehadkan kuasa ini untuk menguruskan haba dan hayat bateri. Bagi mereka yang ingin menjalankan model mereka sendiri, seperti Llama 3 atau Mistral, kesesakan sering kali adalah memori bersatu. LLM tempatan sangat dahagakan lebar jalur memori. Jika anda ingin menjalankan model dengan 7 bilion parameter dengan lancar, anda benar-benar memerlukan 32GB RAM atau lebih, tidak kira berapa banyak TOPS yang didakwa oleh NPU anda.

Storan tempatan adalah satu lagi faktor kritikal bagi pengguna kuasa. Model AI berkualiti tinggi boleh memakan gigabait ruang. Jika anda menjalankan berbilang model untuk penjanaan imej, pemprosesan teks, dan pengecaman suara, SSD anda akan penuh dengan cepat. Kita juga melihat had seni bina NPU semasa apabila ia berkaitan dengan latihan. Cip ini direka untuk inferens, bukan untuk penalaan halus atau melatih model anda sendiri. Jika anda seorang pembangun yang ingin membina AI anda sendiri, anda masih memerlukan GPU NVIDIA yang berkuasa dengan sokongan CUDA. NPU adalah alat yang menghadap pengguna, bukan pengganti stesen kerja. Kita juga berada pada hari-hari awal kestabilan pemacu. Ramai pengguna melaporkan bahawa ciri yang dipercepatkan NPU boleh menjadi buggy atau menyebabkan ketidakstabilan sistem. Ini adalah kesukaran membesar bagi kategori perkakasan baharu. Anda boleh mendapatkan pecahan teknikal yang lebih terperinci di The Verge atau semak penanda aras terkini di AnandTech untuk melihat dengan lebih mendalam prestasi cip tertentu. Anda juga boleh mengikuti kemas kini terkini di blog pembangun rasmi Microsoft mengenai penyepaduan AI Windows 11.

Kesimpulannya, AI PC adalah anjakan teknologi yang sebenar, tetapi ia kini berada dalam fasa remaja yang janggal. Perkakasan mengagumkan dan peningkatan kecekapan adalah nyata, tetapi aplikasi perisian “mesti ada” masih belum tiba. Bagi kebanyakan orang, sebab terbaik untuk membeli AI PC hari ini adalah untuk memastikan pelaburan anda kalis masa depan. Apabila lebih ramai pembangun perisian mula memanfaatkan NPU, jurang antara perkakasan lama dan baharu akan melebar. Jika anda seorang profesional kreatif atau seseorang yang menghabiskan masa berjam-jam dalam mesyuarat video, manfaatnya sudah kelihatan. Bagi orang lain, ia adalah permainan menunggu. Anda membeli visi pengkomputeran yang lebih tempatan, lebih peribadi, dan lebih cekap. Cuma sedar bahawa anda adalah pengguna awal dalam eksperimen yang bergerak pantas. Untuk kekal dikemas kini tentang cara alatan ini berkembang, lihat panduan ini kepada trend terkini dalam kecerdasan buatan tempatan dan bagaimana ia menjejaskan aliran kerja harian anda. Era NPU telah bermula, tetapi ceritanya masih jauh daripada tamat.

Nota editor: Kami mencipta laman web ini sebagai hab berita dan panduan AI berbilang bahasa untuk orang yang bukan pakar komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih yakin, dan mengikuti masa depan yang sudah tiba.

Menemui ralat atau sesuatu yang perlu diperbetulkan? Beritahu kami.