Bolehkah Model Terbuka Benar-benar Mencabar Makmal Gergasi?

Penyahpusatan Kepintaran yang Hebat

Jurang antara sistem proprietari tertutup dan model awam semakin mengecil lebih pantas daripada jangkaan kebanyakan penganalisis. Setahun yang lalu, konsensusnya ialah makmal gergasi dengan dana berbilion dolar akan mengekalkan kelebihan keupayaan yang kekal. Hari ini, kelebihan itu diukur dalam bulan, bukan tahun. Model ‘open weights’ kini beroperasi pada tahap yang menyaingi sistem tertutup paling canggih dalam pengekodan, penaakulan dan penulisan kreatif. Peralihan ini bukan sekadar rasa ingin tahu teknikal. Ia mewakili perubahan asas dalam siapa yang mengawal masa depan pengkomputeran. Apabila pembangun boleh menjalankan model berprestasi tinggi pada perkakasan mereka sendiri, dinamik kuasa beralih daripada penyedia berpusat. Trend ini menunjukkan bahawa era model ‘black box’ sedang menghadapi cabaran sebenar pertamanya daripada komuniti global yang teragih.

Kebangkitan sistem yang mudah diakses ini telah memaksa penilaian semula tentang apa ertinya menjadi pemimpin dalam bidang ini. Tidak lagi memadai untuk mempunyai kelompok cip terbesar jika model yang terhasil dikunci di sebalik antara muka yang mahal dan menyekat. Pembangun kini mengundi dengan masa dan kuasa pengkomputeran mereka. Mereka memilih model yang boleh mereka periksa, ubah suai dan gunakan tanpa perlu meminta kebenaran. Pergerakan ini semakin mendapat momentum kerana ia menangani keperluan teras privasi dan penyesuaian yang sering diabaikan oleh model tertutup. Hasilnya ialah persekitaran yang lebih kompetitif di mana fokus telah beralih daripada sekadar skala kepada kecekapan dan kebolehcapaian. Ini adalah permulaan era baharu di mana alat yang paling berkemampuan juga adalah yang paling tersedia.

Tiga Puak Pembangunan

Untuk memahami ke mana hala tuju teknologi ini, anda perlu melihat tiga jenis organisasi berbeza yang membangunkannya. Pertama, terdapat makmal sempadan (frontier labs). Ini adalah gergasi seperti OpenAI dan Google. Matlamat mereka adalah untuk mencapai tahap kepintaran umum yang tertinggi. Mereka mengutamakan skala dan kuasa mentah melebihi segala-galanya. Bagi mereka, keterbukaan sering dilihat sebagai risiko kepada keselamatan atau kehilangan kelebihan daya saing. Mereka membina ekosistem tertutup yang besar yang menawarkan prestasi tinggi tetapi menuntut pergantungan penuh pada infrastruktur awan mereka. Model mereka adalah standard emas untuk prestasi, tetapi ia datang dengan syarat dalam bentuk polisi penggunaan dan kos berulang.

Kedua, kita mempunyai makmal akademik. Institusi seperti Stanford Institute for Human-Centered AI memberi tumpuan kepada ketelusan dan kebolehulangan. Matlamat mereka bukan untuk menjual produk tetapi untuk memahami cara sistem ini berfungsi. Mereka menerbitkan penemuan, set data dan metodologi latihan mereka. Walaupun model mereka mungkin tidak selalu menandingi kuasa mentah makmal sempadan, mereka menyediakan asas untuk seluruh industri. Mereka bertanya soalan yang mungkin dielakkan oleh makmal komersial, seperti bagaimana bias terbentuk atau cara menjadikan latihan lebih cekap tenaga. Kerja mereka memastikan sains dalam bidang ini kekal sebagai barangan awam dan bukannya rahsia korporat.

Akhir sekali, terdapat makmal produk dan penyokong ‘open weights’ korporat. Meta dan Mistral termasuk dalam kategori ini. Mereka mengeluarkan model kepada orang ramai untuk membina ekosistem. Dengan menjadikan ‘weights’ mereka tersedia, mereka menggalakkan beribu-ribu pembangun untuk mengoptimumkan kod mereka dan membina alat yang serasi. Ini adalah langkah strategik untuk menentang dominasi platform tertutup. Jika semua orang membina di atas seni bina anda, anda menjadi standard industri. Pendekatan ini merapatkan jurang antara penyelidikan tulen dan produk komersial. Ia membolehkan tahap penggunaan yang tidak dapat dicapai oleh makmal akademik sambil mengekalkan tahap kebebasan yang tidak dibenarkan oleh makmal sempadan.

Ilusi Keterbukaan dalam Perisian Moden

Istilah ‘open source’ sering digunakan secara longgar dalam industri ini, yang membawa kepada kekeliruan yang ketara. Perisian ‘open source’ yang sebenar, seperti yang ditakrifkan oleh Open Source Initiative, memerlukan kod sumber, arahan binaan dan data tersedia secara percuma. Kebanyakan model moden tidak memenuhi kriteria ini. Sebaliknya, kita melihat peningkatan dalam model ‘open weights’. Dalam persediaan ini, syarikat menyediakan hasil akhir proses latihan tetapi merahsiakan data latihan dan resipi tersebut. Ini adalah perbezaan yang penting. Anda boleh menjalankan model dan melihat cara ia berkelakuan, tetapi anda tidak boleh menciptanya semula dari awal dengan mudah atau mengetahui dengan tepat maklumat apa yang diberikan semasa penciptaannya.

Bahasa pemasaran sering merumitkan perkara ini dengan menggunakan istilah seperti lesen ‘permissive’ atau komuniti. Lesen ini sering merangkumi klausa yang menyekat cara model boleh digunakan oleh syarikat yang sangat besar atau untuk tugas tertentu. Walaupun model ini jauh lebih mudah diakses daripada API tertutup, ia tidak selalunya percuma dalam erti kata tradisional. Ini mewujudkan spektrum keterbukaan. Pada satu hujung, anda mempunyai model tertutup sepenuhnya seperti GPT-4. Di tengah, anda mempunyai model ‘open weights’ seperti Llama 3. Pada hujung yang jauh, anda mempunyai projek yang mengeluarkan segala-galanya, termasuk data. Memahami di mana kedudukan model pada spektrum ini adalah penting bagi mana-mana perusahaan atau pembangun yang merancang untuk jangka masa panjang.

Manfaat pendekatan separa terbuka ini masih sangat besar. Ia membolehkan pengehosan tempatan, yang merupakan keperluan bagi banyak industri dengan peraturan kedaulatan data yang ketat. Ia juga membolehkan ‘fine tuning’, di mana model dilatih pada sejumlah kecil data khusus untuk menjadikannya pakar dalam bidang tertentu. Tahap kawalan ini mustahil dengan API tertutup. Walau bagaimanapun, kita mesti tepat tentang perkara yang benar-benar terbuka. Jika syarikat boleh membatalkan lesen anda atau jika data latihan adalah misteri, anda masih beroperasi dalam sistem yang direka oleh orang lain. Trend semasa adalah ke arah lebih ketelusan, tetapi kita belum sampai ke tahap di mana model yang paling berkuasa benar-benar ‘open source’.

Kawalan Tempatan dalam Era Gergasi Awan

Bagi pembangun yang bekerja dalam persekitaran keselamatan tinggi, peralihan ke arah ‘open weights’ adalah keperluan praktikal. Bayangkan seorang jurutera utama di firma kewangan bersaiz sederhana. Pada masa lalu, mereka perlu menghantar data pelanggan yang sensitif ke pelayan pihak ketiga untuk mendapatkan manfaat model bahasa besar. Ini mewujudkan risiko privasi yang besar dan pergantungan pada masa operasi penyedia luaran. Hari ini, jurutera itu boleh memuat turun model berprestasi tinggi dan menjalankannya pada pelayan dalaman. Mereka mempunyai kawalan penuh ke atas aliran data. Mereka boleh mengubah suai model untuk memahami jargon khusus firma dan peraturan pematuhan. Ini bukan sekadar kemudahan. Ia adalah perubahan asas dalam cara syarikat menguruskan asetnya yang paling berharga, iaitu datanya.

Kehidupan seharian jurutera ini telah berubah dengan ketara. Daripada menguruskan kunci API dan bimbang tentang had kadar, mereka menghabiskan masa mengoptimumkan ‘inference’ tempatan. Mereka mungkin menggunakan alat seperti Hugging Face untuk mencari versi model yang telah dimampatkan agar muat pada perkakasan sedia ada mereka. Mereka boleh menjalankan ujian pada pukul 3 pagi tanpa bimbang tentang kos setiap token yang dijana. Jika model membuat kesilapan, mereka boleh melihat ‘weights’ dan cuba memahami sebabnya, atau mereka boleh menggunakan ‘fine tuning’ untuk membetulkannya. Tahap autonomi ini tidak dapat dibayangkan oleh kebanyakan perniagaan dua tahun lalu. Ia membolehkan kitaran lelaran yang lebih pantas dan produk akhir yang lebih mantap.

Kebebasan ini juga meluas kepada pengguna individu. Seorang penulis atau penyelidik boleh menjalankan model pada komputer riba mereka yang tidak mempunyai penapis yang direka oleh jawatankuasa di Silicon Valley. Mereka boleh meneroka idea dan menjana kandungan tanpa orang tengah yang memutuskan perkara yang sesuai. Inilah perbezaan antara menyewa alat dan memilikinya. Walaupun gergasi awan menawarkan pengalaman yang digilap dan mudah digunakan, ekosistem terbuka menawarkan sesuatu yang lebih berharga: agensi. Apabila perkakasan menjadi lebih berkuasa dan model menjadi lebih cekap, bilangan orang yang menjalankan sistem ini secara tempatan hanya akan bertambah. Pendekatan teragih ini memastikan bahawa manfaat teknologi ini tidak terhad kepada mereka yang mampu membayar langganan bulanan yang mahal.

Perusahaan juga mendapati bahawa model terbuka adalah perlindungan terhadap risiko platform. Jika penyedia tertutup menukar harga atau syarat perkhidmatan mereka, syarikat yang dibina di atas API itu akan menghadapi masalah. Dengan menggunakan ‘open weights’, syarikat boleh menukar penyedia perkakasan atau memindahkan keseluruhan ‘stack’ mereka ke awan yang berbeza tanpa kehilangan kepintaran teras mereka. Fleksibiliti ini memacu banyak penggunaan yang kita lihat hari ini. Ia bukan lagi tentang model mana yang sedikit lebih baik pada penanda aras. Ia adalah tentang model mana yang memberikan perniagaan kestabilan jangka panjang yang paling banyak. Penambahbaikan terkini dalam ekosistem AI open source telah menjadikan ini strategi yang berdaya maju untuk syarikat dari semua saiz.

Harga Tinggi Model Percuma

Walaupun teruja, kita mesti bertanya soalan sukar tentang kos tersembunyi keterbukaan. Menjalankan model besar secara tempatan tidak percuma. Ia memerlukan pelaburan yang besar dalam perkakasan, khususnya GPU mewah dengan banyak memori. Bagi banyak perniagaan kecil, kos membeli dan menyelenggara perkakasan ini mungkin melebihi kos langganan API selama beberapa tahun. Terdapat juga kos elektrik dan keperluan untuk bakat khusus untuk menguruskan penggunaan. Adakah kita hanya menukar langganan perisian dengan bil perkakasan dan tenaga? Realiti ekonomi AI tempatan adalah lebih kompleks daripada yang dicadangkan oleh tajuk berita.

Privasi adalah satu lagi bidang di mana keraguan diperlukan. Walaupun menjalankan model secara tempatan adalah lebih baik untuk keselamatan data, model itu sendiri sering dilatih pada data yang dikikis dari internet tanpa kebenaran. Adakah menggunakan model terbuka menjadikan anda bersubahat dalam amalan ini? Tambahan pula, jika model terbuka, ia juga terbuka kepada pelakon jahat. Alat yang sama yang membolehkan doktor meringkaskan nota perubatan boleh digunakan oleh penggodam untuk mengautomasikan serangan ‘phishing’. Bagaimanakah kita mengimbangi manfaat pendemokrasian dengan risiko penyalahgunaan? Makmal yang mengeluarkan ‘weights’ mereka sering mendakwa bahawa komuniti akan menyediakan pemeriksaan keselamatan yang perlu, tetapi ini adalah dakwaan yang sukar untuk disahkan. Kita mesti mempertimbangkan sama ada kekurangan pengawasan berpusat adalah ciri atau kelemahan.

Akhir sekali, kita mesti melihat kemampanan model terbuka. Melatih sistem ini menelan belanja berjuta-juta dolar. Jika syarikat seperti Meta atau Mistral memutuskan bahawa tidak lagi menjadi kepentingan mereka untuk mengeluarkan ‘weights’ mereka, kemajuan komuniti terbuka boleh terhenti. Kita kini mendapat manfaat daripada strategi korporat yang memihak kepada keterbukaan untuk mendapatkan bahagian pasaran. Jika strategi itu berubah, komuniti mungkin mendapati diri mereka ketinggalan bertahun-tahun di belakang makmal sempadan sekali lagi. Adakah mungkin untuk membina model berprestasi tinggi yang benar-benar bebas tanpa sokongan syarikat berbilion dolar? Pergantungan semasa pada kemurahan hati korporat adalah titik kegagalan tunggal yang berpotensi untuk keseluruhan pergerakan.

Di Sebalik Tabir ‘Local Inference’

Bagi pengguna berkuasa, kerja sebenar berlaku dalam penyepaduan model ini ke dalam aliran kerja sedia ada. Salah satu cabaran terbesar ialah keperluan perkakasan. Untuk menjalankan model dengan 70 bilion parameter, anda biasanya memerlukan sekurang-kurangnya dua GPU pengguna mewah atau kad gred profesional dengan 48GB VRAM. Ini telah membawa kepada peningkatan teknik kuantisasi. Dengan mengurangkan ketepatan ‘weights’ model daripada 16-bit kepada 4-bit atau pun 2-bit, pembangun boleh memuatkan model yang lebih besar ke dalam perkakasan yang lebih murah. Proses ini melibatkan sedikit pertukaran dalam ketepatan, tetapi untuk kebanyakan tugas, perbezaannya boleh diabaikan. Alat seperti Llama.cpp telah membolehkan model ini dijalankan pada CPU standard dan perkakasan Mac, sekali gus merendahkan halangan untuk masuk.

Satu lagi faktor kritikal ialah had API. Apabila menggunakan penyedia tertutup, anda sering dihadkan oleh berapa banyak permintaan yang boleh anda buat seminit. Dengan model tempatan, satu-satunya had anda ialah kelajuan perkakasan anda. Ini membolehkan aliran kerja kompleks di mana model dipanggil beratus-ratus kali dalam satu proses. Sebagai contoh, pembangun mungkin menggunakan model untuk menganalisis beribu-ribu baris kod atau untuk menjana keseluruhan set data sintetik untuk ujian. Tugas-tugas ini akan menjadi sangat mahal dan perlahan pada API awan. Storan tempatan juga membolehkan penggunaan tetingkap konteks yang besar. Anda boleh menyuapkan keseluruhan pustaka dokumen ke dalam model tanpa bimbang tentang kos token input.

Penyepaduan aliran kerja juga menjadi lebih canggih. Pembangun menggunakan rangka kerja yang membolehkan mereka menukar model masuk dan keluar dengan satu baris kod. Ini bermakna sistem boleh menggunakan model kecil dan pantas untuk tugas mudah dan model besar dan perlahan untuk penaakulan kompleks. Pendekatan hibrid ini mengoptimumkan kos dan prestasi. Walau bagaimanapun, masih terdapat halangan. Model tempatan sering kekurangan penapis keselamatan yang digilap dan dokumentasi meluas seperti rakan sejawat tertutup mereka. Menyediakan persekitaran tempatan yang mantap memerlukan pemahaman mendalam tentang Linux, Python dan pemacu GPU. Bagi mereka yang boleh menguruskannya, ganjarannya ialah tahap prestasi dan privasi yang tidak dapat ditandingi oleh mana-mana penyedia awan.

Standard Baharu untuk Teknologi Awam

Persaingan antara model terbuka dan tertutup adalah cerita paling penting dalam teknologi hari ini. Ia adalah pertempuran ke atas seni bina asas internet. Jika model tertutup menang, masa depan AI akan kelihatan seperti kedai aplikasi mudah alih semasa, dengan dua atau tiga gergasi mengawal apa yang mungkin. Jika model terbuka meneruskan trajektori semasa mereka, masa depan akan menjadi lebih seperti web itu sendiri, rangkaian teragih di mana sesiapa sahaja boleh membina dan berinovasi. Peralihan baru-baru ini ke arah ‘open weights’ berkualiti tinggi adalah petanda kuat bahawa yang kedua lebih berkemungkinan. Ia adalah visi yang menarik tentang dunia di mana kepintaran adalah utiliti dan bukannya kemewahan.

Apabila kita melangkah ke hadapan, fokus mungkin akan beralih daripada prestasi model mentah kepada ekosistem yang mengelilingi model ini. Pemenang bukanlah syarikat dengan skor penanda aras tertinggi, tetapi syarikat yang menjadikannya paling mudah untuk orang lain membina. Jarak antara kertas penyelidikan dan produk berguna masih luas, tetapi komuniti terbuka sedang membina jambatan yang diperlukan untuk melintasinya. Ini adalah masa perubahan pesat, dan pilihan yang dibuat oleh pembangun dan perusahaan hari ini akan menentukan persekitaran teknologi untuk dekad akan datang. Era kotak tertutup akan berakhir, dan era ‘open weight’ baru sahaja bermula.

Nota editor: Kami mencipta laman web ini sebagai hab berita dan panduan AI berbilang bahasa untuk orang yang bukan pakar komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih yakin, dan mengikuti masa depan yang sudah tiba.