Kenapa Model Terbuka Penting Walaupun Anda Tak Pernah Guna!

Penghadang Jalan Halimunan Komputer Moden

Model terbuka adalah infrastruktur senyap dunia moden. Walaupun anda tak pernah muat turun fail dari Hugging Face atau jalankan server tempatan, model-model ini menentukan harga yang anda bayar untuk perkhidmatan berpemilik dan kelajuan ciri-ciri baharu sampai ke tangan anda. Ia bertindak sebagai lantai persaingan. Tanpanya, segelintir syarikat gergasi akan memonopoli teknologi paling penting abad ini. Model terbuka menyediakan tahap keupayaan asas yang memaksa pemain besar untuk terus berinovasi dan memastikan model harga mereka munasabah. Ini bukan sekadar hobi untuk peminat tegar atau bidang khusus untuk penyelidik. Ia adalah anjakan asas tentang bagaimana kuasa diagihkan dalam industri teknologi. Apabila model seperti Llama dilancarkan, ia menetapkan standard baharu untuk apa yang boleh dilakukan pada perkakasan pengguna. Tekanan ini memastikan model tertutup yang anda guna setiap hari kekal hebat dan mampu milik. Memahami nuansa keterbukaan ini adalah langkah pertama untuk melihat ke mana arah tuju industri ini.

Memahami Bahasa Pemasaran Tentang ‘Keterbukaan’

Banyak kekeliruan tentang apa maksud ‘terbuka’ dalam konteks ini. Perisian open source yang sebenar membenarkan sesiapa sahaja melihat kod, mengubahnya, dan mengedarkannya. Dalam dunia model bahasa besar, definisi ini jadi agak celaru. Kebanyakan model yang orang panggil open source sebenarnya adalah model open weight. Ini bermakna syarikat tersebut telah mengeluarkan parameter latihan akhir model itu, tetapi mereka tidak mengeluarkan dataset besar yang digunakan untuk melatihnya atau skrip pembersihan khusus untuk memproses data tersebut. Tanpa data itu, anda tidak boleh membina semula model tersebut dari awal. Anda cuma ada produk siap. Kemudian ada pula lesen yang membenarkan. Sesetengah syarikat menggunakan lesen tersuai yang nampak macam terbuka tetapi ada sekatan untuk kegunaan komersial atau klausa khusus yang menghalang pesaing daripada menggunakan model tersebut. Contohnya, satu model mungkin percuma untuk individu tetapi memerlukan lesen berbayar jika syarikat anda mempunyai lebih 700 juta pengguna aktif bulanan. Ini sangat berbeza dengan lesen GPL atau MIT tradisional yang membina internet. Kita juga melihat bahasa pemasaran yang menggunakan perkataan ‘terbuka’ untuk menggambarkan API yang boleh diakses secara umum tetapi dikawal sepenuhnya oleh satu syarikat. Ini bukan terbuka langsung. Ia cuma produk dengan pintu masuk awam. Model yang benar-benar terbuka membolehkan anda muat turun fail dan menjalankannya pada perkakasan sendiri tanpa sambungan internet. Perbezaan ini sangat penting kerana ia menentukan siapa yang memegang suis pemati utama. Jika anda bergantung pada API, pembekal boleh tukar peraturan atau tutup akses bila-bila masa. Jika anda ada weight pada hard drive anda, anda memiliki keupayaan itu sepenuhnya.

Kenapa Negara-Negara Bertaruh pada Public Weights

Impak global model-model ini sukar untuk digambarkan. Bagi banyak negara, bergantung kepada beberapa syarikat yang berpangkalan di AS untuk keseluruhan infrastruktur AI mereka adalah risiko besar kepada kedaulatan digital negara. Kerajaan di Eropah dan Asia semakin memandang ke arah model terbuka untuk membina versi AI tempatan mereka sendiri. Ini membolehkan mereka memastikan model tersebut mencerminkan nilai budaya dan nuansa bahasa mereka, bukan sekadar dari Silicon Valley. Ia juga memastikan data kekal dalam sempadan mereka, yang merupakan kebimbangan utama untuk privasi dan keselamatan. Perusahaan kecil dan sederhana juga mendapat manfaat. Mereka boleh membina alatan khusus tanpa rasa takut teknologi teras mereka akan ditarik balik secara tiba-tiba. Model terbuka juga mengurangkan halangan masuk untuk pembangun di pasaran pesat membangun. Seseorang di Lagos atau Jakarta boleh mengakses teknologi canggih yang sama seperti seseorang di San Francisco, asalkan mereka ada perkakasan untuk menjalankannya. Ini meratakan padang permainan dengan cara yang tidak akan dapat dilakukan oleh API berpemilik. Kewujudan model-model ini juga mencipta ekosistem alatan sekunder yang besar. Pembangun mencipta cara untuk membuatkan model berjalan lebih laju atau menggunakan memori yang kurang. Inovasi kolektif ini bergerak jauh lebih pantas daripada mana-mana syarikat tunggal. Ia mencipta gelung maklum balas di mana penambahbaikan terbuka akhirnya akan masuk semula ke dalam model berpemilik yang kita semua gunakan.

Sehari Tanpa Cloud

Mari kita lihat bagaimana ini berlaku dalam hari biasa seorang pembangun perisian bernama Sarah. Sarah bekerja untuk sebuah startup perubatan yang mengendalikan data pesakit yang sensitif. Syarikatnya tidak boleh menggunakan AI berasaskan cloud kerana risiko kebocoran data terlalu tinggi dan halangan kawal selia terlalu ketat. Sebaliknya, Sarah menggunakan model open weight yang berjalan pada server tempatan yang selamat. Pada waktu pagi, dia menggunakan model itu untuk membantunya melakukan refactor pada kod yang kompleks. Kerana model itu adalah tempatan, dia tidak perlu risau kod rahsianya digunakan untuk melatih versi masa depan AI komersial. Kemudian, dia menggunakan versi model yang telah di-fine tune untuk meringkaskan nota pesakit. Model khusus ini telah dilatih dengan terminologi perubatan, menjadikannya lebih tepat untuk keperluannya berbanding model kegunaan umum. Semasa rehat tengah hari, Sarah membaca satu post blog tentang analisis industri AI mengenai trend terkini dalam local inference. Dia sedar dia boleh mengoptimumkan aliran kerjanya dengan lebih lagi. Pada waktu petang, dia bereksperimen dengan teknik quantization baharu yang membolehkannya menjalankan model yang lebih besar pada perkakasan sedia ada. Inilah keindahan ekosistem terbuka. Dia tidak perlu menunggu syarikat teknologi besar melancarkan ciri baharu. Dia boleh melaksanakannya sendiri menggunakan alatan yang dicipta oleh komuniti. Menjelang akhir hari, dia telah meningkatkan ketepatan alat ringkasannya sebanyak lima belas peratus. Senario ini semakin biasa dalam banyak industri. Dari firma guaman ke agensi kreatif, orang ramai mendapati bahawa kawalan dan privasi yang ditawarkan oleh model terbuka adalah berbaloi dengan usaha tambahan untuk menyediakannya. Mereka membina alatan yang disesuaikan dengan keperluan khusus mereka daripada cuba memuatkan masalah mereka ke dalam kotak pembantu AI generik. Peralihan ini juga kelihatan dalam sektor pendidikan. Universiti menggunakan model terbuka untuk mengajar pelajar bagaimana AI berfungsi di sebaliknya. Mereka boleh memeriksa weight dan bereksperimen dengan teknik latihan yang berbeza. Ini melahirkan tenaga kerja yang lebih bermaklumat dan berkemampuan untuk masa depan. Keupayaan untuk menjalankan sistem ini secara offline juga bermakna penyelidik di kawasan pedalaman boleh meneruskan kerja mereka tanpa sambungan internet yang stabil.

Harga Tinggi Perisian Percuma

Walaupun manfaatnya jelas, kita mesti bertanya soalan sukar tentang kos sebenar keterbukaan ini. Siapa sebenarnya yang membayar untuk kuasa pengkomputeran besar yang diperlukan untuk melatih model-model ini? Jika syarikat seperti Meta membelanjakan beratus juta dolar untuk melatih satu model dan kemudian memberikan weight tersebut secara percuma, apakah strategi jangka panjang mereka? Adakah ini cara untuk mematikan pesaing kecil yang tidak mampu memberikan produk mereka secara percuma? Kita juga perlu mempertimbangkan risiko keselamatan. Jika model itu benar-benar terbuka, ini bermakna penghadang keselamatan boleh dibuang. Ini boleh membolehkan pihak berniat jahat menggunakan teknologi tersebut untuk tujuan buruk seperti mencipta deepfakes atau menghasilkan kod berbahaya. Bagaimana kita mengimbangi keperluan untuk inovasi terbuka dengan keperluan untuk keselamatan awam?

Satu lagi kebimbangan adalah kos perkakasan yang tersembunyi. Menjalankan model-model ini secara tempatan memerlukan GPU berkuasa yang mahal dan menggunakan banyak elektrik. Adakah kebebasan model terbuka hanya tersedia untuk mereka yang mampu membeli perkakasan tersebut? Dan bagaimana pula dengan data? Jika kita tidak tahu data apa yang digunakan untuk melatih model ini, bagaimana kita boleh pasti ia tidak berat sebelah atau melanggar hak cipta? Open Source Initiative telah berusaha untuk menentukan standard ini, tetapi industri bergerak lebih pantas daripada polisi. Kita juga mesti bertanya jika istilah ‘terbuka’ digunakan sebagai perisai untuk mengelakkan kawal selia. Dengan mendakwa model mereka terbuka, syarikat mungkin cuba memindahkan tanggungjawab tentang bagaimana model itu digunakan kepada pengguna akhir. Ini bukan soalan yang mudah untuk dijawab, tetapi ia sangat penting bagi sesiapa yang cuba memahami masa depan industri ini.

Melihat Teknikal Local Inference

Bagi mereka yang ingin mengintegrasikan model-model ini ke dalam aliran kerja profesional, butiran teknikal sangat penting. Cara paling biasa untuk menjalankan model ini secara tempatan adalah melalui frameworks khusus. Alatan ini menggunakan quantization untuk mengurangkan saiz model, membolehkannya muat ke dalam VRAM GPU pengguna. Sebagai contoh, model yang asalnya memerlukan memori 40GB boleh dimampatkan kepada 8GB dengan kehilangan kualiti yang sangat minima. Ini dilakukan dengan menukar ketepatan weight daripada 16 bit kepada 4 bit atau lebih rendah. Apabila menyentuh tentang API, banyak model terbuka tersedia melalui pembekal seperti Hugging Face atau Together AI. Perkhidmatan ini menawarkan had kadar yang jauh lebih tinggi daripada pembekal berpemilik, menjadikannya ideal untuk aplikasi volum tinggi. Walau bagaimanapun, kuasa sebenar datang daripada storan tempatan dan fine tuning. Dengan menggunakan teknik seperti LoRA, anda boleh melatih model pada data anda sendiri dalam beberapa jam sahaja pada satu GPU. Ini mencipta alat yang sangat khusus yang mengatasi model yang jauh lebih besar dalam tugasan tertentu. Anda juga perlu mempertimbangkan context window. Banyak model terbuka kini menyokong context window sebanyak 32k atau 128k tokens, membolehkan anda memproses keseluruhan dokumen sekaligus. Integrasi model ini ke dalam perisian sedia ada menjadi semakin mudah terima kasih kepada API yang standard. Ini bermakna anda sering boleh bertukar daripada model tertutup ke model terbuka dengan hanya menukar satu baris kod dalam aplikasi anda. Akan datang, kami menjangkakan alatan ini akan menjadi lebih mudah diakses oleh pembangun biasa.

• Llama.cpp untuk inference CPU dan GPU pelbagai platform
• Ollama untuk pengurusan model tempatan yang dipermudahkan

Keputusan Akhir Tentang Pilihan

Pilihan antara model terbuka dan tertutup bukanlah satu pilihan hitam putih. Kebanyakan orang akan terus menggunakan campuran kedua-duanya. Model tertutup daripada syarikat seperti Meta AI atau lain-lain menawarkan kemudahan, kekemasan, dan prestasi canggih untuk tugasan umum. Model terbuka menawarkan kawalan, privasi, dan keupayaan untuk pengkhususan. Walaupun anda tidak pernah memuat turun model sendiri, hakikat bahawa orang lain boleh melakukannya adalah perkara yang memastikan seluruh industri kekal jujur. Ia memastikan AI kekal sebagai alat untuk semua orang, bukannya rahsia yang dikawal ketat untuk segelintir pihak. Persaingan yang didorong oleh komuniti terbuka adalah kuasa paling kuat untuk kebaikan dalam dunia teknologi hari ini. Ia memaksa ketelusan dan mendemokrasikan akses kepada alatan paling berkuasa yang pernah dicipta.

Ada cerita, alat, trend, atau soalan AI yang anda fikir kami patut liputi? Hantar idea artikel anda kepada kami — kami ingin mendengarnya.

Nota editor: Kami mencipta laman web ini sebagai hab berita dan panduan AI berbilang bahasa untuk orang yang bukan pakar komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih yakin, dan mengikuti masa depan yang sudah tiba.

Menemui ralat atau sesuatu yang perlu diperbetulkan? Beritahu kami.