Apa yang Membimbangkan Industri AI Mengenai Undang-undang 2026

Era etika AI secara sukarela sudah berakhir. Selama bertahun-tahun, gergasi teknologi dan startup beroperasi dalam ruang di mana “prinsip” dan “garis panduan” adalah satu-satunya kawalan. Keadaan berubah dengan pemuktamadan EU AI Act dan gelombang tuntutan mahkamah di Amerika Syarikat. Hari ini, perbualan telah beralih daripada apa yang AI boleh lakukan kepada apa yang AI dibenarkan secara sah untuk dilakukan. Pasukan undang-undang kini duduk di bilik yang sama dengan jurutera perisian. Ini bukan lagi tentang falsafah abstrak. Ini tentang ancaman denda yang boleh mencecah tujuh peratus daripada perolehan tahunan global syarikat. Industri sedang bersiap sedia untuk tempoh di mana pematuhan adalah sama pentingnya dengan kuasa pengkomputeran. Syarikat kini terpaksa mendokumentasikan data latihan mereka, membuktikan model mereka tidak berat sebelah, dan menerima bahawa sesetengah aplikasi adalah menyalahi undang-undang. Peralihan daripada persekitaran tanpa undang-undang kepada persekitaran yang dikawal ketat ini adalah perubahan paling ketara dalam sektor teknologi sejak beberapa dekad.

Peralihan Ke Arah Pematuhan Mandatori

Teras pergerakan kawal selia semasa ialah pendekatan berasaskan risiko. Pengawal selia tidak cuba mengharamkan AI. Mereka cuba mengkategorikannya. Di bawah peraturan baharu, sistem AI diletakkan ke dalam empat kategori: risiko tidak boleh diterima, risiko tinggi, risiko terhad, dan risiko minimum. Sistem yang menggunakan pengenalan biometrik di ruang awam atau pemarkahan sosial oleh kerajaan kebanyakannya diharamkan. Ini adalah risiko yang tidak boleh diterima. Sistem berisiko tinggi adalah sistem yang benar-benar menjejaskan kehidupan anda. Ini termasuk AI yang digunakan dalam pengambilan pekerja, pemarkahan kredit, pendidikan, dan penguatkuasaan undang-undang. Jika syarikat membina alat untuk menyaring resume, mereka kini mesti memenuhi piawaian ketelusan dan ketepatan yang ketat. Mereka tidak boleh hanya mendakwa algoritma mereka berfungsi. Mereka perlu membuktikannya melalui dokumentasi yang rapi dan audit pihak ketiga. Ini adalah beban operasi yang besar bagi syarikat yang sebelum ini merahsiakan kerja dalaman mereka.

Model AI tujuan umum, seperti model bahasa besar yang menguasai chatbot, mempunyai set peraturan tersendiri. Model ini mesti mendedahkan jika kandungan mereka dijana oleh AI. Mereka juga perlu memberikan ringkasan data berhak cipta yang digunakan untuk melatihnya. Di sinilah ketegangan berlaku. Kebanyakan syarikat AI menganggap data latihan mereka sebagai rahsia perdagangan. Pengawal selia kini mengatakan bahawa ketelusan adalah syarat untuk kemasukan pasaran. Jika syarikat tidak boleh atau tidak mahu mendedahkan sumber datanya, ia mungkin disekat daripada pasaran Eropah. Ini adalah cabaran langsung kepada sifat “kotak hitam” pembelajaran mesin moden. Ia memaksa tahap keterbukaan yang telah ditentang oleh industri selama bertahun-tahun. Matlamatnya adalah untuk memastikan pengguna tahu apabila mereka berinteraksi dengan mesin dan pencipta tahu jika kerja mereka digunakan untuk membina mesin tersebut.

Kesan peraturan ini meluas jauh ke luar Eropah. Ini sering dipanggil Kesan Brussels. Kerana sukar untuk membina versi perisian yang berbeza untuk setiap negara, banyak syarikat akan menggunakan peraturan paling ketat secara global. Kita melihat ini dengan undang-undang privasi data beberapa tahun lalu. Kini kita melihatnya dengan AI. Di Amerika Syarikat, pendekatannya berbeza tetapi sama memberi kesan. Daripada satu undang-undang gergasi, AS menggunakan perintah eksekutif dan rentetan tuntutan mahkamah berprofil tinggi untuk menetapkan sempadan. Perintah Eksekutif AS daripada 2026 memfokuskan pada ujian keselamatan untuk model yang paling berkuasa. Sementara itu, mahkamah sedang memutuskan sama ada melatih AI pada buku dan artikel berita berhak cipta adalah “penggunaan adil” atau “kecurian.” Pertarungan undang-undang ini akan menentukan masa depan ekonomi industri. Jika syarikat perlu membayar untuk melesenkan setiap data, kos membina AI akan melonjak.

China juga telah bergerak pantas untuk mengawal selia AI generatif. Peraturan mereka tertumpu kepada memastikan output AI adalah tepat dan selaras dengan nilai sosial. Mereka memerlukan syarikat untuk mendaftarkan algoritma mereka dengan kerajaan. Ini mewujudkan persekitaran global yang berpecah-belah. Pembangun di San Francisco kini perlu bimbang tentang EU AI Act, undang-undang hak cipta AS, dan pendaftaran algoritma China. Pemecahan ini adalah kebimbangan utama bagi industri. Ia mewujudkan halangan kemasukan yang tinggi untuk pemain yang lebih kecil yang tidak mampu menanggung jabatan undang-undang yang besar. Ketakutannya ialah hanya syarikat teknologi terbesar yang akan mempunyai sumber untuk kekal patuh di setiap wilayah. Ini boleh membawa kepada situasi di mana beberapa gergasi mengawal keseluruhan pasaran kerana mereka adalah satu-satunya yang mampu membayar “cukai pematuhan.”

Dalam dunia sebenar, ini kelihatan seperti perubahan asas dalam cara produk dibina. Bayangkan seorang pengurus produk di startup bersaiz sederhana. Setahun lalu, matlamat mereka adalah untuk melancarkan ciri AI baharu secepat mungkin. Hari ini, mesyuarat pertama mereka adalah dengan pegawai pematuhan. Mereka perlu menjejaki setiap dataset yang mereka gunakan. Mereka perlu menguji model mereka untuk “halusinasi” dan berat sebelah. Mereka perlu mencipta sistem “manusia dalam gelung” untuk menyelia keputusan AI. Ini menambah bulan kepada kitaran pembangunan. Bagi pencipta, kesannya berbeza. Mereka kini mencari alat yang boleh membuktikan mereka tidak dilatih dengan kerja yang dicuri. Kita melihat kebangkitan “AI berlesen” di mana setiap imej dan ayat dalam set latihan diambil kira. Ini adalah langkah ke arah cara membina teknologi yang lebih mampan tetapi lebih mahal.

Kehidupan seharian seorang pegawai pematuhan kini melibatkan sesi “red teaming” di mana mereka cuba memecahkan AI mereka sendiri. Mereka mencari cara model mungkin memberikan nasihat berbahaya atau menunjukkan prejudis. Mereka mendokumentasikan kegagalan ini dan pembaikannya. Dokumentasi ini bukan sahaja untuk kegunaan dalaman. Ia mesti sedia untuk pemeriksaan oleh pengawal selia kerajaan pada bila-bila masa. Ini jauh berbeza daripada era “bergerak pantas dan pecahkan sesuatu.” Kini, jika anda memecahkan sesuatu, anda mungkin menghadapi tuntutan mahkamah daripada organisasi berita utama atau denda daripada agensi kerajaan. EU AI Act telah menjadikan pembangunan AI sebagai profesion yang dikawal selia, sama seperti perbankan atau perubatan. Anda boleh mencari analisis dasar AI yang komprehensif yang memperincikan cara peraturan ini digunakan pada sektor yang berbeza hari ini. Taruhannya bukan lagi sekadar pengalaman pengguna; ia adalah tentang kelangsungan hidup undang-undang.

Industri juga sedang bergelut dengan “Perangkap Hak Cipta.” Penerbit utama seperti New York Times telah menyaman syarikat AI kerana menggunakan artikel mereka tanpa kebenaran. Kes-kes ini bukan sekadar tentang wang. Ia adalah tentang hak untuk wujud. Jika mahkamah memutuskan bahawa latihan AI bukan penggunaan adil, keseluruhan model perniagaan AI generatif boleh runtuh. Syarikat perlu memadamkan model semasa mereka dan bermula semula dengan data berlesen. Inilah sebabnya kita melihat syarikat seperti OpenAI menandatangani perjanjian dengan organisasi berita. Mereka cuba mendahului risiko undang-undang. Mereka menukar wang tunai untuk hak undang-undang menggunakan data. Ini mewujudkan ekonomi baharu di mana data adalah komoditi paling berharga.

Walau bagaimanapun, ini hanya membantu penerbit besar. Pencipta kecil dan artis bebas masih tertanya-tanya bagaimana mereka akan diberi pampasan dalam sistem baharu ini.

Ada cerita, alat, trend, atau soalan AI yang anda fikir kami patut liputi? Hantar idea artikel anda kepada kami — kami ingin mendengarnya.

Skeptisisme Socratic mencadangkan kita harus bertanya siapa yang sebenarnya dilindungi oleh peraturan ini. Adakah mereka melindungi orang ramai, atau adakah mereka melindungi penyandang jawatan? Jika kos pematuhan adalah berjuta-juta dolar, startup dua orang di garaj tidak boleh bersaing. Kita mungkin secara tidak sengaja mewujudkan monopoli untuk syarikat yang sudah mempunyai wang. Terdapat juga persoalan tentang privasi. Untuk membuktikan AI tidak berat sebelah terhadap kumpulan tertentu, syarikat mungkin perlu mengumpul lebih banyak data tentang kumpulan itu. Ini mewujudkan paradoks di mana lebih banyak pengawasan diperlukan untuk memastikan “keadilan.” Kita juga mesti bertanya tentang kos alam sekitar. Jika peraturan memerlukan ujian berterusan dan latihan semula model untuk memenuhi piawaian baharu, penggunaan tenaga pusat data ini akan berkembang lebih pantas. Adakah kita sanggup menerima pertukaran itu?

Satu lagi soalan sukar ialah definisi “kebenaran.” Pengawal selia mahu AI menjadi “tepat.” Tetapi siapa yang memutuskan apa yang tepat dalam konteks politik atau sosial? Jika kerajaan boleh mendenda syarikat kerana respons AI yang “tidak tepat,” kerajaan itu pada dasarnya mempunyai alat untuk penapisan. Ini adalah kebimbangan utama di negara yang mempunyai rekod hak asasi manusia yang kurang sempurna. Industri bimbang “keselamatan” akan menjadi kata kod untuk “kandungan yang diluluskan oleh kerajaan.” Kita juga melihat desakan untuk “tanda air” kandungan AI. Walaupun ini kedengaran baik untuk menghentikan deepfake, ia secara teknikal sukar untuk dilaksanakan. Pengguna yang bijak sering boleh membuang tanda air. Jika kita bergantung pada teknologi yang boleh dipintas dengan mudah, adakah kita mewujudkan rasa keselamatan palsu? Kos tersembunyi peraturan ini sering tertanam dalam cetakan kecil.

Bagi pengguna kuasa dan pembangun, sisi geeky peraturan ditemui dalam keperluan teknikal untuk pelaporan model. Kita melihat kebangkitan kad model, yang merupakan dokumen piawai yang menyenaraikan data latihan model, penanda aras prestasi, dan batasan yang diketahui. Ini menjadi sama biasa seperti fail “readme” dalam repositori GitHub. Pembangun juga terpaksa membina “API ketelusan” yang membolehkan penyelidik pihak ketiga mengaudit sistem mereka tanpa melihat kod asas. Ini adalah cabaran kejuruteraan yang kompleks. Bagaimana anda memberi seseorang akses yang cukup untuk mengesahkan keselamatan model anda tanpa mendedahkan harta intelek anda? Industri kini sedang membahaskan piawaian untuk API ini dan had perkara yang perlu dikongsi.

Storan tempatan dan “edge AI” menjadi lebih popular sebagai cara untuk mengelakkan beberapa halangan kawal selia. Jika pemprosesan AI berlaku pada telefon pengguna dan bukannya di cloud, lebih mudah untuk mematuhi undang-undang privasi data yang ketat. Walau bagaimanapun, ini mengehadkan kuasa AI. Pembangun kini mengimbangi keperluan untuk pengkomputeran cloud yang besar dengan keselamatan undang-undang inferens tempatan. Kita juga melihat pelaksanaan “suis pemati” dalam kod AI. Ini adalah protokol yang boleh mematikan model jika ia mula menunjukkan “tingkah laku baru muncul” yang tidak diramalkan semasa ujian. Ini bukan lagi fiksyen sains. Ia adalah keperluan untuk sistem berisiko tinggi. Pematuhan sedang dibina terus ke dalam seni bina perisian, daripada skema pangkalan data kepada had kadar API.

Kesimpulannya, industri AI sedang matang. Peralihan daripada rasa ingin tahu penyelidikan kepada utiliti yang dikawal selia adalah menyakitkan dan mahal. Syarikat yang mengabaikan peralihan undang-undang tidak akan bertahan dalam tempoh lima tahun akan datang. Fokus telah beralih daripada “bolehkah kita membina” kepada “patutkah kita membina” dan “bagaimana kita mendokumentasikannya.” Perubahan ini mungkin akan memperlahankan kadar inovasi dalam jangka pendek, tetapi ia mungkin membawa kepada teknologi yang lebih stabil dan boleh dipercayai dalam jangka masa panjang. Peraturan masih sedang ditulis, dan tuntutan mahkamah masih sedang diselesaikan. Apa yang jelas ialah “wild west” sudah tiada. Masa depan AI akan ditentukan oleh peguam dan penggubal undang-undang sama seperti oleh jurutera dan saintis data. Industri bimbang, tetapi ia juga menyesuaikan diri dengan realiti baharu dunia yang dikawal selia.

Nota editor: Kami mencipta laman web ini sebagai hab berita dan panduan AI berbilang bahasa untuk orang yang bukan pakar komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih yakin, dan mengikuti masa depan yang sudah tiba.

Menemui ralat atau sesuatu yang perlu diperbetulkan? Beritahu kami.