Buku Peraturan Global Baharu untuk AI Mula Terbentuk

Berakhirnya Inovasi Tanpa Kebenaran

Zaman Wild West dalam kecerdasan buatan (AI) sudah berakhir. Selama bertahun-tahun, pembangun membina model dengan pengawasan yang minima dan akauntabiliti yang lebih rendah. Kini, buku peraturan global yang baharu sedang muncul untuk menggantikan kebebasan tersebut dengan struktur pematuhan dan keselamatan yang ketat. Ini bukan sekadar cadangan atau garis panduan sukarela. Ia adalah satu siri undang-undang tegas yang disokong oleh denda besar dan ancaman penyingkiran pasaran. Kesatuan Eropah menerajui usaha ini dengan AI Act yang komprehensif, manakala Amerika Syarikat bergerak ke hadapan dengan perintah eksekutif yang menyasarkan model paling berkuasa. Peraturan ini akan mengubah cara kod ditulis dan cara data dikumpul. Ia akan mengubah siapa yang mampu bersaing dalam bidang berisiko tinggi ini. Jika anda membina model yang meramal tingkah laku manusia, anda kini berada di bawah mikroskop. Peralihan ini mengalihkan fokus industri daripada kelajuan kepada keselamatan. Syarikat kini mesti membuktikan sistem mereka tidak berat sebelah sebelum melancarkannya. Inilah realiti baharu bagi setiap firma teknologi di planet ini.

Mengategorikan Risiko dalam Kod

Teras kepada peraturan baharu ini ialah pendekatan berasaskan risiko. Ini bermakna undang-undang melayan enjin cadangan muzik secara berbeza daripada alat diagnostik perubatan atau kereta pandu sendiri. Kesatuan Eropah telah menetapkan standard emas untuk jenis peraturan ini. Mereka membahagikan AI kepada empat kategori berbeza berdasarkan potensi bahaya yang boleh ditimbulkan kepada masyarakat. Sistem yang dilarang adalah sistem yang menyebabkan bahaya yang jelas dan diharamkan sepenuhnya. Ini termasuk sistem pemarkahan sosial seperti yang digunakan oleh negara autoritarian untuk menjejak dan memberi pangkat kepada rakyat. Ia juga termasuk pengenalan biometrik masa nyata di ruang awam oleh penguatkuasa undang-undang, dengan sangat sedikit pengecualian untuk keselamatan negara. Sistem berisiko tinggi adalah sistem yang akan mendapat penelitian paling banyak daripada pengawal selia. Ini digunakan dalam infrastruktur kritikal, pendidikan, dan pekerjaan. Jika AI menentukan siapa yang mendapat pekerjaan atau siapa yang layak mendapat pinjaman, ia mestilah telus. Ia mesti mempunyai pengawasan manusia dan tahap ketepatan yang tinggi. Sistem berisiko terhad, seperti chatbot, mempunyai peraturan yang lebih sedikit tetapi masih memerlukan ketelusan. Mereka hanya perlu memberitahu pengguna bahawa mereka sedang bercakap dengan mesin. Sistem berisiko minimum, seperti permainan video dengan musuh AI, kebanyakannya dibiarkan begitu sahaja. Rangka kerja ini direka untuk melindungi hak tanpa menghentikan semua kemajuan. Walau bagaimanapun, definisi kategori ini masih didebatkan di mahkamah dan bilik lembaga pengarah. Apa yang dipanggil oleh seseorang sebagai cadangan mudah, orang lain mungkin memanggilnya manipulasi psikologi. Peraturan ini cuba melukis garisan di atas pasir, tetapi pasir itu sentiasa berubah apabila teknologi berkembang.

Parlimen Eropah telah memperincikan kategori ini dalam taklimat terkini mereka mengenai EU AI Act. Dokumen ini menjadi asas kepada cara dunia lain berfikir tentang tadbir urus AI. Ia mengalihkan perbualan daripada ketakutan abstrak kepada keperluan operasi konkrit yang mesti dipenuhi oleh syarikat untuk terus beroperasi.

Perlumbaan Penyeragaman Global

Peraturan ini tidak terhenti di Eropah. Kita sedang melihat kebangkitan *Brussels Effect* dalam masa nyata. Ini berlaku apabila pasaran besar menetapkan peraturan yang mesti diikuti oleh orang lain untuk kekal relevan. Syarikat global tidak akan membina satu model untuk Paris dan model yang berbeza untuk New York jika kosnya terlalu tinggi. Mereka hanya akan membina mengikut standard paling ketat yang ada. Inilah sebabnya rangka kerja EU menjadi templat global. Negara lain sedang memerhati dengan teliti dan merangka versi mereka sendiri. Brazil dan Kanada sudah pun mengusahakan undang-undang serupa yang mencerminkan pendekatan Eropah. Malah Amerika Syarikat, yang biasanya lebih suka sentuhan ringan untuk menggalakkan inovasi, sedang bergerak ke arah lebih banyak kawalan. Rumah Putih mengeluarkan perintah eksekutif yang memerlukan pembangun model berkuasa untuk berkongsi keputusan ujian keselamatan mereka dengan kerajaan. Ini mewujudkan dunia peraturan yang berpecah-belah tetapi menumpu. Syarikat kini mesti mengupah pasukan peguam hanya untuk membaca keperluan baharu. Startup kecil di pasaran baru muncul mungkin mendapati peraturan ini mustahil untuk diikuti. Ini boleh membawa kepada dunia di mana hanya gergasi teknologi terbesar mempunyai sumber untuk kekal patuh. Ia adalah permainan berisiko tinggi di mana peraturan sedang ditulis semasa kereta sudah pun dipandu pada kelajuan penuh. US Executive Order mengenai keselamatan AI adalah isyarat jelas bahawa era kawal selia kendiri sudah berakhir. Walaupun dalam iklim politik yang berpecah, keperluan untuk tahap pengawasan tertentu telah menjadi titik persetujuan yang jarang berlaku di kalangan pemimpin dunia.

Ada cerita, alat, trend, atau soalan AI yang anda fikir kami patut liputi? Hantar idea artikel anda kepada kami — kami ingin mendengarnya.

Sehari di Pejabat yang Patuh

Bayangkan seorang pengurus produk bernama Alex. Alex bekerja di sebuah startup yang membina alat AI untuk sumber manusia. Sebelum peraturan baharu, Alex akan menolak kemas kini setiap petang Jumaat. Kini, prosesnya jauh lebih perlahan dan lebih berhati-hati. Setiap ciri baharu mesti melalui penilaian risiko yang ketat sebelum satu baris kod digunakan. Alex perlu mendokumentasikan data latihan dan menunjukkan bahawa ia tidak mendiskriminasi kumpulan yang dilindungi. Dia perlu menyimpan log terperinci tentang cara model membuat keputusan. Ini menambah minggu kepada kitaran pembangunan. Pada hari Selasa biasa, Alex tidak mengekod atau bertukar fikiran tentang ciri baharu. Dia sedang bermesyuarat dengan pegawai pematuhan untuk menyemak kad model. Mereka sedang menyemak sama ada log API memenuhi standard baharu untuk ketelusan dan pengekalan data. Inilah geseran yang dicipta oleh keselamatan. Bagi pengguna, ini mungkin bermakna pelancaran ciri baharu yang lebih perlahan. Tetapi ia juga bermakna peluang yang lebih rendah untuk ditolak secara tidak adil untuk pekerjaan oleh algoritma kotak hitam. Orang ramai sering melebih-lebihkan sejauh mana peraturan ini akan menghentikan inovasi. Mereka fikir industri akan terhenti. Pada realitinya, ia hanya akan berubah bentuk. Orang ramai juga memandang rendah kerumitan undang-undang ini. Ia bukan sekadar mengelakkan berat sebelah. Ia mengenai kedaulatan data dan penggunaan tenaga. Percanggahan ada di mana-mana. Kita mahu AI menjadi pantas dan berkuasa, tetapi kita juga mahu ia menjadi perlahan dan berhati-hati. Kita mahu ia terbuka dan telus, tetapi kita juga mahu melindungi rahsia perdagangan syarikat yang membina AI tersebut. Ketegangan ini tidak diselesaikan: ia diuruskan. Buku peraturan baharu adalah percubaan untuk hidup dengan percanggahan ini. Alex perlu mengendalikan beberapa tugas khusus setiap minggu:

• Menyemak asal usul data untuk memastikan semua set latihan diperoleh secara sah.
• Menjalankan skrip pengesanan berat sebelah pada setiap lelaran model baharu.
• Mendokumentasikan sumber pengkomputeran yang digunakan untuk melatih model besar.
• Mengemas kini antara muka pengguna untuk memasukkan pendedahan AI mandatori.
• Menguruskan audit pihak ketiga terhadap protokol keselamatan syarikat.

Menjelang penghujung hari, Alex merasakan beban peraturan baharu ini. Dia tahu ia penting untuk keadilan. Tetapi dia juga tahu bahawa pesaingnya di negara yang mempunyai peraturan lebih sedikit bergerak lebih pantas. Dia tertanya-tanya sama ada startupnya boleh bertahan dengan kos untuk menjadi beretika. Inilah realiti bagi ribuan pembangun. Geseran itu nyata, dan ia akan kekal di sini. Untuk maklumat lanjut tentang cara perubahan ini menjejaskan industri, lihat analisis dasar AI terbaharu kami.

Soalan Sukar untuk Pengawal Selia Baharu

Siapa yang sebenarnya mendapat manfaat daripada peraturan ini? Adakah orang awam, atau gergasi teknologi sedia ada yang mampu membayar yuran guaman? Jika startup perlu membelanjakan separuh daripada pusingan benihnya untuk pematuhan, adakah itu secara berkesan membunuh persaingan? Kita juga mesti bertanya tentang kos tersembunyi privasi. Jika setiap model mesti diaudit, siapa yang melakukan audit? Adakah kita mempercayai agensi kerajaan untuk mempunyai akses kepada kerja dalaman setiap AI utama? Terdapat juga persoalan ketidaksamaan global. Jika Barat menetapkan peraturan, apa yang berlaku kepada Global South? Adakah mereka akan dipaksa untuk menerima pakai standard yang tidak sesuai dengan keperluan tempatan mereka? Kita diberitahu peraturan ini menjadikan kita lebih selamat, tetapi adakah ia benar? Atau adakah ia hanya mewujudkan rasa keselamatan palsu sementara risiko sebenar berpindah ke bahagian gelap web yang tidak dikawal? Kita mesti bertanya sama ada undang-undang yang ditulis hari ini boleh mengikuti teknologi yang berubah setiap bulan. Jurang antara kod dan undang-undang adalah ruang di mana banyak perkara boleh menjadi salah. Badan Penasihat AI Pertubuhan Bangsa-Bangsa Bersatu sedang cuba menangani jurang global ini, tetapi konsensus sukar dicari. Percanggahan tetap kelihatan. Kita mahu perlindungan, tetapi kita takut keterlaluan. Kita mahu inovasi, tetapi kita takut akibat daripada sistem yang tidak kita fahami sepenuhnya. Soalan-soalan ini tidak mempunyai jawapan yang mudah, dan undang-undang semasa hanyalah percubaan pertama untuk mencarinya.

Seni Bina Teknikal Pematuhan

Bagi pengguna kuasa dan pembangun, peraturan menjadi sangat spesifik. Perintah eksekutif AS memfokuskan pada kuasa pengkomputeran sebagai proksi untuk risiko. Jika model dilatih menggunakan lebih daripada 10^26 operasi titik terapung, ia mencetuskan keperluan pelaporan mandatori. Ini adalah jumlah pengkomputeran yang besar, tetapi apabila perkakasan menjadi lebih baik, lebih banyak model akan mencapai had ini. Pembangun juga mesti bimbang tentang asal usul data. Anda tidak boleh lagi hanya mengikis internet dan berharap yang terbaik. Anda perlu membuktikan anda mempunyai hak untuk menggunakan data tersebut. Terdapat juga standard baharu untuk red-teaming. Ini adalah tempat anda mengupah orang untuk mencuba dan memecahkan AI anda. Keputusan ujian ini kini mesti didokumentasikan dan dikongsi dengan pengawal selia dalam bidang kuasa tertentu. Penyedia API juga menghadapi had baharu. Mereka mungkin dikehendaki mengesahkan identiti pelanggan mereka untuk menghalang AI dwi-guna daripada jatuh ke tangan yang salah. Storan tempatan model adalah satu lagi bidang yang membimbangkan. Jika model cukup kecil untuk dijalankan pada komputer riba, bagaimana anda menguatkuasakan peraturan ini? Jawapannya selalunya melalui sekatan peringkat perkakasan atau penanda air mandatori kandungan yang dijana AI. Halangan teknikal ini adalah garis dasar baharu bagi sesiapa yang bekerja dalam bidang ini. Anda kini mesti mempertimbangkan keperluan teknikal berikut:

• Melaksanakan pembalakan yang mantap untuk semua sesi latihan model.
• Membangunkan alat automatik untuk penanda air output teks dan imej.
• Menyediakan persekitaran selamat untuk audit model pihak ketiga.
• Memastikan had kadar API tidak memintas penapis keselamatan.
• Menyelenggara rekod terperinci bagi semua campur tangan manusia dalam gelung.

Keperluan ini mengubah aliran kerja pembangun. Ia bukan lagi sekadar mengoptimumkan ketepatan atau kelajuan. Ia adalah mengenai membina sistem yang boleh diaudit dari bawah ke atas. Ini bermakna lebih banyak masa dihabiskan untuk infrastruktur dan kurang masa untuk algoritma teras. Ia juga bermakna storan tempatan dan model luar talian akan menghadapi tekanan yang semakin meningkat untuk memasukkan ciri keselamatan yang sama, yang boleh menjejaskan prestasi pada peranti tepi.

Rangka Kerja yang Belum Selesai

Kesimpulannya ialah era bergerak pantas dan memecahkan perkara sudah berakhir untuk kecerdasan buatan. Kita sedang bergerak ke era bergerak dengan berhati-hati dan mendokumentasikan segala-galanya. Peraturan masih ditulis, dan ia jauh daripada sempurna. Ia adalah kompromi yang tidak kemas antara keselamatan, keuntungan, dan keselamatan negara. Satu soalan utama masih terbuka: bolehkah undang-undang berpusat benar-benar mengawal teknologi terdesentralisasi? Apabila model sumber terbuka terus bertambah baik, jurang antara apa yang dikawal dan apa yang mungkin akan berkembang. Ini bukan pengakhiran cerita. Ia hanyalah pengakhiran kepada permulaan. Buku peraturan mula terbentuk, tetapi dakwatnya masih basah. Kita akan melihat bagaimana undang-undang ini dikuatkuasakan dan bagaimana industri menyesuaikan diri dalam beberapa bulan akan datang. Satu-satunya kepastian ialah cara kita membina dan menggunakan AI tidak akan sama lagi.

Nota editor: Kami mencipta laman web ini sebagai hab berita dan panduan AI berbilang bahasa untuk orang yang bukan pakar komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih yakin, dan mengikuti masa depan yang sudah tiba.