Bagaimana Pemerintah Berusaha Mengendalikan AI

Aturan Baru untuk Sang Mesin

Era “wild west” dalam kecerdasan buatan (AI) kini berakhir. Pemerintah tidak lagi sekadar menonton dari pinggir lapangan. Mereka sedang menyusun buku aturan yang akan menentukan bagaimana kode ditulis dan di mana ia bisa dijalankan. Ini bukan sekadar soal etika atau prinsip yang samar, melainkan tentang hukum yang tegas dan denda yang sangat besar. Uni Eropa telah memimpin dengan AI Act mereka. Amerika Serikat menyusul dengan perintah eksekutif yang komprehensif. Tindakan ini mengubah kalkulasi bagi setiap perusahaan teknologi di planet ini. Jika Anda membangun model yang melampaui ambang batas daya tertentu, Anda kini menjadi sasaran pengawasan. Anda harus membuktikan bahwa model tersebut aman sebelum sampai ke publik. Pergeseran ini menandai transisi dari janji keamanan sukarela menjadi pengawasan wajib. Bagi pengguna biasa, ini berarti alat yang Anda gunakan besok mungkin terlihat berbeda dari yang Anda gunakan hari ini. Beberapa fitur mungkin diblokir di negara Anda. Alat lain mungkin menjadi lebih transparan tentang bagaimana mereka menggunakan data Anda. Tujuannya adalah menyeimbangkan kemajuan dengan perlindungan, namun jalannya penuh dengan gesekan.

Beralih dari Etika ke Penegakan Hukum

Untuk memahami aturan baru ini, Anda harus melihat kategori risikonya. Sebagian besar pemerintah beralih dari pendekatan “satu ukuran untuk semua”. Sebaliknya, mereka menilai sistem berdasarkan potensi bahaya yang mungkin ditimbulkan. Ini adalah perubahan operasional langsung. Perusahaan tidak bisa lagi sekadar merilis produk dan berharap yang terbaik. Mereka harus mengategorikan teknologi mereka sebelum sampai ke tangan pengguna. Klasifikasi ini menentukan tingkat pengawasan yang akan diterapkan pemerintah. Ini juga menentukan tingkat tanggung jawab hukum yang dihadapi perusahaan jika terjadi kesalahan. Fokus telah bergeser dari apa itu AI menjadi apa yang dilakukan AI. Jika sebuah sistem membuat keputusan tentang orang, sistem tersebut diperlakukan dengan kecurigaan yang jauh lebih tinggi daripada sistem yang hanya menghasilkan gambar kucing.

Aturan paling ketat berlaku untuk sistem yang dianggap berisiko tidak dapat diterima. Ini bukan sekadar tidak dianjurkan, melainkan dilarang. Hal ini menciptakan batasan yang jelas bagi para developer. Mereka tahu persis garis mana yang tidak boleh dilanggar. Untuk hal lainnya, aturan mengharuskan tingkat dokumentasi baru. Perusahaan harus menyimpan catatan rinci tentang bagaimana model mereka dilatih. Mereka juga harus mampu menjelaskan bagaimana model tersebut mencapai kesimpulannya. Ini adalah tantangan teknis yang signifikan karena banyak model modern pada dasarnya adalah “black box”. Memaksa mereka agar dapat dijelaskan memerlukan perubahan mendasar dalam cara mereka dirancang. Aturan juga menuntut agar data yang digunakan untuk pelatihan bersih dan bebas dari bias. Ini berarti proses pengumpulan data itu sendiri kini tunduk pada audit hukum. Kategori berikut mendefinisikan pendekatan regulasi saat ini:

• Sistem terlarang yang menggunakan penilaian sosial atau teknik penipuan untuk memanipulasi perilaku.
• Sistem berisiko tinggi yang digunakan dalam infrastruktur kritis, perekrutan, dan penegakan hukum yang memerlukan audit ketat.
• Sistem berisiko terbatas seperti chatbot yang harus mengungkapkan bahwa mereka bukan manusia.
• Sistem berisiko minimal seperti video game berbasis AI yang menghadapi lebih sedikit batasan.

Struktur ini dirancang agar fleksibel. Seiring perubahan teknologi, daftar aplikasi berisiko tinggi bisa bertambah. Ini menjaga hukum tetap relevan bahkan saat perangkat lunak berkembang. Namun, ini juga menciptakan keadaan ketidakpastian permanen bagi bisnis. Mereka harus terus memeriksa apakah fitur baru mereka telah berpindah ke kategori yang lebih diatur. Inilah realitas baru dalam membangun perangkat lunak di dunia yang waspada terhadap kekuatan mesin.

Kerangka Kerja Global yang Terpecah

Dampak dari aturan ini tidak terbatas pada perbatasan satu negara saja. Kita melihat munculnya *Brussels Effect*. Ketika Uni Eropa menetapkan standar tinggi untuk regulasi teknologi, perusahaan global sering kali mengadopsi standar tersebut di mana-mana untuk menyederhanakan operasi mereka. Lebih murah membangun satu produk yang patuh daripada membangun sepuluh versi berbeda untuk pasar yang berbeda. Ini memberi Eropa pengaruh besar atas bagaimana AI dibangun di Silicon Valley. Anda dapat membaca lebih lanjut tentang EU AI Act untuk melihat bagaimana standar ini disusun. Di Amerika Serikat, pendekatannya berbeda namun sama pentingnya. Pemerintah menggunakan **Defense Production Act** untuk memaksa raksasa teknologi membagikan hasil uji keamanan mereka. Ini menandakan bahwa AS memandang AI skala besar sebagai masalah keamanan nasional.

Sementara itu, Tiongkok telah mengambil jalur yang lebih langsung. Regulasi mereka berfokus pada konten yang dihasilkan oleh AI generatif. Mereka mengharuskan output selaras dengan nilai-nilai sosial dan tidak merusak kekuasaan negara. Ini menciptakan dunia yang terfragmentasi di mana model yang sama mungkin berperilaku berbeda tergantung di mana Anda login. Model di Beijing akan memiliki batasan yang berbeda dari yang ada di Paris atau New York. Fragmentasi ini menjadi pusing bagi developer yang kini harus bekerja di tengah jaringan aturan yang saling bertentangan. Beberapa negara menginginkan lebih banyak keterbukaan sementara yang lain menginginkan lebih banyak kendali atas narasi. Bagi audiens global, ini berarti pengalaman AI menjadi terlokalisasi. Impian tentang internet tunggal tanpa batas mulai memudar. Sebagai gantinya adalah lingkungan yang diatur di mana lokasi Anda menentukan apa yang boleh dikatakan oleh mesin kepada Anda. Inilah realitas baru tahun 2024. Ini adalah pergeseran yang akan menentukan dekade pertumbuhan teknologi berikutnya.

Kehidupan Sehari-hari di Bawah Pengawasan Regulasi

Bayangkan pagi yang khas bagi seorang manajer proyek bernama Sarah. Dia memulai harinya dengan membuka alat AI untuk meringkas rangkaian email yang panjang. Berdasarkan regulasi baru, perangkat lunaknya harus memberitahunya bahwa ringkasan tersebut dihasilkan oleh algoritma. Perangkat lunak tersebut juga harus memastikan bahwa data perusahaannya tidak digunakan untuk melatih model publik tanpa persetujuannya. Ini adalah hasil langsung dari perlindungan privasi baru yang tertanam dalam undang-undang terkini. Kemudian, Sarah melamar peran baru di sebuah perusahaan teknologi. Perusahaan tersebut menggunakan alat penyaringan AI. Karena ini adalah aplikasi berisiko tinggi, perusahaan harus mengaudit alat tersebut untuk mencari bias. Sarah memiliki hak hukum untuk meminta penjelasan mengapa AI memberi peringkat padanya seperti itu. Dulu, dia mungkin hanya menerima penolakan umum. Sekarang, dia memiliki jalan menuju transparansi. Ini adalah contoh konkret bagaimana tata kelola mengubah dinamika kekuasaan antara korporasi dan individu.

Pada sore hari, Sarah berjalan melalui pusat perbelanjaan. Di beberapa kota, pengenalan wajah akan melacak gerakannya untuk menyajikan iklan yang ditargetkan. Berdasarkan aturan ketat Uni Eropa, pengawasan waktu nyata semacam ini dibatasi. Mal harus memiliki alasan hukum khusus untuk menggunakannya dan Sarah harus diberitahu. Produk yang dia gunakan juga berubah. Perusahaan seperti OpenAI dan Google sudah menyesuaikan fitur mereka untuk mematuhi hukum setempat. Anda mungkin memperhatikan bahwa alat penghasil gambar tertentu tidak tersedia di wilayah Anda atau memiliki filter ketat yang mencegahnya membuat wajah realistis dari tokoh publik. Ini bukan batasan teknis, melainkan batasan hukum. Argumen untuk aturan ini terasa nyata ketika Anda mempertimbangkan potensi deepfake untuk mengganggu pemilihan umum atau algoritma bias yang menolak perumahan bagi orang-orang. Dengan menempatkan batasan, pemerintah mencoba mencegah bahaya ini sebelum terjadi. Ini adalah pendekatan AS terhadap keamanan AI dalam tindakan.

Namun, Sarah mungkin juga memperhatikan bahwa alatnya menjadi lebih lambat atau lebih terbatas. Respons “Maaf, saya tidak bisa melakukan itu” dari AI sering kali merupakan hasil dari developer yang mencoba menghindari denda besar. Ketegangan antara kegunaan dan keamanan terlihat dalam setiap interaksi. Ini adalah pengingat konstan bahwa mesin sedang diawasi. Evolusi ini tidak statis. Aturan diperbarui seiring munculnya kemampuan baru. Tujuannya adalah memastikan bahwa AI yang digunakan Sarah adalah alat untuk keuntungannya, bukan sistem yang bekerja melawan kepentingannya di balik layar. Ini adalah perubahan paling signifikan dalam cara kita berinteraksi dengan komputer sejak penemuan internet.

Biaya Tersembunyi dari Kepatuhan

Kita harus mengajukan pertanyaan sulit tentang siapa yang sebenarnya menang di dunia yang diatur. Apakah beban regulasi yang berat benar-benar melindungi publik, atau hanya melindungi pemain lama? Perusahaan teknologi besar memiliki sumber daya untuk mempekerjakan ratusan pengacara dan insinyur untuk menangani kepatuhan. Startup kecil di garasi tidak memilikinya. Kita berisiko menciptakan dunia di mana hanya raksasa yang mampu berinovasi. Ini bisa menyebabkan berkurangnya persaingan dan harga yang lebih tinggi bagi pengguna. Ada juga pertanyaan tentang privasi versus keamanan. Ketika pemerintah menuntut akses ke cara kerja bagian dalam model AI, siapa yang melindungi data itu? Jika pemerintah dapat mengaudit model untuk memastikannya aman, mereka juga dapat menggunakan akses yang sama untuk memantau apa yang dipelajari model dari penggunanya. Ini adalah pertukaran yang jarang dibahas di forum publik.

Kita juga harus mempertimbangkan biaya tersembunyi dari inovasi. Jika setiap fitur baru harus melalui proses persetujuan yang panjang, apakah kita akan melewatkan terobosan yang bisa menyelamatkan nyawa dalam kedokteran atau memecahkan masalah iklim yang kompleks? Gesekan regulasi adalah biaya nyata. Kita perlu tahu apakah keamanan yang kita peroleh sepadan dengan kemajuan yang kita hilangkan. Ada juga masalah penegakan hukum. Bagaimana Anda mengatur model yang dihosting di jaringan terdesentralisasi atau di negara yang mengabaikan norma internasional? Aturan mungkin hanya berlaku bagi perusahaan yang memilih untuk mematuhinya, membiarkan aktor paling berbahaya beroperasi tanpa pengawasan. Ini menciptakan rasa aman palsu. Kita membangun pagar di sekitar warga yang taat hukum sementara gerbang tetap terbuka untuk orang lain. Ini adalah pertanyaan yang sering dihindari oleh regulator. Mereka fokus pada risiko yang terlihat sambil mengabaikan risiko sistemik. Saat kita melangkah maju, kita harus memastikan bahwa keinginan kita akan keamanan tidak membutakan kita terhadap nilai pasar yang terbuka dan kompetitif.

Punya cerita, alat, tren, atau pertanyaan AI yang menurut Anda harus kami bahas? Kirimkan ide artikel Anda — kami akan senang mendengarnya.

Biaya Teknis dari Transparansi

Bagi pengguna tingkat lanjut dan developer, regulasi baru diterjemahkan menjadi batasan teknis tertentu. Salah satu metrik paling signifikan adalah ambang batas komputasi. Perintah Eksekutif AS menetapkan batas pada 10 pangkat 26 operasi floating point. Model apa pun yang dilatih dengan daya lebih dari ini harus dilaporkan kepada pemerintah. Ini memaksa developer untuk menyimpan log rinci tentang penggunaan perangkat keras dan proses pelatihan mereka. Batas API juga menjadi alat untuk regulasi. Untuk mencegah pembuatan disinformasi massal, beberapa wilayah mempertimbangkan batasan berapa banyak permintaan yang dapat dibuat oleh satu pengguna ke model generatif. Ini memengaruhi cara developer membangun aplikasi yang mengandalkan model ini. Mereka sekarang harus memperhitungkan batasan ini dalam kode dan model bisnis mereka. Penyimpanan lokal adalah faktor utama lainnya. Hukum sering kali mengharuskan data tentang warga negara tetap berada dalam batas geografis tertentu. Ini berarti perusahaan tidak bisa hanya menggunakan cloud pusat untuk memproses data dari mana saja. Mereka harus membangun dan memelihara pusat data lokal. Persyaratan teknis meliputi:

• Watermarking wajib di tingkat API untuk mengidentifikasi konten yang dihasilkan AI.
• Persyaratan residensi data yang memaksa pemrosesan dan penyimpanan lokal.
• Pencatatan komputasi untuk setiap pelatihan model yang melebihi ambang batas 10 pangkat 26 flops.
• Lapisan penjelasan yang memungkinkan audit manusia terhadap bobot model dan jalur keputusan.

Alur kerja integrasi juga berubah. Developer sekarang harus membangun pemeriksaan keamanan di setiap tahap pipeline. Jika Anda membangun alat yang menggunakan API pihak ketiga, Anda sekarang bertanggung jawab atas bagaimana API tersebut menangani data. Anda harus memastikan bahwa integrasi Anda tidak melewati filter keamanan yang ditetapkan oleh penyedia. Bagian teknis dari hukum adalah tempat pertempuran sebenarnya terjadi. Ini tentang latensi, residensi data, dan matematika bobot model. Ini adalah detail yang menentukan apakah suatu produk layak atau akan terkubur di bawah beban persyaratan kepatuhannya sendiri. Anda dapat menemukan detail lebih lanjut tentang pergeseran teknis ini dalam laporan berita terbaru mengenai kebijakan teknologi. Bagi mereka yang ingin tetap terdepan dalam perubahan ini, mengikuti perkembangan terbaru dalam regulasi AI adalah hal yang penting. Kompleksitas aturan ini berarti peran developer menjadi sama banyaknya tentang hukum seperti halnya tentang kode.

Kode yang Belum Selesai

Upaya untuk mengendalikan AI adalah pekerjaan yang sedang berlangsung. Kita bergerak dari periode kebebasan total ke periode pertumbuhan yang dikelola. Aturan yang ditulis hari ini akan membentuk teknologi dekade berikutnya. Namun, kecepatan perangkat lunak selalu melampaui kecepatan legislasi. Pada saat undang-undang disahkan, teknologi sering kali telah beralih ke sesuatu yang baru. Ini meninggalkan kita dengan pertanyaan langsung yang akan membuat subjek ini terus berkembang: bisakah proses demokrasi cukup cepat untuk mengatur kecerdasan yang menulis ulang dirinya sendiri? Untuk saat ini, fokusnya adalah pada transparansi dan akuntabilitas. Kita mencoba memastikan bahwa manusia tetap memegang kendali atas mesin yang mereka bangun. Apakah aturan ini akan membuat AI lebih aman atau hanya lebih rumit, masih harus dilihat. Satu-satunya kepastian adalah bahwa era algoritma yang tidak diatur telah berakhir. Inilah realitas tahun 2024 dan seterusnya.

Catatan editor: Kami membuat situs ini sebagai pusat berita dan panduan AI multibahasa untuk orang-orang yang bukan ahli komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih percaya diri, dan mengikuti masa depan yang sudah tiba.

Menemukan kesalahan atau sesuatu yang perlu diperbaiki? Beritahu kami.