Apa Arti Nilai Kemanusiaan di Era AI

Mitos Kode yang Netral

Percakapan seputar artificial intelligence sering kali berpusat pada tolok ukur teknis dan daya pemrosesan. Kita berbicara tentang parameter dan petabyte seolah-olah itu adalah satu-satunya metrik yang penting. Fokus ini mengaburkan realitas yang lebih mendesak. Setiap large language model adalah cerminan dari preferensi manusia yang membentuknya. Tidak ada yang namanya algoritma yang netral. Ketika sebuah sistem memberikan jawaban, ia tidak mengambilnya dari ruang hampa kebenaran objektif. Ia mencerminkan serangkaian nilai berbobot tertentu yang ditetapkan oleh developer dan data labeler. Intinya sederhana. Kita tidak sedang mengajari mesin untuk berpikir. Kita mengajari mereka untuk meniru norma sosial kita yang spesifik dan sering kali kontradiktif. Pergeseran dari logika ke etika ini adalah perubahan paling signifikan dalam komputasi sejak penemuan internet. Hal ini memindahkan beban tanggung jawab dari hardware ke manusia yang menentukan seperti apa jawaban yang “benar” itu.

Industri baru-baru ini beralih dari kemampuan mentah ke keamanan dan penyelarasan (alignment). Ini terdengar seperti penyesuaian teknis, tetapi sebenarnya ini adalah proses yang sangat politis. Ketika kita meminta sebuah model untuk menjadi bermanfaat, tidak berbahaya, dan jujur, kita menggunakan kata-kata yang memiliki arti berbeda di berbagai budaya. Nilai yang tampak universal di ruang rapat San Francisco mungkin dianggap menyinggung atau tidak relevan di Jakarta. Ketegangan antara skala global dan nilai lokal adalah konflik utama dalam teknologi modern. Kita harus berhenti memandang AI sebagai kekuatan otonom dan mulai melihatnya sebagai perpanjangan dari niat manusia yang dikurasi. Ini mengharuskan kita untuk melihat melampaui hype pemasaran demi melihat pilihan nyata yang dibuat di balik layar.

Cermin Mekanis dari Pilihan Manusia

Untuk memahami bagaimana nilai masuk ke dalam mesin, Anda harus melihat Reinforcement Learning from Human Feedback, atau RLHF. Ini adalah proses di mana ribuan kontraktor manusia memberi peringkat pada berbagai respons dari sebuah model. Mereka mungkin melihat dua versi jawaban dan mengeklik yang menurut mereka lebih sopan atau akurat. Seiring waktu, model belajar mengaitkan pola tertentu dengan preferensi manusia ini. Ini bukan pencarian kebenaran. Ini adalah pencarian persetujuan. Model pada dasarnya dilatih untuk menyenangkan evaluator manusianya. Hal ini menciptakan lapisan moralitas yang sebenarnya hanyalah perkiraan statistik dari apa yang disukai oleh sekelompok orang tertentu.

Proses ini memperkenalkan subjektivitas dalam jumlah besar. Jika mayoritas labeler berasal dari demografi tertentu, model secara alami akan mengadopsi slang, isyarat sosial, dan bias politik kelompok tersebut. Inilah sebabnya mengapa versi awal dari banyak model populer kesulitan dengan konteks non-Barat. Mereka tidak rusak. Mereka hanya bekerja persis seperti cara mereka dilatih. Mereka mencerminkan nilai-nilai orang yang dibayar untuk menilainya. Ini adalah lapisan di mana konsep abstrak seperti keadilan dan bias menjadi baris kode yang konkret. Ini adalah proses manual yang padat karya yang terjadi jauh sebelum publik melihat antarmuka chat. Ini adalah infrastruktur tak terlihat dari kecerdasan modern.

Kebingungan yang dibawa kebanyakan orang ke topik ini adalah gagasan bahwa AI memiliki kompas moral internal. Tidak. Ia memiliki fungsi reward. Ketika sebuah model menolak untuk menjawab pertanyaan, itu bukan karena ia “merasa” topik tersebut salah. Itu karena data pelatihannya telah diberi bobot yang berat untuk menghindari pola spesifik tersebut. Perbedaan ini sangat penting. Jika kita percaya mesin itu bermoral, kita berhenti mempertanyakan orang-orang yang menetapkan aturan. Kita harus menyadari bahwa setiap penolakan dan setiap tips bermanfaat adalah respons terprogram berdasarkan keputusan manusia. Dengan mengidentifikasi ini, kita dapat mulai mengajukan pertanyaan yang lebih baik tentang siapa yang menetapkan aturan ini dan mengapa.

Geopolitik dalam Latent Space

Dampak dari pilihan-pilihan ini bersifat global. Sebagian besar model AI terkemuka dilatih terutama pada data bahasa Inggris dari open web. Ini menciptakan monokultur digital di mana nilai-nilai Barat menjadi default. Ketika pengguna di bagian dunia lain meminta saran tentang dinamika keluarga atau masalah hukum, mereka menerima jawaban yang disaring melalui lensa budaya tertentu. Ini bukan sekadar masalah terjemahan bahasa. Ini adalah masalah terjemahan budaya. Nuansa hierarki, privasi, dan komunitas sangat bervariasi di seluruh dunia, tetapi model sering kali memberikan solusi satu ukuran untuk semua. Sentralisasi pemikiran “benar” ini adalah bentuk baru dari soft power yang memiliki implikasi besar bagi wacana global.

Kita melihat adanya dorongan untuk mengembangkan model AI berdaulat sebagai respons terhadap hal ini. Negara-negara seperti Prancis, UEA, dan India berinvestasi dalam infrastruktur mereka sendiri untuk memastikan nilai budaya spesifik mereka terwakili. Mereka menyadari bahwa mengandalkan model asing berarti mengimpor pandangan dunia asing. Tren ini semakin cepat karena pemerintah menyadari bahwa kontrol atas latent space AI sama pentingnya dengan kontrol atas perbatasan fisik. Data yang digunakan untuk melatih model ini bertindak sebagai buku sejarah digital. Jika buku itu hanya berisi satu perspektif, kecerdasan yang dihasilkan akan terbatas secara inheren. Inilah sebabnya mengapa dorongan untuk set data yang beragam bukan sekadar inisiatif keberagaman. Ini adalah persyaratan untuk akurasi dan relevansi dalam skala global.

Taruhannya tinggi untuk kerja sama internasional. Jika setiap negara membangun AI-nya sendiri yang terisolasi dengan nilai-nilai kaku miliknya sendiri, kita mungkin akan kesulitan berkomunikasi melintasi batas digital. Namun, alternatifnya adalah dunia di mana beberapa perusahaan di satu lembah menentukan batas moral bagi miliaran orang. Tidak ada jalan yang sempurna. Tantangannya adalah menemukan cara untuk memungkinkan nuansa lokal sambil mempertahankan pemahaman bersama tentang hak asasi manusia yang mendasar. Ini adalah masalah yang tidak bisa diselesaikan dengan hardware yang lebih baik. Ini memerlukan diplomasi internasional dan pandangan yang jernih terhadap insentif yang mendorong industri teknologi saat ini. Anda dapat menemukan lebih banyak tentang tantangan ini dalam panduan komprehensif kami tentang etika dan tata kelola AI.

Keputusan dalam Loop

Pertimbangkan hari dalam kehidupan seorang manajer perekrutan bernama Sarah. Dia menggunakan alat AI untuk menyaring ratusan resume untuk peran engineering baru. Alat tersebut telah dilatih untuk mencari kandidat “berpotensi tinggi”. Di permukaan, ini tampak efisien. Namun di balik antarmuka, alat tersebut menerapkan serangkaian nilai yang dipelajarinya dari data perekrutan sebelumnya. Jika data historis menunjukkan bahwa perusahaan sebagian besar mempekerjakan orang dari tiga universitas tertentu, AI akan memprioritaskan sekolah-sekolah tersebut. Ia tidak menjadi “rasis” atau “elitis” dalam pengertian manusia. Ia hanya mengoptimalkan pola yang diberitahukan kepadanya sebagai sesuatu yang berharga. Sarah mungkin bahkan tidak menyadari bahwa alat tersebut menyaring kandidat brilian dari latar belakang non-tradisional karena mereka tidak sesuai dengan profil “nilai” dari data pelatihan.

Skenario ini terjadi di ribuan kantor setiap hari. Nilai-nilainya tidak abstrak. Itu adalah perbedaan antara mendapatkan pekerjaan dan diabaikan oleh algoritma. Logika yang sama berlaku untuk credit scoring, triase medis, dan bahkan hukuman pengadilan. Dalam setiap kasus, nilai manusia seperti “risiko” atau “merit” diubah menjadi angka. Bahayanya adalah kita memperlakukan angka-angka ini sebagai kebenaran objektif alih-alih pilihan subjektif sebagaimana adanya. Kita sering mendelegasikan kerja keras penilaian moral kepada mesin karena lebih cepat dan tidak terlalu tidak nyaman. Namun, mesin hanya mengotomatiskan bias kita yang ada pada skala yang tidak dapat kita pantau dengan mudah.

Produk yang kita gunakan setiap hari membuat argumen ini menjadi nyata. Ketika aplikasi pengeditan foto secara otomatis mencerahkan warna kulit seseorang agar terlihat “lebih baik”, ia sedang mengekspresikan sebuah nilai. Ketika aplikasi navigasi menghindari area “kriminalitas tinggi”, ia membuat penilaian nilai tentang keamanan dan kelas sosial. Ini bukan kesalahan teknis. Ini adalah kesimpulan logis dari data dan fungsi reward yang disediakan oleh manusia. Kita hidup di dunia di mana software kita terus-menerus membuat pilihan moral atas nama kita. Sebagian besar waktu, kita bahkan tidak menyadarinya sampai sesuatu yang salah terjadi. Kita perlu lebih kritis terhadap fitur “bermanfaat” yang sebenarnya hanyalah asumsi yang tertanam.

Perubahan terbaru dalam industri ini adalah langkah menuju “steerability”. Perusahaan sekarang memberikan pengguna lebih banyak kontrol atas “kepribadian” atau “nilai” AI mereka. Anda dapat memberi tahu model untuk menjadi “lebih kreatif” atau “lebih profesional”. Meskipun ini terasa seperti pemberdayaan, sebenarnya ini mengalihkan tanggung jawab kembali ke pengguna. Jika AI memberikan jawaban yang bias, perusahaan dapat mengklaim pengguna tidak menetapkan parameter dengan benar. Ini menciptakan jaringan akuntabilitas yang kompleks di mana tidak ada seorang pun yang benar-benar bertanggung jawab atas output tersebut. Kita bergerak dari dunia dengan nilai-nilai tetap ke dunia dengan nilai-nilai yang cair dan ditentukan pengguna, yang membawa risiko dan imbalannya sendiri.

Harga Moralitas Otomatis

Kita harus menerapkan skeptisisme Sokrates terhadap gagasan AI yang “aman”. Jika sebuah model selaras dengan sempurna, nilai siapa yang diselaraskannya? Ada biaya tersembunyi untuk filter keamanan yang kita lihat saat ini. Sering kali, filter ini dibangun menggunakan tenaga kerja berupah rendah di negara berkembang. Orang-orang dibayar beberapa dolar per jam untuk membaca konten paling mengerikan di internet agar mesin dapat belajar untuk menghindarinya. Kita pada dasarnya melakukan outsourcing trauma psikologis dari penetapan nilai ke global south. Apakah AI benar-benar “etis” jika keamanannya dibangun di atas punggung pekerja yang dieksploitasi? Ini adalah pertanyaan yang jarang ingin dijawab secara langsung oleh industri teknologi.

Keterbatasan lainnya adalah “halusinasi moralitas”. Karena model-model ini sangat pandai meniru, mereka bisa terdengar sangat meyakinkan saat berbicara tentang etika. Mereka dapat mengutip filsuf dan preseden hukum dengan mudah. Namun, mereka tidak memahami apa pun dari itu. Mereka hanya memprediksi token berikutnya dalam sebuah urutan.

Ketika kita mengandalkan AI untuk panduan moral, kita pada dasarnya berkonsultasi dengan burung beo yang sangat canggih. Ini menciptakan risiko “de-skilling moral”. Jika kita berhenti membuat pilihan sulit sendiri dan membiarkan AI menanganinya, kita mungkin kehilangan kemampuan untuk memikirkan masalah etika yang kompleks sendiri. Kita menukar agensi moral kita demi kenyamanan.

• Siapa yang mendefinisikan “kebenaran dasar” untuk topik subjektif seperti politik atau agama?
• Apa yang terjadi ketika nilai-nilai perusahaan swasta bertentangan dengan nilai-nilai masyarakat demokratis?
• Bagaimana kita mengaudit “kotak hitam” RLHF untuk melihat apa yang sebenarnya dihargai selama pelatihan?
• Bisakah sebuah mesin benar-benar menjadi “adil” jika dunia tempat ia dilatih secara inheren tidak adil?

Arsitektur Kendala

Bagi power user, “nilai” dari sebuah AI sering ditemukan dalam system prompt dan konfigurasi API. Ini adalah 20 persen dari teknologi yang mengontrol 80 persen pengalaman lainnya. Saat Anda berinteraksi dengan model melalui API, Anda dapat melihat pengaturan “temperature” dan “top-p”. Ini bukan sekadar tombol teknis. Pengaturan ini mengontrol seberapa banyak model diizinkan untuk menyimpang dari respons yang paling mungkin (dan sering kali paling bias). Temperature yang lebih rendah membuat model lebih dapat diprediksi dan “aman”, sementara temperature yang lebih tinggi memungkinkan lebih banyak “kreativitas” tetapi juga lebih banyak risiko. Pengaturan ini adalah garis pertahanan pertama dalam penyelarasan nilai.

Integrasi alur kerja adalah tempat di mana teori bertemu dengan praktik. Developer sekarang membangun lapisan “guardrail” yang berada di antara pengguna dan model. Lapisan ini menggunakan model sekunder untuk memeriksa input dan output untuk pelanggaran nilai. Ini menciptakan sistem kontrol bertingkat. Namun, guardrail ini memiliki batas API dan biaya latensi sendiri. Stack keamanan yang kompleks dapat memperlambat respons selama beberapa detik, yang merupakan trade-off signifikan dalam lingkungan produksi. Selain itu, penyimpanan lokal model-model ini menjadi semakin umum. Menjalankan model secara lokal memungkinkan pengguna untuk melewati filter perusahaan, tetapi juga memerlukan VRAM yang signifikan dan teknik kuantisasi yang dioptimalkan seperti GGUF atau EXL2.

Tantangan tingkat geek yang sebenarnya adalah “fine tuning” untuk nilai. Ini melibatkan pengambilan model dasar dan melatihnya pada dataset kecil berkualitas tinggi dari contoh-contoh spesifik. Inilah cara perusahaan menciptakan AI yang mencerminkan suara brand atau persyaratan hukum spesifik mereka. Ini adalah cara untuk “hard code” nilai ke dalam bobot model. Namun, proses ini mahal dan memerlukan pemahaman mendalam tentang gradient descent dan fungsi loss. Sebagian besar pengguna tidak akan pernah melakukan ini, tetapi mereka yang melakukannya adalah mereka yang benar-benar mengontrol “moralitas” mesin. Mereka adalah orang-orang yang menentukan batas-batas dari apa yang mungkin dalam ekosistem digital spesifik mereka. Kendala teknis adalah batas sebenarnya dari etika mesin.

Punya cerita, alat, tren, atau pertanyaan AI yang menurut Anda harus kami bahas? Kirimkan ide artikel Anda — kami akan senang mendengarnya.

Hak Prerogatif Manusia Terakhir

Pada akhirnya, AI adalah alat, bukan dewa. Ia tidak memiliki nilai; ia memiliki instruksi. Pergeseran baru-baru ini menuju interaksi yang lebih mirip manusia telah mengaburkan fakta ini, membuat kita lebih mungkin untuk mempercayai “penilaian” mesin. Kita harus menolak dorongan ini. Tanggung jawab untuk hasil etis tetap berada di tangan manusia yang merancang, menerapkan, dan menggunakan sistem ini. Kita harus lebih sedikit khawatir tentang AI “jahat” dan lebih khawatir tentang manusia yang menggunakan AI “netral” untuk membenarkan bias mereka sendiri. Mesin hanya sebaik niat tuannya.

Kita ditinggalkan dengan pertanyaan yang lebih tajam daripada saat kita memulai. Seiring AI menjadi lebih terintegrasi ke dalam kehidupan kita, kita harus memutuskan bagian mana dari kemanusiaan kita yang bersedia kita otomatisasi dan bagian mana yang harus kita lindungi. Taruhannya bukan hanya tentang hasil pencarian yang lebih baik atau email yang lebih cepat. Ini tentang siapa kita sebagai spesies dan dunia seperti apa yang ingin kita bangun. Kita tidak boleh membiarkan kenyamanan teknologi membutakan kita terhadap konsekuensi penggunaannya. Era AI bukanlah akhir dari nilai-nilai kemanusiaan. Ini adalah awal dari babak baru yang lebih sulit dalam sejarah kita. Kita harus siap untuk menulisnya dengan niat.

Catatan editor: Kami membuat situs ini sebagai pusat berita dan panduan AI multibahasa untuk orang-orang yang bukan ahli komputer, tetapi masih ingin memahami kecerdasan buatan, menggunakannya dengan lebih percaya diri, dan mengikuti masa depan yang sudah tiba.

Menemukan kesalahan atau sesuatu yang perlu diperbaiki? Beritahu kami.