Yapay Zeka Çağında İnsani Değerler Ne Anlama Geliyor?

Tarafsız Kod Efsanesi

Yapay zeka etrafındaki sohbetler genellikle teknik kıyaslamalar ve işlem gücü üzerine odaklanıyor. Parametreler ve petabaytlar hakkında sanki tek önemli ölçüt bunlarmış gibi konuşuyoruz. Ancak bu odak noktası, daha acil bir gerçeği gölgeliyor. Her büyük dil modeli, onu şekillendiren insani tercihlerin bir aynasıdır. Tarafsız bir algoritma diye bir şey yoktur. Bir sistem bir cevap verdiğinde, bu cevap nesnel bir doğruluk boşluğundan gelmez; geliştiriciler ve veri etiketleyiciler tarafından belirlenen belirli bir ağırlıklı değerler kümesini yansıtır. Temel çıkarım basittir: Makinelere düşünmeyi öğretmiyoruz, onları bizim belirli ve genellikle çelişkili sosyal normlarımızı taklit etmeleri için eğitiyoruz. Mantıktan etiğe geçiş, internetin icadından bu yana bilişim dünyasındaki en önemli değişimdir. Bu durum, sorumluluk yükünü donanımdan, “doğru” cevabın neye benzediğini tanımlayan insanlara kaydırır.

Sektör kısa süre önce ham kapasiteden güvenlik ve hizalanmaya (alignment) yöneldi. Bu kulağa teknik bir ayarlama gibi gelse de aslında son derece politik bir süreçtir. Bir modelden yardımsever, zararsız ve dürüst olmasını istediğimizde, kültürden kültüre farklı anlamlar taşıyan kelimeler kullanıyoruz. San Francisco’daki bir yönetim kurulunda evrensel görünen bir değer, Cakarta’da saldırgan veya alakasız bulunabilir. Küresel ölçek ile yerel değerler arasındaki gerilim, modern teknolojideki temel çatışmadır. Yapay zekayı otonom bir güç olarak görmeyi bırakıp, onu insani niyetin küratörlüğünü üstlenmiş bir uzantısı olarak görmeye başlamalıyız. Bu, perde arkasında verilen gerçek kararları görmek için pazarlama abartılarının ötesine bakmayı gerektirir.

İnsani Seçimlerin Mekanik Aynası

Değerlerin bir makineye nasıl girdiğini anlamak için RLHF (Reinforcement Learning from Human Feedback) yani İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme sürecine bakmanız gerekir. Bu, binlerce insan yüklenicinin bir modelden gelen farklı yanıtları sıraladığı süreçtir. Bir cevabın iki versiyonunu görüp daha nazik veya doğru buldukları birine tıklayabilirler. Zamanla model, belirli kalıpları bu insani tercihlerle ilişkilendirmeyi öğrenir. Bu bir hakikat arayışı değil, bir onay arayışıdır. Model esasen insan değerlendiricilerini memnun etmek için eğitilmektedir. Bu, aslında belirli bir grubun duymaktan hoşlandığı şeylerin istatistiksel bir yaklaşımı olan bir ahlak cilası yaratır.

Bu süreç büyük miktarda öznellik getirir. Eğer etiketleyicilerin çoğunluğu belirli bir demografiden geliyorsa, model doğal olarak o grubun argo, sosyal ipuçları ve politik önyargılarını benimseyecektir. Birçok popüler modelin ilk sürümlerinin Batılı olmayan bağlamlarda zorlanmasının nedeni budur. Bozuk değillerdi; sadece eğitildikleri gibi çalışıyorlardı. Onları puanlamak için ödeme alan insanların değerlerini yansıtıyorlardı. Adalet ve önyargı gibi soyut kavramların somut kod satırlarına dönüştüğü katman budur. Bu, halk bir sohbet arayüzü görmeden çok önce gerçekleşen manuel ve yoğun emek gerektiren bir süreçtir. Modern zekanın görünmez altyapısıdır.

İnsanların bu konudaki kafa karışıklığı, yapay zekanın dahili bir ahlaki pusulası olduğu fikrinden kaynaklanıyor. Öyle bir şey yok. Onun bir ödül fonksiyonu var. Bir model bir soruyu yanıtlamayı reddettiğinde, bunun nedeni konunun yanlış olduğunu “hissetmesi” değildir. Bunun nedeni, eğitim verilerinin bu belirli kalıptan kaçınmak için ağır bir şekilde ağırlıklandırılmış olmasıdır. Bu ayrım hayati önem taşır. Eğer makinenin ahlaki olduğuna inanırsak, kuralları koyan insanları sorgulamayı bırakırız. Her reddedişin ve her faydalı ipucunun, insani bir karara dayanan programlanmış bir yanıt olduğunu kabul etmeliyiz. Bunu tanımlayarak, bu kuralları kimin ve neden koyduğu hakkında daha iyi sorular sormaya başlayabiliriz.

Latent Space’te Jeopolitik

Bu seçimlerin etkisi küreseldir. Önde gelen yapay zeka modellerinin çoğu, öncelikle açık web’deki İngilizce verilerle eğitilir. Bu, Batı değerlerinin varsayılan olduğu bir dijital monokültür yaratır. Dünyanın farklı bir yerindeki bir kullanıcı aile dinamikleri veya hukuki konular hakkında tavsiye istediğinde, belirli bir kültürel mercekten filtrelenmiş cevaplar alır. Bu sadece bir dil çevirisi meselesi değil, bir kültürel çeviri meselesidir. Hiyerarşi, gizlilik ve topluluk nüansları dünya genelinde büyük ölçüde değişir, ancak modeller genellikle herkese uyan tek bir çözüm sunar. Bu “doğru” düşünce merkezileşmesi, küresel söylem üzerinde büyük etkileri olan yeni bir yumuşak güç biçimidir.

Buna yanıt olarak egemen yapay zeka modelleri geliştirme yarışına tanık oluyoruz. Fransa, BAE ve Hindistan gibi ülkeler, kendi kültürel değerlerinin temsil edildiğinden emin olmak için kendi altyapılarına yatırım yapıyorlar. Yabancı bir modele güvenmenin, yabancı bir dünya görüşünü ithal etmek anlamına geldiğini biliyorlar. Hükümetler, yapay zekanın latent space (gizli uzay) üzerindeki kontrolün fiziksel sınırlar üzerindeki kontrol kadar önemli olduğunu fark ettikçe bu eğilim hızlandı. Bu modelleri eğitmek için kullanılan veriler dijital bir tarih kitabı görevi görür. Eğer o kitap sadece tek bir perspektif içeriyorsa, ortaya çıkan zeka doğal olarak sınırlı olacaktır. Çeşitli veri setleri için yapılan baskının sadece bir çeşitlilik girişimi olmamasının nedeni budur; bu, küresel ölçekte doğruluk ve uygunluk için bir gerekliliktir.

Uluslararası iş birliği için riskler yüksek. Eğer her ulus kendi katı değerler setiyle kendi içine kapalı yapay zekasını inşa ederse, dijital sınırlar arasında iletişim kurmakta zorlanabiliriz. Ancak alternatif, tek bir vadideki birkaç şirketin milyarlarca insan için ahlaki sınırları tanımladığı bir dünyadır. Hiçbir yol mükemmel değildir. Zorluk, temel insan haklarına dair ortak bir anlayışı korurken yerel nüanslara izin vermenin bir yolunu bulmaktır. Bu, daha iyi donanımla çözülemeyecek bir sorundur. Uluslararası diplomasi ve bugün teknoloji endüstrisini yönlendiren teşviklere net bir bakış gerektirir. Bu zorluklar hakkında daha fazla bilgiyi yapay zeka etiği ve yönetişimi hakkındaki kapsamlı rehberimizde bulabilirsiniz.

Döngüdeki Kararlar

Sarah adında bir işe alım yöneticisinin bir gününü düşünün. Yeni bir mühendislik rolü için yüzlerce özgeçmişi taramak üzere bir yapay zeka aracı kullanıyor. Araç, “yüksek potansiyelli” adayları aramak üzere eğitilmiş. Yüzeyde bu verimli görünüyor. Ancak arayüzün altında, araç önceki işe alım verilerinden öğrendiği bir değerler setini uyguluyor. Geçmiş veriler şirketin çoğunlukla üç belirli üniversiteden insanları işe aldığını gösteriyorsa, yapay zeka bu okullara öncelik verecektir. İnsani anlamda “ırkçı” veya “seçkinci” davranmıyor; sadece değerli olduğu söylenen kalıbı optimize ediyor. Sarah, aracın geleneksel olmayan geçmişlere sahip parlak adayları, eğitim verilerinin “değer” profiline uymadıkları için elediğini fark etmeyebilir bile.

Bu senaryo her gün binlerce ofiste yaşanıyor. Değerler soyut değildir; bir işe girmek ile bir algoritma tarafından görmezden gelinmek arasındaki farktır. Aynı mantık kredi puanlama, tıbbi triyaj ve hatta adli cezalandırma için de geçerlidir. Her durumda, “risk” veya “liyakat” gibi insani bir değer bir sayıya dönüştürülür. Tehlike, bu sayıları öznel tercihlerden ziyade nesnel gerçekler olarak görmemizdir. Ahlaki yargının zor işini genellikle makineye devrederiz çünkü bu daha hızlı ve daha az rahatsız edicidir. Ancak makine, mevcut önyargılarımızı kolayca izleyemeyeceğimiz bir ölçekte otomatize etmektedir.

Her gün kullandığımız ürünler bu argümanları gerçek kılıyor. Bir fotoğraf düzenleme uygulaması, bir kişinin ten rengini daha “iyi” görünmesi için otomatik olarak açtığında, bir değer ifade ediyordur. Bir navigasyon uygulaması “yüksek suç” oranlı bölgelerden kaçındığında, güvenlik ve sosyal sınıf hakkında bir değer yargısında bulunuyordur. Bunlar teknik hatalar değildir; verilerin ve insanlar tarafından sağlanan ödül fonksiyonlarının mantıksal sonucudur. Yazılımımızın sürekli olarak bizim adımıza ahlaki seçimler yaptığı bir dünyada yaşıyoruz. Çoğu zaman, bir şeyler ters gidene kadar bunun gerçekleştiğini bile fark etmiyoruz. Aslında sadece yerleşik varsayımlardan ibaret olan “faydalı” özelliklere karşı daha eleştirel olmalıyız.

Sektördeki son değişim, “yönlendirilebilirlik” (steerability) yönündeki harekettir. Şirketler artık kullanıcılara yapay zekalarının “kişiliği” veya “değerleri” üzerinde daha fazla kontrol veriyor. Bir modele “daha yaratıcı” veya “daha profesyonel” olmasını söyleyebilirsiniz. Bu güçlendirme gibi hissettirse de aslında sorumluluğu tekrar kullanıcıya kaydırır. Eğer yapay zeka önyargılı bir cevap verirse, şirket kullanıcının parametreleri doğru ayarlamadığını iddia edebilir. Bu, çıktıdan kimsenin tam olarak sorumlu olmadığı karmaşık bir hesap verebilirlik ağı yaratır. Sabit değerler dünyasından, kendi riskleri ve ödülleriyle gelen akışkan, kullanıcı tanımlı değerler dünyasına geçiyoruz.

Otomatize Edilmiş Ahlakın Bedeli

“Güvenli” yapay zeka fikrine Sokratik bir şüphecilikle yaklaşmalıyız. Eğer bir model mükemmel bir şekilde hizalanmışsa, kimin değerleriyle hizalanmıştır? Bugün gördüğümüz güvenlik filtrelerinin gizli bir maliyeti var. Genellikle bu filtreler, gelişmekte olan ülkelerdeki düşük ücretli iş gücü kullanılarak oluşturulur. İnsanlara, makinenin ondan kaçınmayı öğrenebilmesi için internetteki en korkunç içerikleri okumaları için saatlik birkaç dolar ödenir. Değer belirlemenin psikolojik travmasını esasen küresel güneye dış kaynak olarak veriyoruz. Güvenliği sömürülen işçilerin sırtına inşa edilmiş bir yapay zeka gerçekten “etik” midir? Bu, teknoloji endüstrisinin doğrudan cevaplamaktan pek hoşlanmadığı bir sorudur.

Bir diğer sınırlama ise “ahlak halüsinasyonu”dur. Bu modeller taklit konusunda çok iyi oldukları için, etik hakkında konuştuklarında çok ikna edici duyulabilirler. Filozoflardan ve yasal emsallerden kolaylıkla alıntı yapabilirler. Ancak hiçbirini anlamazlar. Sadece bir dizideki bir sonraki token’ı tahmin ediyorlar.

Ahlaki rehberlik için yapay zekaya güvendiğimizde, aslında çok sofistike bir papağana danışıyoruz. Bu, “ahlaki beceri kaybı” riski yaratır. Eğer zor seçimleri kendimiz yapmayı bırakıp yapay zekanın halletmesine izin verirsek, karmaşık etik problemleri kendi başımıza düşünme yeteneğimizi kaybedebiliriz. Ahlaki öznelliğimizi kolaylık uğruna takas ediyoruz.

• Siyaset veya din gibi öznel konular için “temel gerçeği” (ground truth) kim tanımlar?
• Özel bir şirketin değerleri demokratik bir toplumun değerleriyle çatıştığında ne olur?
• Eğitim sırasında aslında neyin ödüllendirildiğini görmek için RLHF’in “kara kutusunu” nasıl denetleriz?
• Eğitildiği dünya doğası gereği adaletsizse, bir makine asla gerçekten “adil” olabilir mi?

Kısıtlama Mimarisi

Güçlü kullanıcılar için bir yapay zekanın “değerleri” genellikle sistem isteminde (system prompt) ve API yapılandırmasında bulunur. Bu, deneyimin geri kalan yüzde 80’ini kontrol eden teknolojinin yüzde 20’sidir. Bir modelle API aracılığıyla etkileşime girdiğinizde, “temperature” ve “top-p” ayarlarını görebilirsiniz. Bunlar sadece teknik düğmeler değildir; modelin en olası (ve genellikle en önyargılı) yanıttan ne kadar sapmasına izin verildiğini kontrol ederler. Düşük bir temperature, modeli daha öngörülebilir ve “güvenli” hale getirirken, daha yüksek bir temperature daha fazla “yaratıcılık” ama aynı zamanda daha fazla risk sağlar. Bu ayarlar, değer hizalamasındaki ilk savunma hattıdır.

İş akışı entegrasyonu, işin ciddileştiği yerdir. Geliştiriciler artık kullanıcı ile model arasında duran “korkuluk” (guardrail) katmanları oluşturuyor. Bu katmanlar, girdi ve çıktıyı değer ihlalleri açısından kontrol etmek için ikincil modeller kullanır. Bu, çok katmanlı bir kontrol sistemi yaratır. Ancak bu korkulukların kendi API limitleri ve gecikme maliyetleri vardır. Karmaşık bir güvenlik yığını, bir yanıtı birkaç saniye yavaşlatabilir ki bu da üretim ortamında önemli bir tavizdir. Ayrıca, bu modellerin yerel depolaması giderek daha yaygın hale geliyor. Bir modeli yerel olarak çalıştırmak, kullanıcının kurumsal filtreleri atlamasına olanak tanır, ancak aynı zamanda önemli miktarda VRAM ve GGUF veya EXL2 gibi optimize edilmiş niceleme (quantization) teknikleri gerektirir.

Gerçek geek seviyesindeki zorluk, değerler için “ince ayar” (fine-tuning) yapmaktır. Bu, temel bir model alıp onu belirli örneklerden oluşan küçük, yüksek kaliteli bir veri seti üzerinde eğitmeyi içerir. Şirketler, kendi marka seslerini veya yasal gerekliliklerini yansıtan yapay zekayı bu şekilde yaratırlar. Bu, değerleri modelin ağırlıklarına “sabit kodlamanın” (hard-code) bir yoludur. Ancak bu süreç pahalıdır ve gradyan inişi (gradient descent) ile kayıp fonksiyonları (loss functions) hakkında derin bir anlayış gerektirir. Çoğu kullanıcı bunu asla yapmayacaktır, ancak yapanlar makinenin “ahlakını” gerçekten kontrol edenlerdir. Kendi dijital ekosistemleri içinde nelerin mümkün olduğunun sınırlarını tanımlayanlar onlardır. Teknik kısıtlamalar, makinenin etiğinin gerçek sınırlarıdır.

Kapsamamız gerektiğini düşündüğünüz bir yapay zeka hikayeniz, aracınız, trendiniz veya sorunuz mu var? Makale fikrinizi bize gönderin — duymaktan memnuniyet duyarız.

Son İnsani İmtiyaz

Günün sonunda yapay zeka bir tanrı değil, bir araçtır. Değerleri yoktur; talimatları vardır. İnsan benzeri etkileşime doğru olan son kayma, bu gerçeği gölgeleyerek makinenin “yargısına” güvenme olasılığımızı artırdı. Bu dürtüye karşı koymalıyız. Etik sonuçların sorumluluğu, bu sistemleri tasarlayan, dağıtan ve kullanan insanların üzerinde sıkı bir şekilde kalmaya devam ediyor. “Kötü” yapay zeka hakkında daha az, kendi önyargılarını haklı çıkarmak için “tarafsız” yapay zekayı kullanan insanlar hakkında daha çok endişelenmeliyiz. Makine, ancak efendisinin niyetleri kadar iyidir.

Başladığımızdan daha keskin sorularla baş başa kaldık. Yapay zeka hayatımıza daha fazla entegre oldukça, insanlığımızın hangi kısımlarını otomatize etmeye istekli olduğumuzu ve hangilerini korumamız gerektiğini belirlememiz gerekiyor. Riskler sadece daha iyi arama sonuçları veya daha hızlı e-postalarla ilgili değil; tür olarak kim olduğumuz ve nasıl bir dünya inşa etmek istediğimizle ilgili. Teknolojinin kolaylığının, kullanımının sonuçlarını gözlerimizin önünden perdelemesine izin veremeyiz. Yapay zeka çağı, insani değerlerin sonu değildir. Tarihimizdeki yeni ve daha zorlu bir bölümün başlangıcıdır. Onu niyetle yazmaya hazır olmalıyız.

Editörün notu: Bu siteyi, bilgisayar dehası olmayan ancak yine de yapay zekayı anlamak, daha güvenle kullanmak ve zaten gelmekte olan geleceği takip etmek isteyenler için çok dilli bir yapay zeka haberleri ve rehberleri merkezi olarak oluşturduk.

Bir hata veya düzeltilmesi gereken bir şey mi buldunuz? Bize bildirin.