مصنوعی ذہانت کے وہ بڑے اخلاقی سوالات جن سے فرار ممکن نہیں

سلیکون ویلی نے وعدہ کیا تھا کہ مصنوعی ذہانت (AI) انسانیت کے مشکل ترین مسائل حل کر دے گی۔ اس کے برعکس، اس ٹیکنالوجی نے مسائل کی ایک ایسی نئی لہر پیدا کر دی ہے جسے کوڈ کی کوئی مقدار ٹھیک نہیں کر سکتی۔ ہم حیرت کے مرحلے سے نکل کر سخت جوابدہی کے دور میں داخل ہو رہے ہیں۔ بنیادی مسئلہ مستقبل میں مشینوں کی بغاوت نہیں، بلکہ یہ موجودہ حقیقت ہے کہ ان سسٹمز کو کیسے بنایا اور استعمال کیا جا رہا ہے۔ ہر لارج لینگویج ماڈل انسانی محنت اور انٹرنیٹ سے جمع کردہ ڈیٹا کی بنیاد پر کھڑا ہے۔ یہ ان کمپنیوں کے درمیان ایک بنیادی تنازعہ پیدا کرتا ہے جو یہ ٹولز بناتی ہیں اور وہ لوگ جن کا کام انہیں طاقت فراہم کرتا ہے۔ یورپ اور امریکہ میں ریگولیٹرز اب یہ پوچھ رہے ہیں کہ جب کوئی سسٹم ایسی غلطی کرے جو کسی کی زندگی تباہ کر دے، تو اس کا ذمہ دار کون ہے؟ جواب اب بھی غیر واضح ہے کیونکہ قانونی ڈھانچے ایسے سافٹ ویئر کے لیے نہیں بنائے گئے تھے جو اس سطح کی خود مختاری کے ساتھ کام کرتے ہیں۔ ہم اپنی توجہ اس بات سے ہٹا کر کہ ٹیکنالوجی کیا کر سکتی ہے، اس بات پر مرکوز کر رہے ہیں کہ اسے عوامی زندگی میں کیا کرنے کی اجازت ہونی چاہیے۔

خودکار فیصلہ سازی کی رکاوٹیں

بنیادی طور پر، جدید مصنوعی ذہانت ایک پیش گوئی کرنے والا انجن (prediction engine) ہے۔ یہ سچائی یا اخلاقیات کو نہیں سمجھتا۔ یہ بڑے ڈیٹا سیٹس کی بنیاد پر اگلے لفظ یا پکسل کے امکان کا حساب لگاتا ہے۔ سمجھ بوجھ کی یہ کمی مشین کے آؤٹ پٹ اور انسانی انصاف کے تقاضوں کے درمیان ایک خلیج پیدا کرتی ہے۔ جب کوئی بینک کریڈٹ کی اہلیت جانچنے کے لیے الگورتھم کا استعمال کرتا ہے، تو سسٹم ایسے پیٹرنز کی نشاندہی کر سکتا ہے جن کا تعلق نسل یا زپ کوڈ سے ہو۔ یہ اس لیے نہیں کہ مشین باشعور ہے، بلکہ اس لیے کہ جس تاریخی ڈیٹا پر اسے ٹرین کیا گیا ہے، اس میں یہ تعصبات موجود ہیں۔ کمپنیاں اکثر ان عمل کو ملکیتی رازوں کے پیچھے چھپا لیتی ہیں، جس سے مسترد شدہ درخواست دہندہ کے لیے یہ جاننا ناممکن ہو جاتا ہے کہ انہیں کیوں مسترد کیا گیا۔ شفافیت کی یہ کمی آٹومیشن کے موجودہ دور کی نمایاں خصوصیت ہے۔ اسے اکثر بلیک باکس کا مسئلہ کہا جاتا ہے۔

تکنیکی حقیقت یہ ہے کہ یہ ماڈلز کھلے انٹرنیٹ پر ٹرین کیے جاتے ہیں، جو انسانی علم اور تعصبات دونوں کا ذخیرہ ہے۔ ڈویلپرز اس ڈیٹا کو فلٹر کرنے کی کوشش کرتے ہیں، لیکن اس کا پیمانہ بہترین کیوریشن کو ناممکن بنا دیتا ہے۔ جب ہم AI اخلاقیات کی بات کرتے ہیں، تو ہم دراصل یہ بات کر رہے ہوتے ہیں کہ ہم ان غلطیوں کو کیسے سنبھالیں جو یہ سسٹمز ناگزیر طور پر پیدا کرتے ہیں۔ ڈپلائمنٹ کی رفتار اور حفاظت کی ضرورت کے درمیان بڑھتا ہوا تناؤ ہے۔ بہت سی کمپنیاں مارکیٹ شیئر کھونے سے بچنے کے لیے مصنوعات کو مکمل طور پر سمجھے بغیر ریلیز کرنے کا دباؤ محسوس کرتی ہیں۔ یہ ایک ایسی صورتحال پیدا کرتا ہے جہاں عوام غیر ثابت شدہ سافٹ ویئر کے لیے انجانے میں ٹیسٹ سبجیکٹ بن جاتے ہیں۔ قانونی نظام تبدیلی کی رفتار کے ساتھ چلنے کے لیے جدوجہد کر رہا ہے کیونکہ عدالتیں بحث کر رہی ہیں کہ آیا کسی سافٹ ویئر ڈویلپر کو اس کی تخلیق کی غلطیوں (hallucinations) کے لیے ذمہ دار ٹھہرایا جا سکتا ہے۔

نئی عالمی ڈیجیٹل تقسیم

ان سسٹمز کا اثر پوری دنیا میں یکساں نہیں ہے۔ اگرچہ بڑی AI فرموں کے ہیڈکوارٹر چند امیر ممالک میں واقع ہیں، لیکن ان کے کام کے نتائج ہر جگہ محسوس کیے جاتے ہیں۔ گلوبل ساؤتھ میں لیبر کے استحصال کی ایک نئی شکل ابھر رہی ہے۔ کینیا اور فلپائن جیسے ممالک میں ہزاروں ورکرز کو ڈیٹا لیبل کرنے اور تکلیف دہ مواد کو فلٹر کرنے کے لیے معمولی اجرت دی جاتی ہے۔ یہ ورکرز وہ پوشیدہ حفاظتی جال ہیں جو AI کو زہریلا مواد پھیلانے سے روکتے ہیں، لیکن انہیں شاذ و نادر ہی انڈسٹری کے منافع میں حصہ ملتا ہے۔ یہ طاقت کا ایک ایسا عدم توازن پیدا کرتا ہے جہاں امیر ممالک ٹولز کو کنٹرول کرتے ہیں جبکہ ترقی پذیر ممالک انہیں برقرار رکھنے کے لیے خام محنت اور ڈیٹا فراہم کرتے ہیں۔

ثقافتی غلبہ بین الاقوامی برادری کے لیے ایک اور اہم تشویش ہے۔ زیادہ تر بڑے ماڈلز بنیادی طور پر انگریزی زبان کے ڈیٹا اور مغربی ثقافتی اصولوں پر ٹرین کیے جاتے ہیں۔ اس کا مطلب ہے کہ یہ سسٹمز اکثر مقامی سیاق و سباق یا کم ڈیجیٹل وسائل والی زبانوں کو سمجھنے میں ناکام رہتے ہیں۔ جب یہ ٹولز برآمد کیے جاتے ہیں، تو وہ مقامی علم کو ایک یکساں مغربی نقطہ نظر سے بدلنے کا خطرہ پیدا کرتے ہیں۔ یہ صرف ایک تکنیکی خامی نہیں بلکہ ثقافتی تنوع کے لیے خطرہ ہے۔ حکومتیں یہ سمجھنے لگی ہیں کہ غیر ملکی AI انفراسٹرکچر پر انحصار کرنا ایک نئی قسم کی انحصار کی کیفیت پیدا کرتا ہے۔ اگر کسی ملک کے پاس اپنی خودمختار AI صلاحیتیں نہیں ہیں، تو اسے ان کمپنیوں کے اصولوں اور اقدار کی پیروی کرنی پڑتی ہے جو یہ سروس فراہم کرتی ہیں۔ عالمی برادری فی الحال کئی اہم مسائل سے نبردآزما ہے:

• چند نجی کارپوریشنز میں کمپیوٹنگ پاور کا ارتکاز۔
• پانی کی قلت والے علاقوں میں بڑے ماڈلز کی ٹریننگ کا ماحولیاتی خرچہ۔
• انگریزی پر مبنی ماڈلز کے زیر اثر ڈیجیٹل جگہوں میں مقامی زبانوں کا خاتمہ۔
• جنگ میں خودکار سسٹمز کے استعمال پر بین الاقوامی معاہدوں کا فقدان۔
• جمہوری انتخابات کو غیر مستحکم کرنے کے لیے خودکار غلط معلومات کا امکان۔

الگورتھم کے ساتھ زندگی

سارہ کی زندگی کا ایک دن تصور کریں، جو ایک لاجسٹکس فرم میں مینیجر ہے۔ اس کی صبح اس کی ای میلز کے AI سے تیار کردہ خلاصے سے شروع ہوتی ہے۔ سسٹم ان کاموں کو نمایاں کرتا ہے جو اس کے خیال میں سب سے زیادہ ضروری ہیں، لیکن یہ ایک پرانے کلائنٹ کی باریک شکایت کو نظر انداز کر دیتا ہے کیونکہ سینٹیمنٹ اینالائسز ٹول طنزیہ لہجے کو نہیں پہچان سکا۔ بعد میں، وہ ایک ملازم کے لیے پرفارمنس ریویو لکھنے کے لیے جنریٹو ٹول کا استعمال کرتی ہے۔ سافٹ ویئر پیداواری میٹرکس کی بنیاد پر کم درجہ بندی تجویز کرتا ہے جو اس وقت کا حساب نہیں رکھتا جو ملازم نے نئے ہائرز کی رہنمائی میں صرف کیا۔ سارہ کو فیصلہ کرنا ہے کہ آیا اپنے فیصلے پر بھروسہ کرے یا مشین کی ڈیٹا پر مبنی سفارش پر۔ اگر وہ AI کو نظر انداز کرتی ہے اور ملازم بعد میں ناکام ہو جاتا ہے، تو اسے ڈیٹا پر عمل نہ کرنے کا ذمہ دار ٹھہرایا جا سکتا ہے۔ یہ الگورتھمک مینجمنٹ کا خاموش دباؤ ہے۔

دوپہر میں، سارہ ایک نئی انشورنس پالیسی کے لیے درخواست دیتی ہے۔ انشورنس کمپنی اس کے سوشل میڈیا اور ہیلتھ ریکارڈز کو اسکین کرنے کے لیے خودکار سسٹم کا استعمال کرتی ہے۔ سسٹم اسے ہائی رسک قرار دیتا ہے کیونکہ وہ حال ہی میں ایک ہائیکنگ گروپ میں شامل ہوئی ہے، جسے الگورتھم ممکنہ چوٹ سے جوڑتا ہے۔ بات کرنے کے لیے کوئی انسان نہیں ہے اور یہ بتانے کا کوئی طریقہ نہیں ہے کہ وہ ایک تجربہ کار ہائیکر ہے جس کی صحت بالکل ٹھیک ہے۔ اس کا پریمیم فوری طور پر بڑھ جاتا ہے۔ یہ ایک ایسے سسٹم کا حقیقی نتیجہ ہے جو انفرادی باریکیوں پر کارکردگی کو ترجیح دیتا ہے۔ شام تک، سارہ ایک نیوز سائٹ براؤز کر رہی ہے جہاں آدھے مضامین بوٹس نے لکھے ہیں۔ اسے یہ بتانا مشکل ہوتا جا رہا ہے کہ کیا رپورٹ شدہ حقیقت ہے اور کیا ایک مصنوعی خلاصہ جو اسے کلک کروانے کے لیے بنایا گیا ہے۔ خودکار مواد سے یہ مسلسل نمائش اس کے حقیقت کو دیکھنے کے انداز کو بدل دیتی ہے۔

ٹیکنالوجی اب وہ ٹول نہیں رہی جو وہ استعمال کرتی ہے؛ یہ وہ ماحول ہے جس میں وہ رہتی ہے۔ تضادات ہر جگہ نظر آتے ہیں۔ ہم AI کی رفتار چاہتے ہیں لیکن اس کی سرد مہری سے ڈرتے ہیں۔ ہم آٹومیشن کی سہولت چاہتے ہیں لیکن انسانی اختیار کے کھو جانے پر ناراض ہیں۔ کمپنیاں انسانی فیصلے کو تبدیل کرنے کے لیے ان ٹولز کی صلاحیت کو بڑھا چڑھا کر پیش کرتی ہیں جبکہ ایک متعصب آؤٹ پٹ سے ہونے والے نقصان کو کم سمجھتی ہیں۔ تخلیق کار اپنی دانشورانہ املاک کے تحفظ کو بڑھا چڑھا کر پیش کرتے ہیں جبکہ یہ کم سمجھتے ہیں کہ ان کا کام اسکریپر کے ذریعے کتنی آسانی سے ہڑپ کیا جا سکتا ہے۔ نتیجہ ایک ایسا معاشرہ ہے جہاں ہم سب تیزی سے آگے بڑھ رہے ہیں، لیکن ہم اس بارے میں کم یقینی ہیں کہ ہم کہاں جا رہے ہیں۔

کارکردگی کی قیمت

ہمیں اپنے موجودہ راستے کی چھپی ہوئی قیمتوں کے بارے میں مشکل سوالات پوچھنے ہوں گے۔ اگر ایک AI سسٹم کسی کمپنی کے لاکھوں ڈالر بچاتا ہے لیکن ہزاروں ملازمتوں کے نقصان کا باعث بنتا ہے، تو سماجی قیمت کا ذمہ دار کون ہے؟ ہم اکثر تکنیکی ترقی کو فطرت کی ایک ناگزیر قوت سمجھتے ہیں، لیکن یہ مخصوص مراعات رکھنے والے افراد کے مخصوص فیصلوں کا نتیجہ ہے۔ ہم منافع کی اصلاح کو لیبر مارکیٹ کے استحکام پر ترجیح کیوں دیتے ہیں؟ ڈیٹا پرائیویسی کا سوال بھی اہم ہے، جہاں ہر تعامل ایک ٹریننگ پوائنٹ ہے۔ جب آپ مفت AI اسسٹنٹ استعمال کرتے ہیں، تو آپ گاہک نہیں ہیں؛ آپ پروڈکٹ ہیں۔ آپ کی گفتگو اور ترجیحات کو ایک ایسے ماڈل کو بہتر بنانے کے لیے استعمال کیا جاتا ہے جو بالآخر آپ کو یا آپ کے آجر کو واپس بیچا جائے گا۔ نجی سوچ کے تصور کا کیا ہوگا جب ہمارے ڈیجیٹل اسسٹنٹ مسلسل سن رہے اور سیکھ رہے ہوں گے؟

ماحولیاتی اثر ایک اور قیمت ہے جس پر مارکیٹنگ کے مواد میں شاذ و نادر ہی بات کی جاتی ہے۔ ایک بڑے ماڈل کو ٹرین کرنے میں اتنی بجلی خرچ ہو سکتی ہے جتنی سینکڑوں گھر سال بھر میں استعمال کرتے ہیں۔ ڈیٹا سینٹرز کے لیے کولنگ کی ضروریات خشک علاقوں میں مقامی پانی کی سپلائی پر دباؤ ڈال رہی ہیں۔ کیا ہم تھوڑی بہتر چیٹ بوٹ کے لیے ماحولیاتی استحکام کا سودا کرنے کو تیار ہیں؟ ہمیں انسانی ادراک پر طویل مدتی اثرات پر بھی غور کرنا چاہیے۔ اگر ہم اپنی تحریر، کوڈنگ، اور تنقیدی سوچ کو مشینوں کے حوالے کر دیں، تو انسانی آبادی میں ان مہارتوں کا کیا ہوگا؟ ہم شاید ایک ایسی دنیا بنا رہے ہیں جو انتہائی موثر ہے لیکن ایسے لوگوں سے بھری ہوئی ہے جو ڈیجیٹل سہارے کے بغیر کام نہیں کر سکتے۔ یہ تکنیکی مسائل نہیں ہیں جنہیں مزید ڈیٹا کے ساتھ حل کیا جا سکے۔ یہ بنیادی سوالات ہیں کہ ہم کس قسم کے مستقبل میں رہنا چاہتے ہیں۔

کیا آپ کے پاس کوئی AI کہانی، ٹول، رجحان، یا سوال ہے جس کے بارے میں آپ کو لگتا ہے کہ ہمیں اسے شامل کرنا چاہیے؟ ہمیں اپنے مضمون کا خیال بھیجیں — ہمیں اسے سن کر خوشی ہوگی۔

اثر و رسوخ کا انفراسٹرکچر

پاور یوزرز اور ڈویلپرز کے لیے، اخلاقی سوالات تکنیکی تفصیلات میں پیوست ہیں۔ لوکل اسٹوریج اور ایج کمپیوٹنگ کی طرف منتقلی جزوی طور پر پرائیویسی کے خدشات کا جواب ہے۔ مقامی طور پر ماڈلز چلا کر، صارفین حساس ڈیٹا کو مرکزی سرور پر بھیجنے سے بچ سکتے ہیں۔ تاہم، یہ ہارڈویئر کی ضروریات اور API کی حدود کے حوالے سے چیلنجز کا ایک نیا سیٹ پیدا کرتا ہے۔ زیادہ تر اعلیٰ کارکردگی والے ماڈلز کو کافی VRAM اور خصوصی چپس کی ضرورت ہوتی ہے جو فی الحال مارکیٹ میں کم ہیں۔ یہ ایک رکاوٹ پیدا کرتا ہے جہاں صرف جدید ترین ہارڈویئر والے لوگ ہی سب سے زیادہ قابل ٹولز تک رسائی حاصل کر سکتے ہیں۔ ڈویلپرز موجودہ آرکیٹیکچرز کی حدود کے ساتھ بھی جدوجہد کر رہے ہیں۔ اگرچہ ٹرانسفارمر ماڈلز غالب رہے ہیں، لیکن ان کا معائنہ کرنا بدنام زمانہ حد تک مشکل ہے۔ ہم وزن اور آرکیٹیکچر دیکھ سکتے ہیں، لیکن ہم آسانی سے یہ وضاحت نہیں کر سکتے کہ ایک مخصوص ان پٹ ایک مخصوص آؤٹ پٹ کی طرف کیوں لے جاتا ہے۔

پیشہ ورانہ ورک فلو میں AI کا انضمام ڈیٹا پوائزننگ اور ماڈل کولیپس کی دیوار سے بھی ٹکرا رہا ہے۔ اگر انٹرنیٹ AI سے تیار کردہ مواد سے بھر جائے، تو مستقبل کے ماڈلز اپنے پیشروؤں کے آؤٹ پٹ پر ٹرین ہوں گے۔ اس سے معیار میں گراوٹ اور غلطیوں میں اضافہ ہوتا ہے۔ اس کا مقابلہ کرنے کے لیے، کچھ ڈویلپرز قابل تصدیق ڈیٹا ذرائع اور واٹر مارکنگ تکنیکوں پر غور کر رہے ہیں۔ صارفین کو خطرات سمجھنے میں مدد کرنے کے لیے زیادہ شفاف AI اخلاقیات کے تجزیے پر بھی زور دیا جا رہا ہے۔ تکنیکی برادری فی الحال ترقی کے کئی اہم شعبوں پر مرکوز ہے:

• ٹریننگ سیٹس میں انفرادی ڈیٹا پوائنٹس کی حفاظت کے لیے تفریق پرائیویسی کا نفاذ۔
• چھوٹے، زیادہ موثر ماڈلز کی ترقی جو کنزیومر ہارڈویئر پر چل سکیں۔
• تعصب اور حقائق کی غلطیوں کا پتہ لگانے کے لیے معیاری بینچ مارکس کی تخلیق۔
• متعدد وکندریقرت ڈیوائسز میں ماڈلز کو ٹرین کرنے کے لیے فیڈریٹڈ لرننگ کا استعمال۔
• نئے آرکیٹیکچرز کی تلاش جو معیاری نیورل نیٹ ورکس سے بہتر تشریح پیش کریں۔

آگے کا غیر حل شدہ راستہ

مصنوعی ذہانت کے تیز ارتقاء نے اسے کنٹرول کرنے کی ہماری صلاحیت کو پیچھے چھوڑ دیا ہے۔ ہم فی الحال جدت کی خواہش اور تحفظ کی ضرورت کے درمیان تعطل کا شکار ہیں۔ سب سے بڑے اخلاقی سوالات مشینوں کی صلاحیتوں کے بارے میں نہیں بلکہ ان لوگوں کے ارادوں کے بارے میں ہیں جو انہیں کنٹرول کرتے ہیں۔ جیسے جیسے ہم میں داخل ہو رہے ہیں، توجہ غالباً ماڈلز سے ہٹ کر ڈیٹا سپلائی چین اور ڈویلپرز کی جوابدہی پر مرکوز ہو جائے گی۔ ہمارے پاس ایک زندہ سوال باقی ہے جو اگلی دہائی کا تعین کرے گا۔ کیا ہم ایک ایسا سسٹم بنا سکتے ہیں جو ہمارے مسائل حل کرنے کے لیے کافی طاقتور ہو اور قابل اعتماد ہونے کے لیے کافی شفاف بھی؟ جواب ابھی کوڈ میں نہیں لکھا گیا۔ اس کا فیصلہ عدالتوں، بورڈ رومز، اور ان صارفین کے روزمرہ کے فیصلوں میں ہوگا جنہیں یہ طے کرنا ہے کہ وہ سہولت کے بدلے اپنی کتنی خودمختاری کا سودا کرنے کو تیار ہیں۔

ایڈیٹر کا نوٹ: ہم نے یہ سائٹ ایک کثیر لسانی AI خبروں اور گائیڈز کے مرکز کے طور پر ان لوگوں کے لیے بنائی ہے جو کمپیوٹر گیکس نہیں ہیں، لیکن پھر بھی مصنوعی ذہانت کو سمجھنا چاہتے ہیں، اسے زیادہ اعتماد کے ساتھ استعمال کرنا چاہتے ہیں، اور اس مستقبل کی پیروی کرنا چاہتے ہیں جو پہلے ہی آ رہا ہے۔

کوئی غلطی یا اصلاح طلب چیز ملی ہے؟ ہمیں بتائیں۔