اب جب AI ہر جگہ ہے تو اسمارٹ ٹیمیں کیا ٹریک کر رہی ہیں؟
مصنوعی ذہانت (AI) کو صرف اس کے وجود سے ناپنے کا دور اب ختم ہو چکا ہے۔ اسمارٹ ٹیمیں اب جنریٹو ٹولز کی جدت سے آگے بڑھ کر ایک زیادہ مشکل میٹرک پر توجہ مرکوز کر رہی ہیں۔ وہ اس فرق کو ٹریک کر رہی ہیں کہ ایک ماڈل کیا دعویٰ کرتا ہے اور حقیقت میں کتنی درستگی کے ساتھ نتائج دیتا ہے۔ یہ ایڈاپشن سے ویریفیکیشن کی طرف ایک تبدیلی ہے۔ اب صرف یہ کہنا کافی نہیں ہے کہ کوئی ڈیپارٹمنٹ لارج لینگویج ماڈلز استعمال کرتا ہے۔ اصل سوال یہ ہے کہ وہ ماڈلز کتنی بار ایسی غلطیاں کرتے ہیں جو عام مشاہدہ کرنے والوں کی نظروں سے اوجھل رہ جاتی ہیں۔ اعلیٰ کارکردگی دکھانے والی تنظیمیں اب اپنی پوری حکمت عملی کو پیمائش کی غیر یقینی صورتحال (measurement uncertainty) پر مرکوز کر رہی ہیں۔ وہ ہر آؤٹ پٹ کو ایک حقائق پر مبنی بیان کے بجائے ایک امکانی اندازہ مانتے ہیں۔ نقطہ نظر میں یہ تبدیلی کارپوریٹ پلے بک کو مکمل طور پر دوبارہ لکھنے پر مجبور کر رہی ہے۔ جو ٹیمیں اس تبدیلی کو نظر انداز کر رہی ہیں، وہ تکنیکی قرض اور ایسے ہیلوسینیٹڈ ڈیٹا میں ڈوب رہی ہیں جو سطح پر تو بہترین لگتا ہے لیکن دباؤ میں ناکام ہو جاتا ہے۔ اب توجہ جنریشن کی رفتار سے ہٹ کر نتائج کی وشوسنییتا (reliability) پر مرکوز ہو گئی ہے۔
مشین کے اندر موجود بھوت کی پیمائش
پیمائش کی غیر یقینی صورتحال وہ شماریاتی رینج ہے جس کے اندر آؤٹ پٹ کی اصل قدر موجود ہوتی ہے۔ روایتی سافٹ ویئر کی دنیا میں، دو جمع دو کا ان پٹ ہمیشہ چار کا نتیجہ دیتا ہے۔ جدید AI کی دنیا میں، نتیجہ چار ہو سکتا ہے، یا پھر یہ نمبر چار کی تاریخ پر ایک طویل مضمون ہو سکتا ہے جس میں اتفاق سے یہ ذکر ہو کہ یہ کبھی کبھی پانچ بھی ہوتا ہے۔ اسمارٹ ٹیمیں اب ہر ایک جواب کو کانفیڈنس اسکور دینے کے لیے خصوصی سافٹ ویئر استعمال کر رہی ہیں۔ اگر کوئی ماڈل کم کانفیڈنس اسکور کے ساتھ قانونی خلاصہ فراہم کرتا ہے، تو سسٹم اسے فوری انسانی جائزے کے لیے فلیگ کر دیتا ہے۔ یہ صرف غلطیوں کو پکڑنے کے بارے میں نہیں ہے۔ یہ ماڈل کی حدود کو سمجھنے کے بارے میں ہے۔ جب آپ جانتے ہیں کہ ٹول کے کہاں ناکام ہونے کا امکان ہے، تو آپ ان مخصوص پوائنٹس کے ارد گرد حفاظتی جال بنا سکتے ہیں۔ زیادہ تر ابتدائی افراد کا خیال ہے کہ AI یا تو صحیح ہوتا ہے یا غلط۔ ماہرین جانتے ہیں کہ AI مسلسل امکان کی حالت میں موجود ہے۔ وہ سادہ پلیٹ فارم رپورٹنگ سے آگے بڑھ رہے ہیں جو اپ ٹائم یا ٹوکن کاؤنٹس دکھاتی ہے۔ اس کے بجائے، وہ مختلف قسم کی کوئریز میں غلطیوں کی تقسیم کو دیکھ رہے ہیں۔ وہ جاننا چاہتے ہیں کہ کیا ماڈل کریٹو رائٹنگ میں بہتر ہوتے ہوئے ریاضی میں خراب ہو رہا ہے۔
عام غلط فہمی یہ ہے کہ ایک بڑا ماڈل ہمیشہ کم غیر یقینی صورتحال کا باعث بنتا ہے۔ یہ اکثر غلط ہوتا ہے۔ بڑے ماڈلز کبھی کبھی اپنے ہیلوسینیشنز میں زیادہ پر اعتماد ہو سکتے ہیں، جس سے انہیں پہچاننا مشکل ہو جاتا ہے۔ ٹیمیں اب ‘کیلیبریشن’ نامی چیز کو ٹریک کر رہی ہیں۔ ایک اچھی طرح سے کیلیبریٹڈ ماڈل جانتا ہے کہ اسے کب جواب نہیں معلوم۔ اگر کوئی ماڈل کہتا ہے کہ وہ کسی حقیقت کے بارے میں 90 فیصد یقینی ہے، تو اسے بالکل 90 فیصد وقت درست ہونا چاہیے۔ اگر یہ صرف 60 فیصد وقت درست ہے، تو یہ حد سے زیادہ پر اعتماد اور خطرناک ہے۔ یہ بنیادی AI استعمال کی سطح کے نیچے ایک دلچسپ پرت ہے۔ اس کے لیے صرف ٹیکسٹ پڑھنے کے بجائے آؤٹ پٹس کے ریاضی میں گہرائی تک جانے کی ضرورت ہے۔ کمپنیاں اب خاص طور پر اس ڈرفٹ کو ناپنے کے لیے ڈیٹا سائنٹسٹس کو ہائر کر رہی ہیں۔ وہ ان پیٹرنز کو تلاش کر رہے ہیں کہ ماڈل مبہم پرامپٹس کی تشریح کیسے کرتا ہے۔ غیر یقینی صورتحال پر توجہ مرکوز کرکے، وہ پیش گوئی کر سکتے ہیں کہ سسٹم کب ٹوٹنے والا ہے اس سے پہلے کہ یہ کسی صارف کے لیے مسئلہ پیدا کرے۔ یہ فعال نقطہ نظر ہی واحد طریقہ ہے جس سے ان ٹولز کو پیشہ ورانہ ماحول میں کمپنی کی ساکھ کو خطرے میں ڈالے بغیر اسکیل کیا جا سکتا ہے۔
اعتماد کا عالمی بحران
سخت پیمائش کی طرف یہ قدم خلا میں نہیں اٹھایا جا رہا ہے۔ یہ ایک ایسے عالمی ماحول کا ردعمل ہے جہاں ڈیٹا کی سالمیت ایک قانونی ضرورت بنتی جا رہی ہے۔ یورپی یونین میں، 2026 کے AI ایکٹ نے ایک مثال قائم کی ہے کہ ہائی رسک سسٹمز کی نگرانی کیسے کی جانی چاہیے۔ ٹوکیو، لندن اور سان فرانسسکو کی کمپنیاں یہ سمجھ رہی ہیں کہ وہ بلیک باکس کے بہانے کے پیچھے نہیں چھپ سکتیں۔ اگر کوئی خودکار سسٹم قرض دینے سے انکار کرتا ہے یا ملازمت کی درخواست کو فلٹر کرتا ہے، تو کمپنی کو غلطی کے مارجن کی وضاحت کرنے کے قابل ہونا چاہیے۔ اس نے شفافیت کے لیے ایک نیا عالمی معیار پیدا کیا ہے۔ سپلائی چینز جو خودکار لاجسٹکس پر انحصار کرتی ہیں، ان میٹرکس کے لیے خاص طور پر حساس ہیں۔ پریڈکٹیو ماڈل میں ایک چھوٹی سی غلطی لاکھوں ڈالر کے ضائع شدہ ایندھن یا کھوئے ہوئے انوینٹری کا باعث بن سکتی ہے۔ داؤ اب صرف چیٹ ونڈو تک محدود نہیں ہیں۔ وہ جسمانی اور مالی ہیں۔ یہ عالمی دباؤ سافٹ ویئر فراہم کرنے والوں کو اپنے سسٹمز کو کھولنے اور اپنے انٹرپرائز کلائنٹس کو زیادہ دانے دار ڈیٹا فراہم کرنے پر مجبور کر رہا ہے۔ وہ اب صرف ایک سادہ انٹرفیس فراہم نہیں کر سکتے۔ انہیں خام کانفیڈنس ڈیٹا فراہم کرنا ہوگا جو ٹیموں کو باخبر فیصلے کرنے کی اجازت دیتا ہے۔
اس تبدیلی کا اثر ان شعبوں میں سب سے زیادہ محسوس کیا جاتا ہے جنہیں اعلیٰ درستگی کی ضرورت ہوتی ہے۔ ہیلتھ کیئر اور فنانس ان نئے رپورٹنگ معیارات کو تیار کرنے میں سب سے آگے ہیں۔ وہ جنرل پرپز اسسٹنٹ کے خیال سے دور ہو کر تنگ، قابل پیمائش اہداف کے ساتھ انتہائی خصوصی ایجنٹس کی طرف بڑھ رہے ہیں۔ یہ غیر یقینی صورتحال کے لیے سطح کے رقبے کو کم کرتا ہے اور وقت کے ساتھ کارکردگی کو ٹریک کرنا آسان بناتا ہے۔ یہ بڑھتا ہوا احساس ہے کہ AI سسٹم کا سب سے قیمتی حصہ خود ماڈل نہیں، بلکہ اس کی تصدیق کے لیے استعمال ہونے والا ڈیٹا ہے۔ کمپنیاں
