ما الذي تراقبه الفرق الذكية الآن بعد انتشار الذكاء الاصطناعي؟

لقد انتهى عصر قياس الذكاء الاصطناعي بمجرد وجوده. فقد تجاوزت الفرق الذكية مرحلة الانبهار بأدوات التوليد، وأصبحت الآن تركز على مقياس أكثر صعوبة بكثير: الفجوة بين ما يدعي النموذج أنه يعرفه وما ينتجه بالفعل بدقة. هذا هو التحول من مجرد التبني إلى التحقق. لم يعد كافياً أن تقول إن قسماً ما يستخدم نماذج لغوية كبيرة (large language models)؛ فالسؤال الحقيقي هو: كم مرة تفشل هذه النماذج بطرق غير مرئية للمراقب العادي؟ بدأت المؤسسات عالية الأداء الآن في تركيز استراتيجيتها بالكامل على قياس عدم اليقين. إنهم يتعاملون مع كل مخرجات كاحتمال احتمالي بدلاً من كونها حقيقة ثابتة. هذا التغيير في المنظور يفرض إعادة كتابة شاملة لقواعد العمل المؤسسي. فالفرق التي تتجاهل هذا التحول تجد نفسها غارقة في الديون التقنية والبيانات المهلوسة (hallucinated data) التي تبدو مثالية على السطح لكنها تنهار تحت الضغط. لقد انتقل التركيز من سرعة التوليد إلى موثوقية النتيجة.

تكميم الشبح داخل الآلة

عدم اليقين في القياس هو النطاق الإحصائي الذي تقع ضمنه القيمة الحقيقية للمخرجات. في عالم البرمجيات التقليدية، مدخلات “اثنان زائد اثنين” تؤدي دائماً إلى أربعة. أما في عالم الذكاء الاصطناعي الحديث، فقد تكون النتيجة أربعة، أو قد تكون مقالاً طويلاً عن تاريخ الرقم أربعة يذكر عرضاً أنه قد يساوي خمسة أحياناً. تستخدم الفرق الذكية الآن برمجيات متخصصة لتعيين درجة ثقة (confidence score) لكل استجابة. إذا قدم النموذج ملخصاً قانونياً بدرجة ثقة منخفضة، يقوم النظام بتمييزه للمراجعة البشرية الفورية. لا يتعلق الأمر فقط باكتشاف الأخطاء، بل بفهم حدود النموذج. عندما تعرف أين من المرجح أن يفشل الأداة، يمكنك بناء شبكات أمان حول تلك النقاط المحددة. يعتقد معظم المبتدئين أن الذكاء الاصطناعي إما صائب أو خاطئ، لكن الخبراء يعلمون أن الذكاء الاصطناعي يعيش في حالة من الاحتمالية المستمرة. إنهم يتجاوزون تقارير المنصات البسيطة التي تظهر وقت التشغيل أو عدد الرموز (token counts)، وبدلاً من ذلك، ينظرون إلى توزيع الأخطاء عبر أنواع مختلفة من الاستعلامات. إنهم يريدون معرفة ما إذا كان النموذج يزداد سوءاً في الرياضيات بينما يتحسن في الكتابة الإبداعية.

تشير المفاهيم الخاطئة الشائعة إلى أن النموذج الأكبر يؤدي دائماً إلى عدم يقين أقل، وهذا غالباً غير صحيح. يمكن للنماذج الأكبر أحياناً أن تصبح أكثر ثقة في هلوساتها، مما يجعل اكتشافها أصعب. تتبع الفرق الآن شيئاً يسمى المعايرة (calibration). النموذج المعاير جيداً يعرف متى لا يعرف الإجابة. إذا قال النموذج إنه متأكد بنسبة 90 بالمائة من حقيقة ما، فيجب أن يكون محقاً بالضبط 90 بالمائة من الوقت. إذا كان محقاً بنسبة 60 بالمائة فقط، فهو مفرط في الثقة وخطير. هذه هي الطبقة المثيرة للاهتمام تحت سطح استخدام الذكاء الاصطناعي الأساسي، وتتطلب غوصاً عميقاً في رياضيات المخرجات بدلاً من مجرد قراءة النص. توظف الشركات الآن علماء بيانات خصيصاً لقياس هذا الانحراف (drift)، ويبحثون عن أنماط في كيفية تفسير النموذج للمطالبات الغامضة. من خلال التركيز على عدم اليقين، يمكنهم التنبؤ متى يكون النظام على وشك الانهيار قبل أن يتسبب في مشكلة للعميل. هذا النهج الاستباقي هو الطريقة الوحيدة لتوسيع نطاق هذه الأدوات في بيئة احترافية دون المخاطرة بسمعة الشركة.

الأزمة العالمية للثقة

التحرك نحو القياس الصارم لا يحدث في فراغ، بل هو استجابة لبيئة عالمية أصبحت فيها سلامة البيانات متطلباً قانونياً. في الاتحاد الأوروبي، وضع قانون الذكاء الاصطناعي لعام 2026 سابقة لكيفية مراقبة الأنظمة عالية المخاطر. تدرك الشركات في طوكيو ولندن وسان فرانسيسكو أنها لا تستطيع الاختباء خلف عذر “الصندوق الأسود”. إذا رفض نظام مؤتمت قرضاً أو استبعد طلباً للتوظيف، يجب أن تكون الشركة قادرة على شرح هامش الخطأ. لقد خلق هذا معياراً عالمياً جديداً للشفافية. سلاسل التوريد التي تعتمد على الخدمات اللوجستية المؤتمتة حساسة بشكل خاص لهذه المقاييس. خطأ صغير في نموذج تنبئي يمكن أن يؤدي إلى ملايين الدولارات من الوقود المهدر أو المخزون المفقود. لم تعد المخاطر محصورة في نافذة دردشة، بل أصبحت مادية ومالية. هذا الضغط العالمي يجبر مزودي البرمجيات على فتح أنظمتهم وتوفير بيانات أكثر دقة لعملائهم من المؤسسات. لم يعد بإمكانهم تقديم واجهة بسيطة فقط، بل يجب عليهم توفير بيانات الثقة الخام التي تسمح للفرق باتخاذ قرارات مستنيرة.

يظهر تأثير هذا التحول بقوة في القطاعات التي تتطلب دقة عالية. تقود الرعاية الصحية والتمويل الطريق في تطوير معايير التقارير الجديدة هذه. إنهم يبتعدون عن فكرة المساعد العام ويتجهون نحو وكلاء متخصصين للغاية بأهداف ضيقة وقابلة للقياس. هذا يقلل من مساحة عدم اليقين ويسهل تتبع الأداء بمرور الوقت. هناك إدراك متزايد بأن الجزء الأكثر قيمة في نظام الذكاء الاصطناعي ليس النموذج نفسه، بل البيانات المستخدمة للتحقق منه. تستثمر الشركات بكثافة في “مجموعات البيانات الذهبية” (golden datasets) التي تعمل كحقيقة أساسية لاختباراتها الداخلية. يسمح لهم ذلك بتشغيل كل إصدار نموذج جديد مقابل مجموعة من الإجابات الصحيحة المعروفة لمعرفة ما إذا كانت مستويات عدم اليقين قد تغيرت. إنها عملية صارمة تشبه الهندسة التقليدية أكثر من “هندسة المطالبات” (prompt engineering) التجريبية في الماضي. الهدف هو خلق بيئة يمكن التنبؤ بها حيث تكون المخاطر معروفة ومُدارة. هكذا يصبح عدم اليقين في القياس ميزة تنافسية بدلاً من كونه التزاماً.

تتعامل الفرق العالمية أيضاً مع التأثير الثقافي لهذه الأدوات. هناك توتر بين الرغبة في السرعة والحاجة إلى الدقة. في العديد من المناطق، هناك خوف من أن يؤدي الإفراط في التنظيم إلى إبطاء الابتكار. ومع ذلك، يجادل القادة في هذا المجال بأنه لا يمكنك الابتكار على أساس من الرمال. من خلال وضع مقاييس واضحة لعدم اليقين، فإنهم في الواقع يتيحون نمواً أسرع. يمكنهم نشر ميزات جديدة مع العلم أن أنظمة المراقبة لديهم ستكتشف أي انحرافات كبيرة في الأداء. هذا يخلق حلقة تغذية راجعة حيث يصبح النظام أكثر أماناً كلما أصبح أكثر ذكاءً. تتحول المحادثة العالمية من “ما الذي يمكن أن يفعله الذكاء الاصطناعي” إلى “كيف يمكننا إثبات ما فعله الذكاء الاصطناعي”. هذا تغيير جوهري في العلاقة بين البشر والآلات، ويتطلب مجموعة جديدة من المهارات وطريقة جديدة للتفكير في البيانات. الفائزون في هذا العصر الجديد سيكونون أولئك الذين يستطيعون تفسير الصمت بين الكلمات التي ينطق بها الذكاء الاصطناعي، وأولئك الذين يفهمون أن درجات الثقة (confidence scores) أكثر أهمية من النص نفسه.

صباح الثلاثاء مع مساعد مهلوس

لفهم كيفية عمل هذا في الممارسة العملية، لننظر إلى يوم في حياة مدير مشروع أول يدعى ماركوس. يعمل لدى شركة لوجستية عالمية تستخدم الذكاء الاصطناعي لإدارة بيانات الشحن. في يوم ثلاثاء عادي، يفتح لوحة التحكم الخاصة به ويرى أن الذكاء الاصطناعي قد عالج خمسة آلاف وثيقة. أداة التقارير الأساسية ستظهر هذا كنجاح، لكن ماركوس ينظر إلى خريطة حرارة عدم اليقين. يلاحظ مجموعة من الوثائق من ميناء معين في جنوب شرق آسيا حيث انخفضت درجات الثقة بشكل حاد. لا يحتاج إلى فحص جميع الوثائق الخمسة آلاف، بل يحتاج فقط إلى النظر في الخمسين التي حددها النظام كغير مؤكدة. يكتشف أن تغييراً في تنسيق الشحن المحلي قد أربك النموذج. ولأن فريقه يتتبع عدم اليقين، فإنهم يكتشفون الخطأ قبل تحميل السفن. لو اعتمدوا على تقارير المنصة القياسية، لكان الخطأ قد انتشر عبر سلسلة التوريد بأكملها، مما تسبب في تأخيرات وغرامات. هذا هو الأداء العملي لفريق يعرف ما يجب مراقبته.

يتكرر هذا السيناريو في كل صناعة. في قسم التسويق، قد يستخدم الفريق الذكاء الاصطناعي لإنشاء مئات المنشورات على وسائل التواصل الاجتماعي. بدلاً من مجرد النظر إلى عدد المنشورات التي تم إنشاؤها، فإنهم يتتبعون معدل التدخل البشري. هذه هي النسبة المئوية لمخرجات الذكاء الاصطناعي التي تتطلب تدخلاً بشرياً لإصلاح خطأ ما. إذا بدأ معدل التدخل في الارتفاع، فهذه إشارة إلى أن النموذج لم يعد متوافقاً مع صوت العلامة التجارية أو أن المطالبات بحاجة إلى تحديث. هذا المقياس هو انعكاس مباشر لعدم اليقين في النظام. إنه ينقل المحادثة بعيداً عن “الذكاء الاصطناعي يستبدل الكتاب” إلى “الذكاء الاصطناعي يعزز الكتاب ونحن نقيس كفاءة هذا التعزيز”. إنه يوفر طريقة واضحة لحساب العائد على الاستثمار لهذه الأدوات. إذا كان معدل التدخل 80 بالمائة، فإن الذكاء الاصطناعي لا يوفر الكثير من الوقت في الواقع. إذا كان 5 بالمائة، فقد حقق الفريق توسعاً هائلاً. هذا هو نوع البيانات الملموسة التي يحتاج التنفيذيون لرؤيتها لتبرير الاستثمار المستمر في التكنولوجيا.

يجد المبدعون أيضاً طرقاً جديدة لاستخدام هذه المقاييس. قد يستخدم مطور برمجيات مساعد برمجة بالذكاء الاصطناعي لكتابة ميزة جديدة. بدلاً من مجرد قبول الكود، يقومون بتشغيله من خلال مجموعة من الاختبارات المؤتمتة التي تقيس احتمالية وجود أخطاء (bugs). إنهم يبحثون عن “رائحة الكود” (code smell) في مخرجات الذكاء الاصطناعي. إنهم يتتبعون عدد المرات التي يقترح فيها الذكاء الاصطناعي حلاً صحيحاً تقنياً ولكنه غير آمن. من خلال تكميم هذه المخاطر، يمكنهم بناء حواجز حماية أفضل في عملية التطوير الخاصة بهم. إنهم لا يستخدمون الأداة فحسب، بل يديرونها. هذا المستوى من الرقابة هو ما يميز الهواة عن المحترفين. إنه يتطلب عقلية متشككة واستعداداً للبحث عن العيوب في مخرجات تبدو مثالية. حقيقة الذكاء الاصطناعي هي أنه غالباً ما يكون مخطئاً بطرق واثقة جداً. الفرق الذكية تسمي هذا الارتباك مباشرة، ولا تتظاهر بأن النموذج مثالي، بل تبني سير عملها بالكامل على افتراض أنه معيب. هذه هي الطريقة الوحيدة لإنتاج عمل موثوق في عصر التوليد المؤتمت.

المخاطر أعلى بالنسبة للحكومات والمؤسسات العامة. عندما يُستخدم الذكاء الاصطناعي لتحديد الأهلية للخدمات الاجتماعية، فإن هامش الخطأ له تأثير مباشر على حياة البشر. النظام الذي تبلغ دقته 95 بالمائة لا يزال يفشل في حالة واحدة من كل عشرين شخصاً. بدأت الفرق الحكومية الذكية الآن في تتبع “تأثير الذيل” (impact of the tail). هذا يعني أنهم ينظرون إلى الحالات المحددة التي فشل فيها الذكاء الاصطناعي ويسألون لماذا. إنهم ليسوا راضين بمتوسط درجة مرتفع، بل يريدون معرفة ما إذا كانت الأخطاء متحيزة ضد فئات سكانية معينة أو إذا كانت تحدث عشوائياً. هنا يلتقي

قياس عدم اليقين بمتطلبات العدالة الاجتماعية. من خلال إجبار النظام على الإبلاغ عن شكوكه الخاصة، يمكنهم ضمان أن يتخذ الإنسان دائماً القرار النهائي في الحالات عالية المخاطر. هذا يبقي عواقب التكنولوجيا متجذرة في الواقع بدلاً من السماح لها بالانجراف إلى نماذج إحصائية مجردة. إنه تطبيق عملي للأخلاقيات مدمج في الكود نفسه.

ثمن الأخطاء غير المرئية

كل نظام مؤتمت له تكلفة خفية. الأكثر وضوحاً هو سعر استدعاءات واجهة برمجة التطبيقات (API calls) أو الكهرباء لتشغيل الخوادم. التكلفة الأكثر خطورة هي ثمن الأخطاء التي تمر دون أن يلاحظها أحد. إذا اعتمدت شركة على ذكاء اصطناعي لتلخيص اجتماعاتها الداخلية، وفوت ذلك الذكاء الاصطناعي قراراً رئيسياً، فقد تكون التكلفة آلاف الدولارات من الإنتاجية المفقودة. تطرح الفرق الذكية أسئلة صعبة حول هذه المخاطر الخفية. إنهم يريدون معرفة من المسؤول عندما يرتكب الذكاء الاصطناعي خطأً؟ هل هو مطور النموذج؟ الشخص الذي كتب المطالبة؟ المدير الذي وافق على المخرجات؟ من خلال تركيز عدم اليقين في القياس، يضطرون إلى الإجابة على هذه الأسئلة قبل وقوع الأزمة. إنهم يبتعدون عن ثقافة “تحرك بسرعة واكسر الأشياء” نحو ثقافة “قس مرتين واقطع مرة واحدة”. هذا تطور ضروري مع تزايد اندماج التكنولوجيا في صميم مجتمعنا.

الخصوصية هي مصدر قلق رئيسي آخر في حلقة التغذية الراجعة. لقياس عدم اليقين بفعالية، غالباً ما تحتاج الفرق إلى جمع بيانات حول كيفية تفاعل البشر مع الذكاء الاصطناعي. يحتاجون إلى معرفة المخرجات التي تم تصحيحها ولماذا. هذا يخلق مجموعة جديدة من البيانات الحساسة التي يجب حمايتها. هناك تناقض هنا: لجعل الذكاء الاصطناعي أكثر أماناً، تحتاج إلى مزيد من البيانات، لكن المزيد من البيانات يخلق المزيد من مخاطر الخصوصية. الفرق الذكية لا تتجاهل هذا التناقض، بل تبقيه مرئياً وتناقشه علانية. إنهم يبحثون عن طرق لقياس الأداء دون المساس بخصوصية مستخدميهم. قد يتضمن ذلك استخدام نماذج محلية لا ترسل البيانات مرة أخرى إلى خادم مركزي أو استخدام تقنيات الخصوصية التفاضلية (differential privacy) لإخفاء الهويات الفردية. الهدف هو بناء نظام دقيق وأخلاقي في آن واحد. إنه توازن صعب، لكنه الطريقة الوحيدة للحفاظ على ثقة الجمهور على المدى الطويل.

القيد الأخير هو العنصر البشري. حتى مع أفضل المقاييس، لا يزال البشر عرضة لـ “تحيز الأتمتة” (automation bias). هذا هو الميل للثقة في الآلة حتى عندما تكون مخطئة بوضوح. إذا كانت لوحة التحكم تقول إن النموذج لديه درجة ثقة 99 بالمائة، فمن المرجح جداً أن يتوقف الإنسان عن التحقق من العمل. تحارب الفرق الذكية هذا عن طريق إدخال تحديات “الفريق الأحمر” (red team) عمداً. قد يعطون بشراً مخرجات غير صحيحة معروفة أحياناً لمعرفة ما إذا كانوا سيكتشفونها. هذا يبقي الإنسان في الحلقة (human-in-the-loop) يقظاً ويمنعه من أن يصبح مجرد ختم موافقة للذكاء الاصطناعي. إنه اعتراف بأن الجزء الأكثر أهمية في أي نظام ذكاء اصطناعي هو الشخص الذي يستخدمه. بدون مستخدم متشكك ومطلع، حتى أكثر النماذج تقدماً يعد التزاماً. المقياس الحقيقي للنجاح ليس مقدار ما يمكن للذكاء الاصطناعي فعله، بل مقدار ما يمكن للإنسان التحقق منه. هذا هو المرساة التي تبقي التكنولوجيا مرتبطة بالنتائج العملية.

هل لديك قصة، أداة، اتجاه، أو سؤال عن الذكاء الاصطناعي تعتقد أنه يجب علينا تغطيته؟ أرسل لنا فكرتك للمقالة — نود أن نسمعها.

تحت غطاء محرك الاستدلال

بالنسبة لأولئك الذين يرغبون في تجاوز المستوى السطحي، يتضمن التنفيذ التقني لهذه المقاييس بضعة مكونات رئيسية. أولاً، تنظر الفرق إلى احتمالات سجل الرموز (log-probabilities) التي يولدها النموذج. هذه هي البيانات الخام التي تخبرك بمدى “صعوبة” النموذج في اختيار الكلمة التالية. التباين العالي في احتمالات السجل هو علامة واضحة على عدم اليقين العالي. تسمح العديد من واجهات برمجة التطبيقات الحديثة الآن بسحب هذه البيانات جنباً إلى جنب مع مخرجات النص. ثانياً، تنفذ الفرق استراتيجيات تقارير الذكاء الاصطناعي الحديثة باستخدام “طرق التجميع” (ensemble methods). يتضمن ذلك تشغيل نفس المطالبة من خلال ثلاثة نماذج مختلفة ومقارنة النتائج. إذا اتفقت النماذج الثلاثة، يكون عدم اليقين منخفضاً. إذا قدموا ثلاث إجابات مختلفة، يقوم النظام بتمييز المخرجات للمراجعة. هذه طريقة أكثر تكلفة لتشغيل الذكاء الاصطناعي، ولكن بالنسبة للمهام الحرجة، يتم تبرير التكلفة بزيادة الموثوقية.

تكامل سير العمل هو الحدود التالية. لا يكفي امتلاك البيانات، بل يجب وضعها حيث يوجد العمال. هذا يعني بناء إضافات مخصصة لأدوات مثل Slack أو Microsoft Teams أو Jira التي تعرض درجة الثقة مباشرة في الواجهة. إذا رأى المطور قطعة كود في محرره مع ضوء تحذير أصفر بجانبها، فهو يعرف أن عليه توخي الحذر. هذه تجربة أفضل بكثير من الاضطرار إلى التحقق من لوحة تحكم منفصلة. تدير الفرق أيضاً حدود واجهة برمجة التطبيقات الخاصة بها عن طريق توجيه المهام ذات الأولوية المنخفضة إلى نماذج أرخص وأقل يقيناً، وحفظ النماذج عالية الدقة للمهام الأكثر أهمية. أصبح “توجيه النماذج” (model routing) هذا جزءاً قياسياً من حزمة الذكاء الاصطناعي. إنه يتطلب فهماً متطوراً للمقايضات بين التكلفة والسرعة والدقة. توضح القائمة التالية المقاييس التقنية الأساسية التي تراقبها الفرق الذكية الآن:

• تباين احتمالية سجل الرموز عبر سلسلة الاستجابة بأكملها.
• درجات التشابه الدلالي بين تكرارات متعددة لنفس المطالبة.
• معدلات التدخل البشري مصنفة حسب نوع المهمة وإصدار النموذج.
• طفرات زمن الاستجابة (latency spikes) التي ترتبط بمخرجات عالية عدم اليقين.
• نسبة الحقائق الموثقة إلى الادعاءات غير المتحقق منها في النص المولد.

تلعب التخزين المحلي وقواعد بيانات المتجهات (vector databases) أيضاً دوراً في تقليل عدم اليقين. باستخدام التوليد المعزز بالاسترجاع (RAG)، يمكن للفرق إجبار النموذج على النظر في مجموعة محددة من الوثائق قبل الإجابة على سؤال. هذا يقلل بشكل كبير من فرصة الهلوسة. ومع ذلك، حتى RAG لديها مجموعة مقاييس خاصة بها. تتبع الفرق الآن “دقة الاسترجاع”. هذا يقيس ما إذا كان النظام قد وجد بالفعل الوثيقة الصحيحة للإجابة على السؤال. إذا فشلت خطوة الاسترجاع، ستفشل خطوة التوليد أيضاً. هذا يخلق سلسلة من عدم اليقين يجب إدارتها في كل حلقة. لم يعد قسم المهووسين في الشركة يتعلق فقط بكتابة الكود، بل ببناء خط أنابيب معقد من الضوابط والتوازنات التي تضمن أن المخرجات النهائية قريبة من الحقيقة قدر الإمكان. هذا يتطلب نوعاً جديداً من المعرفة التقنية التي تجمع بين علوم البيانات وهندسة البرمجيات والخبرة في المجال.

المقياس الجديد للنجاح

التحول نحو تتبع عدم اليقين في القياس هو أهم تطور في مجال الذكاء الاصطناعي منذ إصدار أول نماذج لغوية كبيرة. إنه يمثل الانتقال من فترة الضجيج إلى فترة المنفعة. أدركت الفرق الذكية أن قيمة الذكاء الاصطناعي ليست في قدرته على محاكاة الكلام البشري، بل في قدرته على أن يكون شريكاً موثوقاً في المهام المعقدة. من خلال التركيز على الفجوة بين الادعاءات والواقع، فإنهم يبنون أنظمة يمكن الوثوق بها في العالم الحقيقي. إنهم يتجاوزون التقارير الأساسية التي يقدمها بائعو المنصات إلى مستوى أعمق من التفسير. هذه ليست قصة أنظف، بل هي عملية فوضوية وصعبة تتطلب يقظة مستمرة. ومع ذلك، فإن عواقب تجاهل هذه المقاييس كبيرة جداً بحيث لا يمكن تجاهلها. مستقبل الذكاء الاصطناعي ينتمي لأولئك الذين يستطيعون قياس شكوكه. هذا هو الرهان العملي الذي سيحدد العقد القادم من التقدم التكنولوجي. الهدف لم يعد بناء آلة تعرف كل شيء، بل بناء آلة تعرف متى تخمن.

ملاحظة المحرر: لقد أنشأنا هذا الموقع كمركز إخباري وإرشادي متعدد اللغات للذكاء الاصطناعي للأشخاص الذين ليسوا خبراء في الكمبيوتر، ولكنهم ما زالوا يرغبون في فهم الذكاء الاصطناعي، واستخدامه بثقة أكبر، ومتابعة المستقبل الذي بدأ بالفعل في الوصول.

هل وجدت خطأ أو شيئًا يحتاج إلى تصحيح؟ أخبرنا.