بدء تشكيل كتاب القواعد العالمي الجديد للذكاء الاصطناعي

نهاية عصر الابتكار بلا قيود

لقد ولى زمن “الغرب المتوحش” في عالم الذكاء الاصطناعي. لسنوات، قام المطورون ببناء نماذج دون رقابة تذكر أو محاسبة حقيقية. والآن، يبرز كتاب قواعد عالمي جديد ليحل محل تلك الحرية بهيكل صارم من الامتثال والأمان. هذه ليست مجرد اقتراحات أو مبادئ توجيهية طوعية، بل هي سلسلة من القوانين الصارمة المدعومة بغرامات باهظة وتهديد بالاستبعاد من السوق. يقود الاتحاد الأوروبي هذا التوجه من خلال قانون الذكاء الاصطناعي (AI Act) الشامل، بينما تمضي الولايات المتحدة قدماً في أوامر تنفيذية تستهدف أقوى النماذج. ستغير هذه القواعد كيفية كتابة الكود وكيفية جمع البيانات، كما ستحدد من يمكنه المنافسة في هذا المجال عالي المخاطر. إذا كنت تبني نموذجاً يتنبأ بالسلوك البشري، فأنت الآن تحت المجهر. هذا التحول ينقل الصناعة من التركيز على السرعة إلى التركيز على الأمان. يجب على الشركات الآن إثبات أن أنظمتها غير متحيزة قبل إطلاقها. هذا هو الواقع الجديد لكل شركة تقنية على وجه الأرض.

تصنيف المخاطر في الكود

جوهر القواعد الجديدة هو نهج يعتمد على المخاطر. وهذا يعني أن القانون يعامل محرك توصيات الموسيقى بشكل مختلف عن أداة التشخيص الطبي أو السيارة ذاتية القيادة. وضع الاتحاد الأوروبي المعيار الذهبي لهذا النوع من التنظيم، حيث قسم الذكاء الاصطناعي إلى أربع فئات متميزة بناءً على الضرر المحتمل الذي قد يلحق بالمجتمع. الأنظمة المحظورة هي تلك التي تسبب ضرراً واضحاً ويتم منعها تماماً، مثل أنظمة التصنيف الاجتماعي التي تستخدمها الدول السلطوية لتتبع المواطنين، أو التعرف البيومتري في الوقت الفعلي في الأماكن العامة من قبل جهات إنفاذ القانون. أما الأنظمة عالية المخاطر فهي التي ستخضع لأكبر قدر من التدقيق، وهي المستخدمة في البنية التحتية الحيوية والتعليم والتوظيف. إذا كان الذكاء الاصطناعي يقرر من يحصل على وظيفة أو قرض، فيجب أن يكون شفافاً ويخضع لرقابة بشرية ومستويات عالية من الدقة. الأنظمة ذات المخاطر المحدودة، مثل الـ chatbots، لديها قواعد أقل ولكنها لا تزال تتطلب الشفافية، إذ يجب عليها إخبار المستخدم بأنه يتحدث إلى آلة. أما الأنظمة ذات المخاطر الدنيا، مثل ألعاب الفيديو، فتُترك وشأنها غالباً. هذا الإطار مصمم لحماية الحقوق دون وقف التقدم، لكن تعريفات هذه الفئات لا تزال محل نقاش في المحاكم وقاعات الاجتماعات. ما يسميه شخص ما “توصية بسيطة” قد يسميه آخر “تلاعباً نفسياً”. تحاول القواعد رسم خط في الرمال، لكن الرمال تتحرك باستمرار مع تطور التكنولوجيا.

فصل البرلمان الأوروبي هذه الفئات في أحدث إحاطاته حول قانون الذكاء الاصطناعي للاتحاد الأوروبي. تعمل هذه الوثيقة كأساس لكيفية تفكير بقية العالم في حوكمة الذكاء الاصطناعي، حيث تنقل الحوار من المخاوف المجردة إلى المتطلبات التشغيلية الملموسة التي يجب على الشركات تلبيتها للبقاء في السوق.

سباق التقييس العالمي

هذه القواعد لن تبقى في أوروبا فقط. نحن نشهد صعود “تأثير بروكسل” (Brussels Effect) في الوقت الفعلي، حيث تضع سوق كبيرة قواعد يجب على الجميع اتباعها للبقاء في المنافسة. لن تقوم شركة عالمية ببناء نموذج لباريس وآخر لنيويورك إذا كانت تكلفة ذلك باهظة، بل ستبني وفقاً لأكثر المعايير صرامة. لهذا السبب يصبح إطار عمل الاتحاد الأوروبي نموذجاً عالمياً. تراقب الدول الأخرى ذلك عن كثب وتصيغ نسخها الخاصة؛ فالبرازيل وكندا تعملان بالفعل على قوانين مماثلة. حتى الولايات المتحدة، التي تفضل عادةً نهجاً أخف لتشجيع الابتكار، تتجه نحو مزيد من الرقابة. أصدر البيت الأبيض أمراً تنفيذياً يتطلب من مطوري النماذج القوية مشاركة نتائج اختبارات الأمان الخاصة بهم مع الحكومة. هذا يخلق عالماً مجزأً ولكنه متقارب من التنظيم. يجب على الشركات الآن توظيف فرق من المحامين لمجرد قراءة المتطلبات الجديدة، وقد تجد الشركات الناشئة الصغيرة في الأسواق الناشئة هذه القواعد مستحيلة التنفيذ، مما قد يؤدي إلى عالم لا يملك فيه سوى عمالقة التكنولوجيا الموارد اللازمة للامتثال. إنها لعبة عالية المخاطر تُكتب قواعدها بينما تسير السيارات بأقصى سرعة. يُعد الأمر التنفيذي الأمريكي بشأن أمان الذكاء الاصطناعي إشارة واضحة إلى أن عصر التنظيم الذاتي قد انتهى.

هل لديك قصة، أداة، اتجاه، أو سؤال عن الذكاء الاصطناعي تعتقد أنه يجب علينا تغطيته؟ أرسل لنا فكرتك للمقالة — نود أن نسمعها.

يوم في مكتب ملتزم بالقواعد

تخيل مدير منتج يُدعى أليكس يعمل في شركة ناشئة تبني أدوات ذكاء اصطناعي للموارد البشرية. قبل القواعد الجديدة، كان أليكس يطلق تحديثاً كل يوم جمعة، أما الآن فالعملية أبطأ وأكثر تأنياً. يجب أن تمر كل ميزة جديدة عبر تقييم مخاطر صارم قبل نشر سطر واحد من الكود. يتعين على أليكس توثيق بيانات التدريب وإثبات أنها لا تميز ضد المجموعات المحمية، كما يجب عليه الاحتفاظ بسجلات مفصلة لكيفية اتخاذ النموذج للقرارات. هذا يضيف أسابيع إلى دورة التطوير. في يوم ثلاثاء عادي، لا يقوم أليكس بالبرمجة، بل يجتمع مع مسؤول الامتثال لمراجعة بطاقات النماذج (model cards) والتحقق مما إذا كانت سجلات الـ API تلبي المعايير الجديدة للشفافية والاحتفاظ بالبيانات. هذا هو الاحتكاك الذي يخلقه الأمان. بالنسبة للمستخدم، قد يعني هذا طرحاً أبطأ للميزات الجديدة، ولكنه يعني أيضاً فرصة أقل للرفض غير العادل في وظيفة بسبب خوارزمية غامضة. غالباً ما يبالغ الناس في تقدير مدى تأثير هذه القواعد على وقف الابتكار، لكن في الواقع، سيتغير شكل الصناعة فقط. كما يقلل الناس من تعقيد هذه القوانين؛ فالأمر لا يتعلق فقط بتجنب التحيز، بل بسيادة البيانات واستهلاك الطاقة. التناقضات موجودة في كل مكان: نريد ذكاءً اصطناعياً سريعاً وقوياً، ولكننا نريده أيضاً بطيئاً وحذراً. نريد أن يكون مفتوحاً وشفافاً، ولكننا نريد حماية الأسرار التجارية للشركات التي تبنيه. هذه التوترات لا تُحل، بل تُدار. يجب على أليكس التعامل مع عدة مهام محددة كل أسبوع:

• مراجعة مصدر البيانات لضمان الحصول على جميع مجموعات التدريب بشكل قانوني.
• تشغيل نصوص كشف التحيز على كل تكرار جديد للنموذج.
• توثيق موارد الحوسبة المستخدمة لتدريب النماذج الكبيرة.
• تحديث واجهة المستخدم لتشمل إفصاحات إلزامية عن الذكاء الاصطناعي.
• إدارة عمليات التدقيق من طرف ثالث لبروتوكولات أمان الشركة.

في نهاية اليوم، يشعر أليكس بثقل هذه القواعد. هو يعلم أنها مهمة للعدالة، لكنه يعلم أيضاً أن منافسيه في البلدان ذات القواعد الأقل يتحركون بشكل أسرع. يتساءل عما إذا كانت شركته الناشئة قادرة على تحمل تكلفة أن تكون أخلاقية. هذا هو الواقع لآلاف المطورين. للمزيد حول كيفية تأثير هذه التغييرات على الصناعة، راجع أحدث تحليل لسياسة الذكاء الاصطناعي لدينا.

أسئلة صعبة للمنظمين الجدد

من المستفيد فعلياً من هذه القواعد؟ هل هو الجمهور، أم عمالقة التكنولوجيا الذين يستطيعون تحمل الرسوم القانونية؟ إذا اضطرت شركة ناشئة لإنفاق نصف جولتها التمويلية على الامتثال، فهل يقتل ذلك المنافسة؟ يجب أن نسأل أيضاً عن التكاليف الخفية للخصوصية. إذا كان يجب تدقيق كل نموذج، فمن يقوم بالتدقيق؟ هل نثق في وكالة حكومية للوصول إلى الأعمال الداخلية لكل ذكاء اصطناعي رئيسي؟ هناك أيضاً مسألة عدم المساواة العالمية. إذا وضع الغرب القواعد، فماذا يحدث للجنوب العالمي؟ هل سيُجبرون على تبني معايير لا تناسب احتياجاتهم المحلية؟ قيل لنا إن هذه القواعد تجعلنا أكثر أماناً، ولكن هل هي كذلك حقاً؟ أم أنها تخلق شعوراً زائفاً بالأمان بينما تنتقل المخاطر الحقيقية إلى أجزاء غير منظمة من الويب المظلم؟ يجب أن نتساءل عما إذا كان قانون مكتوب يمكنه مواكبة تكنولوجيا تتغير كل شهر. الفجوة بين الكود والقانون هي المكان الذي يمكن أن تسوء فيه الأمور. تحاول الهيئة الاستشارية للذكاء الاصطناعي التابعة للأمم المتحدة معالجة هذه الفجوات العالمية، لكن الإجماع صعب المنال. التناقضات لا تزال واضحة؛ نريد الحماية، لكننا نخشى التجاوز. نريد الابتكار، لكننا نخشى عواقب نظام لا نفهمه تماماً. هذه الأسئلة ليس لها إجابات سهلة، والقوانين الحالية هي مجرد محاولة أولى لإيجادها.

البنية التقنية للامتثال

بالنسبة للمستخدمين المتقدمين والمطورين، تصبح القواعد محددة للغاية. يركز الأمر التنفيذي الأمريكي على قوة الحوسبة كمؤشر للمخاطر. إذا تم تدريب نموذج باستخدام أكثر من 10^26 عملية فاصلة عائمة، فإنه يطلق متطلبات إبلاغ إلزامية. هذه كمية هائلة من الحوسبة، ولكن مع تحسن الأجهزة، ستصل المزيد من النماذج إلى هذا الحد. يجب على المطورين أيضاً القلق بشأن مصدر البيانات؛ لم يعد بإمكانك مجرد كشط الإنترنت وتوقع الأفضل، بل تحتاج إلى إثبات حقك في استخدام البيانات. هناك أيضاً معايير جديدة لـ red-teaming، حيث توظف أشخاصاً لمحاولة اختراق ذكائك الاصطناعي. يجب الآن توثيق نتائج هذه الاختبارات ومشاركتها مع المنظمين في ولايات قضائية معينة. يواجه مزودو الـ API أيضاً حدوداً جديدة، فقد يُطلب منهم التحقق من هوية عملائهم لمنع وقوع الذكاء الاصطناعي مزدوج الاستخدام في الأيدي الخطأ. التخزين المحلي للنماذج هو مجال قلق آخر؛ إذا كان النموذج صغيراً بما يكفي ليعمل على كمبيوتر محمول، فكيف تفرض هذه القواعد؟ غالباً ما تكون الإجابة من خلال قيود على مستوى الأجهزة أو وضع علامات مائية إلزامية على المحتوى الذي يولده الذكاء الاصطناعي. هذه العقبات التقنية هي الأساس الجديد لأي شخص يعمل في هذا المجال. يجب عليك الآن مراعاة المتطلبات التقنية التالية:

• تنفيذ سجلات قوية لجميع جلسات تدريب النماذج.
• تطوير أدوات آلية لوضع علامات مائية على مخرجات النصوص والصور.
• إعداد بيئات آمنة لعمليات تدقيق النماذج من قبل طرف ثالث.
• ضمان عدم تجاوز حدود معدل الـ API لمرشحات الأمان.
• الاحتفاظ بسجلات مفصلة لجميع التدخلات البشرية.

تغير هذه المتطلبات سير عمل المطور؛ لم يعد الأمر يتعلق فقط بالتحسين من أجل الدقة أو السرعة، بل ببناء نظام قابل للتدقيق من الألف إلى الياء. هذا يعني قضاء المزيد من الوقت في البنية التحتية ووقت أقل في الخوارزمية الأساسية. كما يعني أن التخزين المحلي والنماذج غير المتصلة بالإنترنت ستواجه ضغوطاً متزايدة لتضمين ميزات الأمان نفسها، مما قد يؤثر على الأداء في أجهزة الحافة (edge devices).

الإطار غير المكتمل

خلاصة القول هي أن عصر “تحرك بسرعة واكسر الأشياء” قد انتهى بالنسبة للذكاء الاصطناعي. نحن ننتقل إلى عصر “تحرك بحذر ووثق كل شيء”. القواعد لا تزال تُكتب، وهي بعيدة كل البعد عن الكمال؛ فهي تسوية فوضوية بين الأمان والربح والأمن القومي. يظل سؤال رئيسي واحد مفتوحاً: هل يمكن لقانون مركزي أن يسيطر حقاً على تكنولوجيا لا مركزية؟ مع استمرار تحسن النماذج مفتوحة المصدر، ستنمو الفجوة بين ما هو منظم وما هو ممكن. هذه ليست نهاية القصة، بل هي مجرد نهاية البداية. بدأ كتاب القواعد في التشكل، لكن الحبر لا يزال رطباً. سنرى كيف سيتم تطبيق هذه القوانين وكيف ستتكيف الصناعة في الأشهر المقبلة. اليقين الوحيد هو أن الطريقة التي نبني بها ونستخدم بها الذكاء الاصطناعي لن تكون كما كانت أبداً.

ملاحظة المحرر: لقد أنشأنا هذا الموقع كمركز إخباري وإرشادي متعدد اللغات للذكاء الاصطناعي للأشخاص الذين ليسوا خبراء في الكمبيوتر، ولكنهم ما زالوا يرغبون في فهم الذكاء الاصطناعي، واستخدامه بثقة أكبر، ومتابعة المستقبل الذي بدأ بالفعل في الوصول.