ماذا تعني القيم الإنسانية في عصر الذكاء الاصطناعي؟
أسطورة الكود المحايد
غالبًا ما يتمحور الحديث حول الذكاء الاصطناعي حول المعايير التقنية وقوة المعالجة. نحن نتحدث عن المعاملات (parameters) والبيتابايت وكأنها المقاييس الوحيدة المهمة. هذا التركيز يحجب واقعًا أكثر إلحاحًا؛ فكل نموذج لغوي ضخم هو مرآة للتفضيلات البشرية التي شكلته. لا وجود لما يسمى بالخوارزمية المحايدة. عندما يقدم النظام إجابة، فهو لا يستقيها من فراغ الحقيقة الموضوعية، بل يعكس مجموعة محددة من القيم المرجحة التي وضعها المطورون ومصنفو البيانات. الخلاصة بسيطة: نحن لا نعلم الآلات كيف تفكر، بل نعلمها كيف تقلد أعرافنا الاجتماعية المحددة والمتناقضة غالبًا. هذا التحول من المنطق إلى الأخلاق هو التغيير الأهم في الحوسبة منذ اختراع الإنترنت، إذ ينقل عبء المسؤولية من الأجهزة إلى البشر الذين يحددون ما تبدو عليه الإجابة “الصحيحة”.
انتقلت الصناعة مؤخرًا من القدرات الخام إلى السلامة والمواءمة. قد يبدو هذا تعديلًا تقنيًا، لكنه في الواقع عملية سياسية عميقة. عندما نطلب من النموذج أن يكون مفيدًا وغير ضار وصادقًا، فنحن نستخدم كلمات تحمل معاني مختلفة عبر الثقافات. فالقيمة التي تبدو عالمية في قاعة اجتماعات في سان فرانسيسكو قد تُعتبر مسيئة أو غير ذات صلة في جاكرتا. التوتر بين النطاق العالمي والقيم المحلية هو الصراع الأساسي في التكنولوجيا الحديثة. يجب أن نتوقف عن النظر إلى الذكاء الاصطناعي كقوة مستقلة ونبدأ في رؤيته كامتداد منسق للنية البشرية، وهذا يتطلب النظر إلى ما وراء ضجيج التسويق لرؤية الخيارات الفعلية التي يتم اتخاذها خلف الكواليس.
المرآة الميكانيكية للاختيار البشري
لفهم كيفية دخول القيم إلى الآلة، يجب أن تنظر إلى التعلم التعزيزي من التغذية الراجعة البشرية (RLHF). هذه هي العملية التي يقوم فيها آلاف المتعاقدين البشريين بترتيب استجابات مختلفة من النموذج. قد يرون نسختين من إجابة وينقرون على تلك التي يجدونها أكثر تهذيبًا أو دقة. بمرور الوقت، يتعلم النموذج ربط أنماط معينة بهذه التفضيلات البشرية. هذا ليس بحثًا عن الحقيقة، بل بحثًا عن الموافقة. يتم تدريب النموذج بشكل أساسي لإرضاء مقيميه من البشر، مما يخلق قشرة من الأخلاق هي في الواقع مجرد تقريب إحصائي لما تحب مجموعة معينة من الناس سماعه.
تُدخل هذه العملية قدرًا هائلًا من الذاتية. إذا كان غالبية المصنفين من فئة ديموغرافية معينة، فسيتبنى النموذج بشكل طبيعي لغة الشارع والإشارات الاجتماعية والتحيزات السياسية لتلك المجموعة. ولهذا السبب عانت الإصدارات المبكرة من العديد من النماذج الشهيرة مع سياقات غير غربية؛ فهي لم تكن معطلة، بل كانت تعمل تمامًا كما تم تدريبها، عاكسةً قيم الأشخاص الذين تقاضوا أجورًا لتقييمها. هذه هي الطبقة التي تتحول فيها المفاهيم المجردة مثل العدالة والتحيز إلى سطور برمجية ملموسة. إنها عملية يدوية كثيفة العمالة تحدث قبل وقت طويل من رؤية الجمهور لواجهة الدردشة. إنها البنية التحتية غير المرئية للذكاء الحديث.
الارتباك الذي يجلبه معظم الناس لهذا الموضوع هو فكرة أن الذكاء الاصطناعي لديه بوصلة أخلاقية داخلية. هو لا يملك ذلك، بل لديه دالة مكافأة (reward function). عندما يرفض النموذج الإجابة على سؤال، فليس لأنه “يشعر” بأن الموضوع خاطئ، بل لأن بيانات تدريبه تم ترجيحها بشدة لتجنب ذلك النمط المحدد. هذا التمييز حيوي؛ فإذا اعتقدنا أن الآلة أخلاقية، سنتوقف عن مساءلة الأشخاص الذين وضعوا القواعد. يجب أن ندرك أن كل رفض وكل نصيحة مفيدة هي استجابة مبرمجة بناءً على قرار بشري. من خلال تحديد ذلك، يمكننا البدء في طرح أسئلة أفضل حول من يضع هذه القواعد ولماذا.
الجيوسياسية في الفضاء الكامن
تأثير هذه الخيارات عالمي. يتم تدريب معظم نماذج الذكاء الاصطناعي الرائدة بشكل أساسي على بيانات باللغة الإنجليزية من الويب المفتوح، مما يخلق ثقافة رقمية أحادية حيث القيم الغربية هي الافتراضية. عندما يطلب مستخدم في جزء آخر من العالم نصيحة حول ديناميكيات الأسرة أو القضايا القانونية، فإنه يتلقى إجابات مفلترة من خلال عدسة ثقافية محددة. هذه ليست مجرد مسألة ترجمة لغوية، بل مسألة ترجمة ثقافية. تختلف الفروق الدقيقة في التسلسل الهرمي والخصوصية والمجتمع بشكل كبير في جميع أنحاء العالم، لكن النماذج غالبًا ما تقدم حلًا واحدًا يناسب الجميع. هذا التمركز للفكر “الصحيح” هو شكل جديد من القوة الناعمة التي لها آثار هائلة على الخطاب العالمي.
نحن نشهد اندفاعًا لتطوير نماذج ذكاء اصطناعي سيادية استجابةً لذلك. تستثمر دول مثل فرنسا والإمارات والهند في بنيتها التحتية الخاصة لضمان تمثيل قيمها الثقافية المحددة. إنهم يدركون أن الاعتماد على نموذج أجنبي يعني استيراد رؤية عالمية أجنبية. في 2026، تسارع هذا الاتجاه مع إدراك الحكومات أن السيطرة على الفضاء الكامن (latent space) للذكاء الاصطناعي لا تقل أهمية عن السيطرة على الحدود المادية. البيانات المستخدمة لتدريب هذه النماذج تعمل ككتاب تاريخ رقمي. إذا كان ذلك الكتاب يحتوي على منظور واحد فقط، فسيكون الذكاء الناتج محدودًا بطبيعته. ولهذا السبب فإن الدفع نحو مجموعات بيانات متنوعة ليس مجرد مبادرة تنوع، بل هو مطلب للدقة والملاءمة على نطاق عالمي.
المخاطر عالية بالنسبة للتعاون الدولي. إذا قامت كل دولة ببناء ذكاء اصطناعي خاص بها معزول بمجموعة قيم جامدة، فقد نجد صعوبة أكبر في التواصل عبر الحدود الرقمية. ومع ذلك، فإن البديل هو عالم تحدد فيه بضع شركات في وادٍ واحد الحدود الأخلاقية لمليارات البشر. لا يوجد مسار مثالي؛ فالتحدي هو إيجاد طريقة للسماح بالفروق الدقيقة المحلية مع الحفاظ على فهم مشترك لحقوق الإنسان الأساسية. هذه مشكلة لا يمكن حلها بأجهزة أفضل، بل تتطلب دبلوماسية دولية ونظرة فاحصة للحوافز التي تقود صناعة التكنولوجيا اليوم. يمكنك معرفة المزيد حول هذه التحديات في دليلنا الشامل حول أخلاقيات وحوكمة الذكاء الاصطناعي.
القرارات في الحلقة
تخيل يومًا في حياة مديرة توظيف تدعى سارة. تستخدم أداة ذكاء اصطناعي لفحص مئات السير الذاتية لوظيفة هندسية جديدة. تم تدريب الأداة للبحث عن مرشحين ذوي “إمكانات عالية”. على السطح، يبدو هذا فعالًا، ولكن تحت الواجهة، تطبق الأداة مجموعة من القيم التي تعلمتها من بيانات التوظيف السابقة. إذا أظهرت البيانات التاريخية أن الشركة وظفت في الغالب أشخاصًا من ثلاث جامعات محددة، فسيقوم الذكاء الاصطناعي بإعطاء الأولوية لتلك المدارس. إنه لا يتصرف بـ “عنصرية” أو “نخبوية” بالمعنى البشري، بل يقوم ببساطة بالتحسين للنمط الذي قيل له إنه قيم. قد لا تدرك سارة حتى أن الأداة تستبعد مرشحين لامعين من خلفيات غير تقليدية لأنهم لا يتناسبون مع ملف “القيمة” الخاص ببيانات التدريب.
يتكرر هذا السيناريو في آلاف المكاتب كل يوم. القيم ليست مجرد مفاهيم مجردة، بل هي الفرق بين الحصول على وظيفة والتجاهل من قبل خوارزمية. ينطبق المنطق نفسه على تسجيل الائتمان، والفرز الطبي، وحتى الأحكام القضائية. في كل حالة، يتم تحويل قيمة بشرية مثل “المخاطرة” أو “الجدارة” إلى رقم. الخطر هو أننا نتعامل مع هذه الأرقام كحقائق موضوعية بدلًا من كونها خيارات ذاتية. غالبًا ما نفوض العمل الشاق للحكم الأخلاقي للآلة لأنها أسرع وأقل إزعاجًا، لكن الآلة تقوم فقط بأتمتة تحيزاتنا الحالية على نطاق لا يمكننا مراقبته بسهولة.
المنتجات التي نستخدمها كل يوم تجعل هذه الحجج حقيقية. عندما يقوم تطبيق تحرير الصور بتفتيح لون بشرة الشخص تلقائيًا ليجعله يبدو “أفضل”، فهو يعبر عن قيمة. عندما يتجنب تطبيق الملاحة المناطق “عالية الجريمة”، فهو يصدر حكمًا قيميًا حول السلامة والطبقة الاجتماعية. هذه ليست أخطاء تقنية، بل هي النتيجة المنطقية للبيانات ودوال المكافأة التي قدمها البشر. نحن نعيش في عالم تقوم فيه برمجياتنا باستمرار باتخاذ خيارات أخلاقية نيابة عنا. في معظم الأوقات، لا نلاحظ حدوث ذلك حتى يسوء الأمر. نحتاج إلى أن نكون أكثر انتقادًا للميزات “المفيدة” التي هي في الواقع مجرد افتراضات مدمجة.
التغيير الأخير في الصناعة هو التحرك نحو “القابلية للتوجيه” (steerability). تمنح الشركات الآن المستخدمين مزيدًا من التحكم في “شخصية” أو “قيم” ذكائهم الاصطناعي. يمكنك إخبار النموذج بأن يكون “أكثر إبداعًا” أو “أكثر احترافية”. في حين أن هذا يبدو كتمكين، إلا أنه في الواقع ينقل المسؤولية مرة أخرى إلى المستخدم. إذا قدم الذكاء الاصطناعي إجابة متحيزة، يمكن للشركة الادعاء بأن المستخدم لم يضبط المعلمات بشكل صحيح. هذا يخلق شبكة معقدة من المساءلة حيث لا أحد مسؤول حقًا عن المخرجات. نحن ننتقل من عالم القيم الثابتة إلى عالم القيم السائلة التي يحددها المستخدم، مما يجلب مجموعة خاصة به من المخاطر والمكافآت.
ثمن الأخلاق المؤتمتة
يجب أن نطبق الشك السقراطي على فكرة الذكاء الاصطناعي “الآمن”. إذا كان النموذج مواءمًا تمامًا، فمع قيم من تم مواءمته؟ هناك تكلفة خفية لمرشحات السلامة التي نراها اليوم. غالبًا ما يتم بناء هذه المرشحات باستخدام عمالة منخفضة الأجر في الدول النامية. يتم دفع بضعة دولارات في الساعة لأشخاص لقراءة أكثر المحتويات رعبًا على الإنترنت حتى تتمكن الآلة من تعلم كيفية تجنبها. نحن نقوم بشكل أساسي بتعهيد الصدمات النفسية لعملية تحديد القيم إلى الجنوب العالمي. هل الذكاء الاصطناعي “أخلاقي” حقًا إذا كانت سلامته مبنية على ظهور عمال مستغلين؟ هذا سؤال نادرًا ما تحب صناعة التكنولوجيا الإجابة عليه مباشرة.
قيد آخر هو “هلوسة الأخلاق”. نظرًا لأن هذه النماذج بارعة جدًا في المحاكاة، يمكن أن تبدو مقنعة جدًا عندما تتحدث عن الأخلاق. يمكنها الاستشهاد بالفلاسفة والسوابق القانونية بسهولة، لكنها لا تفهم أيًا من ذلك. إنها فقط تتنبأ بالرمز التالي في تسلسل.
يستخدم BotNews.today أدوات الذكاء الاصطناعي للبحث عن المحتوى وكتابته وتحريره وترجمته. يقوم فريقنا بمراجعة العملية والإشراف عليها للحفاظ على المعلومات مفيدة وواضحة وموثوقة.
- من يحدد “الحقيقة الأساسية” للمواضيع الذاتية مثل السياسة أو الدين؟
- ماذا يحدث عندما تتعارض قيم شركة خاصة مع قيم مجتمع ديمقراطي؟
- كيف ندقق في “الصندوق الأسود” لعملية RLHF لنرى ما تمت مكافأته فعليًا أثناء التدريب؟
- هل يمكن للآلة أن تكون “عادلة” حقًا إذا كان العالم الذي تدربت عليه غير عادل بطبيعته؟
هندسة القيود
بالنسبة للمستخدمين المتقدمين، غالبًا ما توجد “قيم” الذكاء الاصطناعي في مطالبات النظام (system prompt) وتكوين واجهة برمجة التطبيقات (API). هذه هي الـ 20 بالمائة من التكنولوجيا التي تتحكم في الـ 80 بالمائة الأخرى من التجربة. عند التفاعل مع نموذج عبر API، يمكنك رؤية إعدادات “درجة الحرارة” (temperature) و”top-p”. هذه ليست مجرد مقابض تقنية، بل تتحكم في مدى السماح للنموذج بالانحراف عن الاستجابة الأكثر احتمالًا (والتي غالبًا ما تكون الأكثر تحيزًا). تجعل درجة الحرارة المنخفضة النموذج أكثر قابلية للتنبؤ و”أمانًا”، بينما تسمح درجة الحرارة الأعلى بمزيد من “الإبداع” ولكن أيضًا بمزيد من المخاطرة. هذه الإعدادات هي خط الدفاع الأول في مواءمة القيم.
تكامل سير العمل هو المكان الذي تلتقي فيه التكنولوجيا بالواقع. يقوم المطورون الآن ببناء طبقات “حواجز الحماية” (guardrails) التي توضع بين المستخدم والنموذج. تستخدم هذه الطبقات نماذج ثانوية للتحقق من المدخلات والمخرجات بحثًا عن انتهاكات القيم. هذا يخلق نظام تحكم متعدد المستويات. ومع ذلك، فإن حواجز الحماية هذه لها حدود API وتكاليف زمن انتقال خاصة بها. يمكن لمكدس أمان معقد أن يبطئ الاستجابة لعدة ثوانٍ، وهو مقايضة كبيرة في بيئة الإنتاج. علاوة على ذلك، أصبح التخزين المحلي لهذه النماذج أكثر شيوعًا. يتيح تشغيل نموذج محليًا للمستخدم تجاوز مرشحات الشركات، ولكنه يتطلب أيضًا VRAM كبيرة وتقنيات تكميم (quantization) محسنة مثل GGUF أو EXL2.
التحدي الحقيقي للمحترفين هو “الضبط الدقيق” (fine tuning) للقيم. يتضمن ذلك أخذ نموذج أساسي وتدريبه على مجموعة بيانات صغيرة وعالية الجودة من أمثلة محددة. هذه هي الطريقة التي تنشئ بها الشركات ذكاءً اصطناعيًا يعكس صوت علامتها التجارية أو متطلباتها القانونية. إنها طريقة لـ “ترميز” القيم في أوزان النموذج. لكن هذه العملية مكلفة وتتطلب فهمًا عميقًا للنزول المتدرج (gradient descent) ودوال الخسارة (loss functions). لن يفعل معظم المستخدمين هذا أبدًا، لكن أولئك الذين يفعلون هم من يتحكمون حقًا في “أخلاق” الآلة. إنهم من يحددون حدود ما هو ممكن داخل نظامهم البيئي الرقمي المحدد. القيود التقنية هي الحدود الفعلية لأخلاقيات الآلة.
هل لديك قصة، أداة، اتجاه، أو سؤال عن الذكاء الاصطناعي تعتقد أنه يجب علينا تغطيته؟ أرسل لنا فكرتك للمقالة — نود أن نسمعها.
الامتياز البشري الأخير
في نهاية المطاف، الذكاء الاصطناعي أداة وليس إلهًا. ليس لديه قيم؛ لديه تعليمات. لقد حجب التحول الأخير نحو تفاعل أكثر شبهاً بالبشر هذه الحقيقة، مما جعلنا أكثر عرضة للثقة في “حكم” الآلة. يجب أن نقاوم هذه الرغبة. تظل مسؤولية النتائج الأخلاقية تقع بقوة على عاتق البشر الذين يصممون وينشرون ويستخدمون هذه الأنظمة. يجب أن نكون أقل قلقًا بشأن الذكاء الاصطناعي “الشرير” وأكثر قلقًا بشأن البشر الذين يستخدمون الذكاء الاصطناعي “المحايد” لتبرير تحيزاتهم الخاصة. الآلة جيدة فقط بقدر نوايا سيدها.
لقد تركنا بأسئلة أكثر حدة مما بدأنا به. مع زيادة اندماج الذكاء الاصطناعي في حياتنا، علينا أن نقرر أي أجزاء من إنسانيتنا نحن على استعداد لأتمتتها وأيها يجب أن نحميها. المخاطر لا تتعلق فقط بنتائج بحث أفضل أو رسائل بريد إلكتروني أسرع، بل تتعلق بمن نحن كنوع وما هو نوع العالم الذي نريد بناءه. لا يمكننا السماح لراحة التكنولوجيا بأن تعمينا عن عواقب استخدامها. عصر الذكاء الاصطناعي ليس نهاية القيم الإنسانية، بل هو بداية فصل جديد وأكثر صعوبة في تاريخنا. يجب أن نكون مستعدين لكتابته بنية واضحة.
ملاحظة المحرر: لقد أنشأنا هذا الموقع كمركز إخباري وإرشادي متعدد اللغات للذكاء الاصطناعي للأشخاص الذين ليسوا خبراء في الكمبيوتر، ولكنهم ما زالوا يرغبون في فهم الذكاء الاصطناعي، واستخدامه بثقة أكبر، ومتابعة المستقبل الذي بدأ بالفعل في الوصول.
هل وجدت خطأ أو شيئًا يحتاج إلى تصحيح؟ أخبرنا.
