حقوق الإنسان وأخطاء الروبوت: أن تكون إنسانًا في عصر الذكاء الاصطناعي

أصبحت العلااقة بين الذكاء الاصطناعي وحقوق الإنسان في السنوات الأخيرة محور نقاش عالمي متعدد الأبعاد، يتداخل فيه البعد الفلسفي مع القانوني على نحو غير مسبوق. فقد أكدت الأمم المتحدة، عبر مجلس حقوق الإنسان والمفوضية السامية لحقوق الإنسان، أن أنظمة الذكاء الاصطناعي يجب أن تظل ملتزمة بقواعد القانون الدولي لحقوق الإنسان، بل دعت إلى حظر، أو وقف، أي تطبيقات للذكاء الاصطناعي يثبت عجزها عن الالتزام بمعايير محدّدة، وضرورة اعتمد نهج قائم على حقوق الإنسان في حوكمة التقنيات الجديدة والاستمع إلى صوت الفئات المتضررة من تبعاتها، مع التركيز على النساء والأطفال والأقليات والفئات المهمشة التي تتأثر على نحو غير متناسب بالتحيزات الخوارزمية¹. وعلى الصعيد ذاته، برز الاتحاد الأوروبي فاعالًا دوليًا رياديًا في تنظيم الذكاء الاصطناعي بطريقة تراعي الحقوق الأساسية، معتمدًا قانونًا للذكاء الاصطناعي (Act AI EU) يُعدّ الأول من نوعه دوليًا في هذا المجال. ويهدف هذا التشريع إلى ضبط استخدامات الذكاء الاصطناعي ضمن نهج تقييم المخاطر، فارضًا قيودًا صارمة على التطبيقات عالية الخطورة، وحاظرًا الممرسات التي تُعَدّ انتهاكًا للحقوق والكرامة، وقارِنًا ذلك باشتراط الشفافية والإشراف البشري. وقد وُضِعت هذه المحظورات لحمية الكرامة الإنسانية وتحقيق المساواة وصون الخصوصية، مع ترسيخ معيار عالمي لاستخدام مسؤول للذكاء الاصطناعي². في هذا السياق، برزت تساؤلات عن انعكاس هيمنة التقنيات الذكية على ماهيّة الإنسان؛ إذ يحذر منظّرو فلسفة التقنية من خطر ما يمكن تسميته "الاستلااب الرقمي" الذي يعني اغتراب الإنسان عن ذاته ومجتمعه تحت وطأة الهيمنة الرقمية، ومن "التشييء التقني للإنسان"؛ إذ يُخشى أن يُعامَل الفرد على أنه رقم أو بيانات ضمن منظومات آلية، ما قد يُفقد البشر جوهرهم الإنساني إن غابت الضوابط الأخلااقية والقانونية الرادعة. وتنعكس أهمية هذه القضايا على طيف واسع من الحقوق الأساسية. فالحق في الخصوصية مُهَدَّد بالتوسع الهائل في أنظمة المراقبة وجمع البيانات، ومبدأ المساواة يواجه اختبارًا صعبًا مع إمكانية إعادة إنتاج التحيزات البشرية عبر الخوارزميات؛ ما يرسخ أنماطًا جديدة من التمييز ضد الأقليات والفئات الضعيفة، ثمّ إن كرامة الإنسان معَّرَضة للمساس حين تُفَوَّض إلى الآلات قرارات تؤثر في مصير الإنسان من دون رقابة بشرية أو مساءلة قانونية، وتواجه حرية التعبير تحديات في عصر الخوارزميات المنتقاة للمحتوى وانتشار النصوص والصور الموَّلَدة آليًا، وهو ما يثير تساؤلات عن مستقبل الخطاب في الفضاء الرقمي³. وفي خضم هذا المشهد المعقد، يبرز كتاب حقوق الإنسان وأخطاء الروبوت مساهمة بحثية حديثة تتناول هذه التساؤلات، ساعيًا لاستقصاء السبل الكفيلة بصون حقوق

الإنسان وكرامته في عصر الآلات الذكية؛ إذ تعدّ قضية العلااقة بين الذكاء الاصطناعي وحقوق الإنسان من أكثر المواضيع إلحاحًا في النقاشات الفلسفية والقانونية المعاصرة.

أولًا: مدخل مفاهيمي وتأريخي

يبدأ الكتاب بمقدمة ذات طابع شخصي، تفصح فيها المؤلفة سوزي أليغري عن شعورها بالقلق الوجودي تجاه التسارع المهول في تطوير تقنيات الذكاء الاصطناعي ونشرها، لا سيّم التقنيات التي تحاكي الإبداع البشري. وقد مثّلت سنة 2023، في رأي المؤلّفة، لحظة تحوّل نوعي في علااقة العامة بالذكاء الاصطناعي؛ إذ خرجت هذه التكنولوجيا من المختبرات المغلقة إلى الاستخدام الشعبي الواسع، بفضل أدوات، مثل "تشات جي بي تي" (ChatGPT) وميدجورني (Midjourney)، أتاحت لمستخدمين عاديين إنتاج نصوص وصور بكفاءة غير مسبوقة، ما طرح تساؤلات جدية عن مكانة الإنسان باعتباره مبدعًا ومفكرًا في زمن الآلة. غير أنّ المؤلّفة لا تقف عند حد توصيف الظاهرة أو التعبير عن انزعاج شخصي، بل تنخرط من البداية في نقاش أعمق، تمزج فيه بين التحليل الفلسفي والمنظور الحقوقي. فهي ترى أنّ الذكاء الاصطناعي لا يمثل نقلة تقنية فحسب، بل هو أيضًا لحظة مفصلية في التاريخ الأخلااقي والقانوني للبشرية. ومن هذا المنطلق، تستند إلى الإعلاان العالمي لحقوق الإنسان لعام 1948 بوصفه الوثيقة المؤسسة للكرامة الإنسانية، لتؤكد أن التكنولوجيا يجب أن تُساءَل ضمن هذا الإطار القيمي العالمي، لا بوصفها حيادية أو منفصلة عن البنى الاجتمعية. وقد استندت المؤلّفة، في هذا الصدد، إلى جملة من الوثائق الحقوقية الدولية؛ منها العهد الدولي الخاص بالحقوق المدنية والسياسية (1966) الذي يكرّس الحقوق في الخصوصية، وحرية الفكر والتعبير، وكذلك العهد الخاص بالحقوق الاقتصادية والاجتمعية والثقافية (1966) الذي يؤكد الحق في التمتع بمنجزات التقدم العلمي مع احترام الكرامة الإنسانية. وتحاجّ بأن هذه النصوص - وإن كُتبت في سياق ما بعد الحرب العالمية الثانية وتأسيس نظام دولي جديد قائم على توزيع القوة بين قوتين دوليتين هم الولايات المتحدة الأميركية والاتحاد السوفياتي – لا تزال تحمل من الحيوية والمرونة ما يؤهّلها لتأطير التحديات الحقوقية الراهنة في العصر الرقمي. وتستحضر المؤلفة السياقات التاريخية التي أفضت إلى نشوء حقوق الإنسان بوصفها منظومة أخلااقية وقانونية كونية، وتربط بينها وبين الضرورات الراهنة لمساءلة الذكاء الاصطناعي. ففي كلتا الحالتين، كان يوجد تجاوز خطر للحدود الأخلااقية، سواء تمثّل في فظائع الحرب أو في تهديد الآلة لاستقلاالية الإنسان. وقد سبقها إلى هذه الرؤية العديد من الفلااسفة والنقاد، ما طرحه الفيلسوف الألماني مارتن هايدغر في السؤال عن التقنية (Technik der nach Frage Die)؛ إذ حذّر من اختزال الكائن البشري في مورد

وظيفي في منظومة تقنية لا تراعي قيمته الوجودية⁴. وتنسجم هذه التحذيرات أيضًا مع ما أثارته شوشانا زوبوف في كتابها عصر رأسملية المراقبة، فقد نبّهت إلى تحوّل الإنسان إلى مادة خام تُستخرج منها البيانات وتُعاد قَولبتها لأغراض تجارية وربحية. ولعلّ أبرز ما تشير إليه المؤلّفة، وتدعونا للتفكر فيه، هو أنّ الخطورة لا تكمن فيم تفعله التكنولوجيا فحسب، بل فيم نتيح لها فعله أيضًا من دون مقاومة أو تنظيم⁵. فالذكاء الاصطناعي، حين يُفصل عن الرقابة القانونية والمساءلة الأخلااقية، لا يهدد حقوق الإنسان وحدها، بل يهدد كذلك فهمنا لما يعنيه أن نكون بشرًا أساسًا، وهو ما يجعل مساءلة التكنولوجيا أمرًا وجوديًا لا تنظيميًا فحسب.

ثانيًا: تحليل الفصول ومحتوى الكتاب

يتوزع الكتاب على تسعة فصول، يتناول كل فصل منها وجهًا محددًا من أوجه العلااقة بين التكنولوجيا وحقوق الإنسان.

1. الروبوتات القاتلة

تخصص المؤلّفة أحد أهم فصول كتابها لموضوع مثير للجدل في تقاطعات الذكاء الاصطناعي مع القانون الدولي الإنساني، ألا وهو الروبوتات القاتلة (Robots Killer)، أو ما يُعرف بالأسلحة الفتاكة ذاتية التشغيل (LAWS. ويشير هذا المفهوم إلى أنظمة تسليحية قائمة على الذكاء الاصطناعي، قادرة على)⁶اختيار أهدافها ومهاجمتها من دون تدخّل بشري مباشر، أي إنها تفوّض إلى الآلة اتخاذ قرار الحياة أو الموت. وهذه النقلة التقنية، كم تؤكد المؤلّفة، ليست تحوّلًا في أدوات الحرب فحسب، بل هي أيضًا مسألة تتعلق جوهريًا بأخلااقيات القتال، وبمستقبل إنسانيتنا في ساحات الصراع. وتحاجّ المؤلفة بأن القبول باستخدام هذا النوع من الأنظمة يُفضي إلى تقويض جوهري لمبدأ التمييز بين المدنيين والمقاتلين الذي يُعدّ حجر الزاوية في القانون الدولي الإنساني، وبخاصة في اتفاقيات جنيف (1949) والبروتوكولين الإضافَّييَن التابَعيَن لها. فبينم يُفترض أن يتّصف المقاتل البشري بحسّ أخلااقي وخبرة ميدانية وقدرة على التقدير الظرفي، فإن الآلة، مهم بلغت قدرتها الحاسوبية، تفتقر إلى الضمير، وإلى ما يُعرف ب "النية الإنسانية" التي تُعدّ أساسية في تحديد شرعية استخدام القوة. وتنبّه المؤلّفة إلى أنّ توكيل الخوارزميات القرار القتالي لا يطرح إشكالية أخلااقية وأخرى قانونية؛ إذ إنه يغدو من المتعذر

تحديد المسؤولية القانونية في حال ارتكاب تلك الأنظمة أخطاء قاتلة. فمن سيحاسب حينها؟ المبرمج؟ أم الدولة؟ أم الشركة المصنّعة؟ هنا يظهر ما يُعرف ب "فجوة المساءلة"، وهي من أبرز الأسباب التي دفعت منظمت مثل هيومن رايتس ووتش (HRW) والحملة ضد الروبوتات القاتلة (to Campaign Robots Killer Stop) إلى الدعوة لحظر هذه الأسلحة على نحو استباقي قبل أن تصبح واقعًا ميدانيًا معَّمَم.ا⁷وتشير المؤلّفة أيضًا إلى أنّ بعض القوى الدولية، خصوصًا الولايات المتحدة وروسيا، تقاوم الجهود الأممية الهادفة إلى إصدار معاهدة دولية ملزمة تحظر استخدام الروبوتات القاتلة أو تنظّمه. وقد عُقدت منذ عام 2013 عدة اجتمعات في إطار اتفاقية الأسلحة التقليدية (CCW) برعاية الأمم المتحدة، من دون أن تفضي إلى اتفاق ملزم، بسبب خلاافات جوهرية متعلقة بمدى الحاجة إلى الحظر، أو إمكانية تطوير أطر تنظيمية قائمة على التقييم الأخلااقي والتقني لكل نظام على حدة. والجدير ذكره أن جيش الاحتلاال الإسرائيلي لجأ في حرب الإبادة الجمعية التي يمارسها على سكان قطاع غزة إلى استخدام تقنيات الذكاء الاصطناعي والروبوتات القاتلة لتعزيز عملياته العسكرية. وأحد أبرز هذه التقنيات هو نظام الذكاء الاصطناعي المعروف باسم "لافندر" (Lavender)، الذي يُستخدم لتحديد الأهداف المحتملة بناءً على بيانات ضخمة؛ إذ جرى تصنيف حوالى 37000 فرد أهدافًا محتملة باستخدام هذا النظام. إضافة إلى ذلك، اعتمد جيش الاحتلاال الإسرائيلي على نظام آخر يُدعى "الإنجيل" (Gospel The) لتحديد المباني والمنشآت المرتبطة بحركة المقاومة الإسلاامية "حمس"، ما أدى إلى زيادة كبيرة في عدد الأهداف المستهدفة⁸. وتصرّ المؤلّفة، في هذا السياق، على أنّ السمح للآلات باتخاذ قرارات الحياة والموت يهدد أحد أهم المبادئ التي قامت عليها منظومة حقوق الإنسان الحديثة، وهو مبدأ الكرامة؛ إذ إنه لا يمكن الحديث عن كرامة الإنسان بينم قرارات قتله تُتّخذ بناءً على حسابات إحصائية أو أوامر خوارزمية. ويمكن في هذا السياق استدعاء نص المادة (6) من العهد الدولي الخاص بالحقوق المدنية والسياسية، التي تنص على أن لكل إنسان الحق في الحياة، وأنه لا يجوز حرمان أيّ فرد من حياته تعسفًا. وتخلص المؤلّفة إلى أنّ الروبوتات القاتلة ليست مستقبالًا بعيدًا، بل إنها ستكون في المستقبل القريب، وأن الحذر القانوني والسياسي منها يجب أن يكون بحجم التهديد. فالسؤال لا ينبغي أن يكون: "هل يمكن أن نبرمج آلة تحترم القانون الدولي؟"، بل: "هل نريد حقًا عالمًا يتُرك فيه مصير الإنسان لآلة بلاا ضمير؟".

2. روبوتات الجنس والرعاية

تولي المؤلّفة ظاهرة روبوتات الجنس والرعاية اهتممًا خاصًا، بوصفها أحد أبرز تجليات التحيز الجندري المتغلغل في تصميم الذكاء الاصطناعي وتوظيفه. وتحاجّ بأن هذه الروبوتات، التي غالبًا ما تبرمَج وتشَّكَل بأجساد أنثوية مصممة لإرضاء الحاجات العاطفية أو الجنسية أو الرعائية، لا تمثّل تطورًا في تمكين المرأة أو تعزيز المساواة، بل تعكس أنماطًا أبوية عميقة الجذور في الثقافة التقنية والخيال الذكوري وتعيد إنتاجها. وتشير إلى أن الروبوتات من قبيل روبوت "هارموني" (Harmony)، وهو روبوت جنسي طورته شركة "ريل دول" (RealDoll)، روبوتات الرعاية، مثل "بيبر" (Pepper) و"بارو" (Paro)، تصَّمَم غالبًا بصفات أنثوية صوتًا وشكالًا وسلوكًا، وكأن وظائف الدعم والحنان والاستجابة العاطفية، وحتى الخضوع، هي بطبيعتها "أنثوية". وتعزز هذه البرمجة الافتراضات النمطية دور المرأة باعتبارها مقدّمة للرعاية والخدمة، سواء في المجال الخاص أو العام، وتحاكي الصورة الأبوية عن الأنثى الخاضعة والمتاحة باستمرار. وتتوسع أيضًا في تحليل الأبعاد الأخلااقية لاستخدام روبوتات الجنس، معتبرة أنها تكرّس تصورًا يشيّئ الجسد الأنثوي ويحوّله إلى سلعة قابلة للبرمجة وفق الأهواء الفردية؛ ما يعزز النزعة الاستهلااكية والعلااقات غير المتكافئة بين الذكر والأنثى. وتحذّر من أن الاعتياد على التفاعل مع روبوتات "مطواعة" ربما يؤثر في ديناميكيات العلااقات البشرية الفعلية، ويقوّض قيم التفاهم والاحترام المتبادل، بل قد يغذي سلوكيات عدوانية أو استغلاالية عند بعض المستخدمين. أما في مجال الرعاية، فتعرض المؤلّفة تساؤلات معقدة عن مدى أخلااقية تفويض مهمت العناية بالأطفال أو المسنين أو ذوي الإعاقة إلى روبوتات تفتقر إلى الحد الأدنى من فهم حالة هذه الفئات والتعاطف الحقيقي معها. وتخشى من أن يُستخدم الذكاء الاصطناعي بديالًا اقتصاديّا - لأنّ تكلفة استخدامه أقلّ ثمنًا من العملة البشرية في القطاعات الاجتمعية - لا انطقًا من رغبة في تحسين جودة الحياة، بل من أجل تقليل التكلفة على حساب الأبعاد الإنسانية للعلااقات الرعائية. وفي هذا السياق تطرح المؤلّفة سؤلًا جوهريًا: هل يمكن أن تقوم الآلة بعمل الرعاية من دون أن تُفرغ هذا العمل من محتواه الأخلااقي والوجداني؟ وهل نقبل باستبدال الرعاية بوصفها علااقة إنسانية حيّة بخدمة آلية قابلة للتخصيص؟ وتخلص إلى أن هذه الروبوتات، رغم ما يُقال عن حيادها أو فاعليتها، ليست إلا مرايا عاكسة للثقافة التي تنتجها، ولخيالات التقنية الذكورية ذات الطابع التملكي والاستهلااكي تحديدًا. وتدعو إلى مساءلة كل تصميم تقني من حيث الأداء والقيم التي يحملها والرموز التي يرسّخها، في سبيل بناء بيئة تقنية أكثر عدلًا ومساواة.

3. العدالة الآلية: حين تحاكمنا الآلة

في الفصل المتعلق بالعدالة الآلية، تفتح المؤلّفة ملفًا بالغ الخطورة، يتصل مباشرة بجوهر سيادة القانون، وحقوق الأفراد في المحاكمة العادلة، واستقلاال السلطة القضائية. وتسلط الضوء على التحول المتسارع نحو استخدام الخوارزميات والتقنيات الذكية في عمليات إنفاذ القانون وتقييم المخاطر، بل حتى في إصدار الأحكام القضائية، كم في بعض الولايات القضائية داخل الولايات المتحدة وأوروبا ودول أخرى بدأت في تجريب ما يسمّى "القضاة الرقميين" أو أنظمة التنبؤ بالسلوك الإجرامي. وتحذّر من وهم

الحياد الذي تضفيه البرمجيات والخوارزميات، مؤكدة أن هذه الأنظمة تُبنى غالبًا على بيانات تاريخية مشبعة بالتحيزات الطبقية والعرقية والجندرية. ومن ثم، فإنّ استخدامها لا يُنتج عدالة محايدة، بل يعيد تدوير الظلم بصورة رقمية أشد تعقيدًا واستعصاءً على الكشف. وتبرز المؤلّفة، في هذا السياق، مثال نظام "كومباس" (COMPASالذي استُخدم في الولايات المتحدة لتقييم مدى احتملية عودة)⁹المتهمين إلى الجريمة، والذي أظهر، بحسب دراسة أجرتها مؤسسة (ProPublica) عام 2016، تحيزًا واضحًا ضد المتهمين السود مقارنةً بالبيض، رغم تشابه ظروفهم القانونية. وتجادل المؤلّفة بأن العدالة لا يمكن اختزالها في معادلات رياضية أو نماذج احتملية، لأنها ترتكز على فهم السياق والنية والتعاطف والقدرة على التقدير القضائي المنضبط، وكلها صفات لا يمكن أن تتحقق عبر منظومة خوارزمية تفتقر إلى الحس الإنساني. ويُعدّ هذا الطرح امتدادًا لنقاش فلسفي أقدم موضوعه العلااقة بين القانون والآلة، فالقانون ليس قاعدة ميكانيكية، بل هو عملية تأويلية ومعيارية تتطلب فهمًا أخلااقيًا معقدًا للعدالة. وتتناول غياب الشفافية باعتباره أحد أخطر تحديات العدالة الآلية؛ إذ غالبًا ما تُدار الخوارزميات المستخدمة في أنظمة القضاء الجنائي من شركات خاصة تحت ذرائع "حقوق الملكية الفكرية"؛ ما يجعل من الصعب على المتهم أو محاميه معرفة الأسس التي بُني عليها القرار، وهو أمر يؤدي أيضًا إلى ما يُعرف بالغموض الخوارزمي (Opacity Algorithmic). ولا يُقوّض هذا الغموض مبدأ المحاكمة العادلة فحسب، بل أيضًا حق الدفاع وحق الوصول إلى العدالة، وحق الاستئناف المبني على أساس واضح أيضًا. وتشدد المؤلّفة كذلك على أن إدخال الذكاء الاصطناعي في عمل القضاء يجب أّلا يعني تهميش القاضي البشري أو تسليمه سلطته لآلة، بل لا بد من أن يكون الأمر مكمّالًا للقدرة الإنسانية، لا بديالًا منها. فاستقلاال القضاء، بوصفه أحد أركان الديمقراطية وحقوق الإنسان، يصبح في خطر حين تُختزل العدالة في قرار توليدي سريع مستند إلى بيانات مشوهة. وفي ضوء ذلك، تدعو المؤلفة إلى اعتمد مبادئ واضحة تضمن الشفافية والمساءلة والرقابة البشرية، في أيّ نظام قضائي يُدمج فيه الذكاء الاصطناعي. وتحثّ على تعزيز الدور الإنساني في عمليات التقاضي، وتأكيد أن التكنولوجيا يجب أن تظل أداة خادمة للعدالة، لا حاكمة لها.

4. الذكاء الاصطناعي وتفكيك الإنسانية: من سرقة الإبداع إلى إعادة إنتاج التحيز

في ثلااثيةٍ مترابطة من الفصول، ترصد المؤلّفة مسارات متعددة يتقاطع فيها الذكاء الاصطناعي مع البنية الرمزية والحقوقية للوجود الإنساني، محذّرةً من أن هذه التكنولوجيا تهدد الحقوق المادية وتتعدى ذلك إلى ما هو أعمق: المعنى الإنساني للذات والإبداع والعدالة. وتبدأ في تحليل الأثر المدمّر للنمذج التوليدية

(AI Generative) في الفنانين والمبدعين؛ إذ تشير إلى أن هذه التقنيات قادرة على إنتاج نصوص وصور وموسيقى بتكلفة صفرية تقريبًا، وبسرعة تتجاوز ما يمكن أن يقدّمه الإنسان. ولا يكمن الخطر في المنافسة الاقتصادية فحسب، بل في سلب المبدع مكانته بوصفه حامالًا للقيم الجملية، ومصدرًا للتجربة الإنسانية المتفردة. وترى المؤلّفة أنّ هذه النمذج، التي تتغذى من محتوى أبدعه بشر حقيقيون، تعيد تركيب نتاجهم من دون إذنٍ أو تعويض؛ ما يشكّل انتهاكًا صريحًا للحقوق المعنوية والاقتصادية، ويطرح تحديات قانونية معقدة متعلقة بحقوق الملكية الفكرية في العصر الرقمي. ثمّ تنتقل المؤلّفة إلى المستوى الوجداني من العلااقة بين الإنسان والآلة، مركّزةً على ما تسميه إسقاط المشاعر على الكائنات الاصطناعية. ويحاكي الإنسان، من منطلق الحنين أو الوحدة أو الفضول، سلوكًا عاطفيًا تجاه الروبوتات، إلى حد الحديث معها كم لو كانت واعية أو تحمل ذاتًا داخلية. وهذا الميل، بحسب المؤلّفة، ليس بريئًا؛ إذ إنه يؤدّي إلى تلاشٍ تدريجي للحدود بين الآلة والإنسان، ويُضعف إدراكنا لخصوصية التجربة الإنسانية بوصفها قائمة على الإدراك الذاتي، والمشاعر غير القابلة للبرمجة. وتحذّر من أنّ هذا الخلط قد يُستثمر في تسويق تكنولوجيا تقدّم نفسها رفيقة أو معالجًا نفسيًا أو حتى شريكًا عاطفيًا، في حين أنها تظل في حقيقتها أداة مصمّمة للااستجابة على نحو مشروط لاواعٍ. أما الخطر الثالث، فيتمثل في التمييز الخوارزمي، وهو الجانب الذي يربط بوضوح بين التقنية ومفاهيم العدالة والمساواة. وتشير المؤلّفة إلى أن أنظمة الذكاء الاصطناعي، خصوصًا تلك التي تُستخدم في التوظيف وتقييم الجدارة والرقابة الأمنية، تعتمد على بيانات تاريخية مشوبة بالتحيّز الجندري أو العرقي أو الطبقي، ما يعيد إنتاج أنماط من الإقصاء واللاامساواة بطريقة مَؤتَمتة. ولأن الخوارزميات تقدّم في الخطاب التقني بوصفها محايدة وموضوعية، فإن هذا التمييز يصبح أشد خطورة؛ لأنه يكمن في قناع الكفاءة العلمية. وفي هذا السياق، تطالب المؤلّفة بوضع آليات مراجعة ومحاسبة مستقلة لأنظمة الذكاء الاصطناعي، مع تأكيد ضرورة إدماج معايير العدالة الجندرية والعرقية في تصميم هذه النمذج، وتوسيع قاعدة البيانات على نحو يعكس تنوع المجتمعات، لا النمذج البيضاء الغربية التي تهيمن على الصناعة. وتدعو إلى تبنّي مبدأ "الشفافية الخوارزمية" وإتاحة إمكانية الطعن في القرارات التي تتخذها الأنظمة الذكية حين تؤثر في مصير الأفراد. وتُظهر هذه الفصول الثلااثة، إجمل، ا أنّ الذكاء الاصطناعي، رغم قدراته التقنية الهائلة، ما يزال منتجًا ثقافيًا يعيد إنتاج اختلاالاتنا، ويهدد القيم التي تشكّل نسيج إنسانيتنا: من التعبير الحر، إلى الإدراك العاطفي، إلى الإنصاف. لذلك، ترى المؤلّفة أن مستقبل الذكاء الاصطناعي يجب أن يُبنى على تأصيل حقوق الإنسان فيه منذ مرحلة التصميم، لا أن يُنظر إليه على أنه أداة تقنّن بعد وقوع الأضرار فحسب.

5. التكنولوجيا والسلطة وحدود الإنسان: نحو مساءلة جذرية للذكاء الاصطناعي

في خاتمة الكتاب، تطرح المؤلّفة سلسلة من الإشكاليات العميقة التي تتجاوز الطابع التقني للذكاء الاصطناعي، لتلاامس جوهر العلااقة بين الإنسان، والسلطة، والتكنولوجيا. فبعد أن تطرّقت ب هيمست الم لاوًاامش ثكرأ ليلحت لإى تلقتنا، ةيعمتاجلااو ةيندلام قوقحلل ةشاربلام تاديدهتلا لإى" ةينبلا السلطوية الجديدة"، التي تتجلى في منظومات المراقبة، وتمركز النفوذ في يد الشركات التكنولوجية الكبرى، والتشكيك في الحدود التي تفصل الإنسان على الآلة. تبدأ المؤلّفة بفصل يتحدث عنتحديات الخصوصية والمراقبة، مسلطةً الضوء على انتشار أنظمة التعرف إلى الوجوه، وكاميرات المراقبة المدعومة بالذكاء الاصطناعي، وتقنيات تتبّع الحركة والتحليل السلوكي. وتحذّر من أن هذه الأدوات، حين تُستخدم من دون رقابة أو قيود قانونية صارمة، تهدد مجموعة من الحقوق الأساسية أبرزها الحق في الخصوصية، وحرية التعبير، والحق في التجمع السلمي، وهي حقوق مكرّسة في المادة 17 من العهد الدولي الخاص بالحقوق المدنية والسياسية. وتعرض أمثلة من الصين، حيث تنتشر أنظمة المراقبة المتقدمة في الأماكن العامة وتُستخدم لأغراض سياسية، وأمثلة أخرى من بعض الديمقراطيات الغربية التي بدأت تعتمد هذه التقنيات في مجالات إنفاذ القانون ومراقبة الحدود؛ ما يفتح مج لًا ل "تطبيع الرقابة" بوصفها جزءًا من الحياة اليومية. وتسلط المؤلّفة الضوء على الدور المتعاظم الذي تؤديه شركات، مثل "غوغل" (Google) و"ميتا" (Meta) و"أمازون" (Amazon) و"أوبن أيه آي" (OpenAI)، في تشكيل بيئة الذكاء الاصطناعي المعاصر. وترى أن هذه الكيانات لم تعد شركات تجارية فحسب، بل باتت أشبه ب "قوى فوق-دولتية"، تمتلك كًّما هائالًا من البيانات والقدرات الحاسوبية والإمكانيات التأثيرية في الرأي العام والتشريعات، وحتى السياسات العامة أيضًا. وتحذّر من تواطؤ محتمل بين هذه الشركات وبعض الحكومات في تقويض الحقوق الأساسية من أجل تعظيم الأرباح أو تعزيز السيطرة السياسية، مشيرة إلى ضرورة فرض أطر تنظيمية فعالة تضمن الشفافية والمساءلة، وتحمي المستخدمين من الانتهاك والاحتكار. والسؤال الأعمق الذي تختم به الكتاب هو: ما الذي يجعلنا بشرًا؟ ترى المؤلّفة أنّ أخطر ما يمكن أن تُحدثه الثورة التقنية ليس فقدان الوظائف أو انتهاك الخصوصية، بل تضاؤل كل الإحساس بالذات البشرية في مقابل هيمنة أنظمة تتظاهر بالفهم والتفاعل والتعاطف. وتتساءل: هل يمكن الآلات أن تحب وتتألم وتختار أخلااقيًا؟ وتخلص إلى أنّ ما يميّز الإنسان هو الكرامة والضمير والتجربة الداخلية، وليس قدرته على إنتاج المعرفة أو تنظيم المعلومات فحسب. وتحذّر من ميل بعض التقنيين إلى المطالبة بمنح الآلات حقوقًا قانونية أو شخصية معنوية، في وقت لم تُضمن فيه بعد حقوق ملاايين البشر في أنحاء العالم.

في هذا السياق، تدعو المؤلّفة إلى إعادة بناء فلسفة إنسانية جديدة في عصر الذكاء الاصطناعي، لا تقوم على معاداة التكنولوجيا، بل على مساءلتها أخلااقيًا، وضبطها قانونيًا، وإخضاعها لسلطة الإنسان بدلًا من أن يكون الإنسان خاضعًا لها. فالحرية والوعي والمسؤولية هي خصائص لا يجوز التنازل عنها لمصلحة خوارزميات ربما تحاكي السلوك البشري لكنها تفتقر إلى جوهره.

خاتمة

يقدّم هذا الكتاب مساهمة نوعية في الحقل المتداخل بين القانون والفلسفة والتكنولوجيا، وتسعى المؤلّفة لتفكيك علااقة الذكاء الاصطناعي بمنظومة حقوق الإنسان؛ ليس بوصفها منظومة قانونية فحسب، بل باعتبارها تعبيرًا عن رؤية أخلااقية متكاملة للكرامة البشرية أيضًا. ويتميّز هذا الكتاب ببنية تحليلية تجمع بين الرؤية الحقوقية الصارمة والبعد الفلسفي التأملي، ما يمنحه زخمًا معرفيًا يتجاوز السجالات التقنية البحتة نحو مساءلة جذرية لموقع الإنسان في عصر الخوارزميات. تعتمد أليغري على مرجعيات قانونية دولية معروفة، مثل العهد الدولي للحقوق المدنية والسياسية، واتفاقية حقوق الأشخاص ذوي الإعاقة، والمبادئ التوجيهية للأمم المتحدة بشأن الأعمل التجارية وحقوق الإنسان، لتؤكد أن الإطار القانوني العالمي يمتلك بالفعل الأدوات اللاازمة لمساءلة الشركات التكنولوجية والحكومات عن الانتهاكات الرقمية. غير أنها تدرك حدود القانون حين ينفصل عن الأخلااق؛ ولهذا تستنجد بفلسفات إنسانية عميقة، لتُذكّر بأن الإنسان ليس وسيلة ولا مادة خامًا لتحليل البيانات، بل هو ذات حرة مسؤولة. من الناحية النقدية، ينبّه الكتاب إلى العديد من التهديدات التي تفرضها تقنيات الذكاء الاصطناعي على الحقوق الأساسية، غير أن تركيزه على المخاطر من دون تقديم عرض موسّع للااستخدامات الإيجابية قد يُنتقص منه بعض التوازن. وقد كان في الإمكان، مثال، ا مناقشة نماذج لتوظيف الذكاء الاصطناعي في رصد انتهاكات حقوق الإنسان، أو تحسين الرعاية الصحية، أو دعم التعليم. ومع ذلك، تبقى أهمية الكتاب في كونه لا يهدف إلى تقديم أجوبة نهائية بقدر ما يسعى لإثارة تساؤلات بنيوية عن طبيعة التقدم التقني، والمستفيد منه، والمهَّمَش في سياقه. تتمثل أهم نتائج الكتاب في تأكيده أن الذكاء الاصطناعي ليس أداة فحسب، بل هو أيضًا قوة بنيوية تعيد تشكيل مفهوم الإنسان نفسه، وأن مستقبل الحقوق في العالم الرقمي لن يُصان إلا من خلاال إطار قانوني - أخلااقي مزدوج، يُخضع التقنية للمساءلة، ويعيد الاعتبار لكرامة الإنسان بوصفها مركز كل تنظيم اجتمعي وسياسي. وبهذا المعنى، يُعدّ الكتاب مرجعًا لا غنى عنه لكل باحث في مجالات السياسات الرقمية، والقانون الدولي لحقوق الإنسان، وأخلااقيات الذكاء الاصطناعي، ويفتح آفاقًا جديدة لنقاش عالمي أكثر اتساعًا بشأن شروط أن نكون بشرًا في عالم تتحكم فيه الآلة.

المراجع

العربية

الأمم المتحدة، مجلس حقوق الإنسان. الأسلحة الذاتية التشغيل وحقوق الإنسان: تقرير المقرر الخاص المعني بحالات الإعدام خارج القضاء أو بإجراءات موجزة أو تعسفًا، السيد كريستوف هاينز. وثيقة رقم 36/A/HRC/26. جنيف: الأمم المتحدة،.2014

هايدغر، مارتن. السؤال عن التقنية. ترجمة فتحي المسكيني. بيروت: دار التنوير،.2013

الأجنبية

European Commission. Proposal for a Regulation of the European Parliament

and of the Council Laying Down Harmonised Rules on Artificial Intelligence

(Artificial Intelligence Act). COM (2021) 206 final. Brussels: European

Commission, 21 April 2021.

United Nations Human Rights Council. The Right to Privacy in the Digital Age:

Report of the United Nations High Commissioner for Human Rights. A/

HRC/48/31. Geneva: United Nations, 2021. at: https://acr.ps/1L9zSgl

Verbeek, Peter-Paul. Moralizing Technology: Understanding and Designing the

Morality of Things. Chicago: University of Chicago Press, 2011.

Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human

Future at the New Frontier of Power. New York: PublicAffairs, 2019.