مستقبلات حكامة حقوق الإنسان المدعومة بالذكاء الاصطناعي: المراقبة والتحكّم والحريات الرقمية في المنطقة العربية

المؤلفون

  • المؤلف

  • هيئة التحرير

DOI:

https://doi.org/10.31430/jxaz7321

الكلمات المفتاحية:

الذكاء الاصطناعي، الحوكمة، حقوق الانسان، المراقبة، العالم العربي

الملخص

تتسارع عملية دمج الذكاء الاصطناعي في حكامة حقوق الإنسان؛ إذ تتدخل الخوارزميات ونماذج التعلم الآلي، على نحوٍ متزايد ومعقّد، في عمليات صنع القرار؛ ما يوضّح ملامح التحول البرادايمي في منظومة حقوق الإنسان. وتتجلى أهمية ذلك في تحسين الحكامة من خلال تمكين التواصل الشبكي والتحليل التنبُّئي وتخصيص الموارد والنمذجة التنبُّؤية واتخاذ القرارات الآلية. غير أنه ثمة تحديات كبرى بشأن اتخاذ القرارات الخوارزمية ومخاطر التحيز وتآكل المساءلة البشرية. تستكشف هذه الدراسة العواقب طويلة الأمد للحكامة المستندة إلى الذكاء الاصطناعي على الحريات العامة والحريات الرقمية والتحول الديمقراطي، وتبحث في كيفية تسخير هذه التقنية لتحسين الشفافية والمساءلة في الحكومة والمؤسسات، وتستشرف مشاهد مستقبلية لتوطيد الذكاء الاصطناعي في حكامة حقوق الإنسان في المنطقة العربية.

المراجع

  1. Jon Pierre & B. Guy Peters, Governance, Politics, and the State, 2 nd ed. (London: Red Globe Press, 2020).
  2. ما يعزّز ما يسميه إيريك برينجولفسون "فخ تورينغ" (Trap Turing)، حيث تتضاعف مخاطر تفلّت الذكاء الاصطناعي من السيطرة البشرية، وتتركّز السلطة والثروة في أيدي أولئك الذين يتحكمون في التكنولوجيا: Erik Brynjolfsson, "The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence," Daedalus, vol. 151, no. 2 (2022), p. 274.
  3. Helen Margetts, "Rethinking AI for Good Governance," Daedalus, vol. 151, no. 2 (Spring 2022), pp. 360-371.
  4. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (New York: PublicAffairs, 2019).
  5. Christopher Hood & Helen Margetts, The Tools of Government in the Digital Age (Basingstoke: Palgrave Macmillan, 2007).
  6. Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (New York: St. Martin's Press, 2018).
  7. Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2015).
  8. Finale Doshi-Velez & Been Kim, "Towards A Rigorous Science of Interpretable Machine Learning," arXiv (2017), accessed on 15/3/2025, at: https://acr.ps/1L9zR5u
  9. Thomas Davenport, Jeanne G. Harris & Robert Morison, Analytics at Work: Smarter Decisions, Better Results (Boston: Harvard Business Review Press, 2020).
  10. الأمم المتحدة، الإعلان العالمي لحقوق الإنسان 1948 (نيويورك.)2015:
  11. Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code (Cambridge: Polity Press, 2019); Eubanks.
  12. Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: NYU Press, 2018).
  13. Kyra Wilson & Aylin Caliskan, "Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval," arXiv (2024), accessed on 15/3/2025, at: https://acr.ps/1L9zQNO; من أشهر الحالات في السنوات الأخيرة لقيام الذكاء الاصطناعي بإعادة إنتاج التمييز المدرج في قواعد بيانات التدريب الخاصة بها هي حالة شركة "أمازون" (Amazon)، التي طورت في عام 2014 أداة توظيف تعتمد على الذكاء الاصطناعي، لتدرك أن الخوارزمية المستخدمة تنطوي على تحيز جندري؛ ما أدى إلى استبعاد السير الذاتية للنساء على نحو منهجي، قبل أن تتوقف أمازون عن استخدام أداة التوظيف المتحيزة هذه. يُنظر في ذلك: Jeffrey Dastin, "Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women," in: Kirsten Martin (ed.), Ethics of Data and Analytics: Concepts and Cases (Boca Raton: Auerbach Publications, 2022), pp. 296-299.
  14. Michel Foucault, Surveiller et punir: Naissance de la prison (Paris: Gallimard, 1975).
  15. Mark Andrejevic, Automated Media (New York: Routledge, 2020).
  16. Andrew Guthrie Ferguson, The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement (New York: NYU Press, 2017).
  17. Tarleton Gillespie, Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media (New Haven: Yale University Press, 2018).
  18. Yochai Benkler, Robert Faris & Hal Roberts, Network Propaganda: Manipulation, Disinformation, and Radicalization in American Politics (Oxford: Oxford University Press, 2018).
  19. Nathaniel Persily, "The 2016 U.S. Election: Can Democracy Survive the Internet?" Journal of Democracy, vol. 28, no. 2 (2017), pp. 63–76. وتجدر الإشارة في هذا الصدد إلى "فضيحة فايسبوك-كامبريدج أناليتيكا" (scandal data Analytica Facebook–Cambridge) في عام 2018، التي كشفت استخدام البيانات الشخصية ل 87 مليونًا من مستخدمي فيسبوك لمعرفة الاختيارات الانتخابية لهؤلاء والتأثير فيها، وإرسال رسائل مؤيدة لخروج بريطانيا من الاتحاد الأوروبي (Brexit) وانتخابات دونالد ترامب في عام 2016:. ينظر Nicholas Confessore, "Cambridge Analytica and Facebook: The Scandal and the Fallout So Far," The New York Times, 4/4/2018.
  20. Rebecca MacKinnon, "Liberation Technology: China's 'Networked Authoritarianism'," Journal of Democracy, vol. 22, no. 2 (2011), pp. 32-46; Gary King, Jennifer Pan & Margaret E. Roberts, "How the Chinese Government Fabricates Social Media Posts for Strategic Distraction, Not Engaged Argument," American Political Science Review, vol. 111, no. 3 (2017), pp. 484-501.
  21. Alexis de Tocqueville, De la démocratie en Amérique, Tome Premier , 12 ème ed. (Paris: Imprimerie Claye et Taillefer, 1848 [1835]; Alexis de Tocqueville, De la démocratie en Amérique, Tome Deuxième, 12 ème ed. (Paris: Imprimerie Claye et Taillefer, 1848 [1840].
  22. ياسر الصافي، "استعمالات الذكاء الاصطناعي وتأثيرها على حقوق الإنسان والحريات العامة"، مجلة القانون الدولي للدراسات البحثية، مج 5، العدد 16 (تموز/ يوليو 2024)، ص.157
  23. Erik Brynjolfsson & Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W.W. Norton & Company, 2017).
  24. على سبيل المثال، عمّمت الإمارات العربية المتحدة اعتماد أنظمة التعرف إلى الوجه المدعومة بالذكاء الاصطناعي في الأماكن العامة، ومراقبة نشاط وسائل التواصل الاجتماعي، بما ينطوي عليه ذلك من تحيزٍ عنصري متأصل في بنية العلااقات الاجتماعية العرقية. يُنظر في ذلك: Rafeef Ziadah, "Surveillance, Race, and Social Sorting in the United Arab Emirates," Politics, vol. 44, no. 4 (2021), pp. 605-620.
  25. في مصر، على سبيل المثال، استخدمت الحكومة الذكاء الاصطناعي لمراقبة منصات التواصل الاجتماعي وتحديد هوية الأفراد المشاركين في الاحتجاجات المناهضة للحكومة، للحيلولة دون وقوع "ميدان تحرير" جديد. يُنظر في ذلك: Akin Ünver, Artificial Intelligence (AI) and Human Rights: Using AI as a Weapon of Repression and Its Impact on Human Rights, European Union In-Depth Analysis (Brussels: European Union, 2024), p. 38.
  26. بيّنت دراسة مختبر "سيتيزين لاب" بجامعة تورنتو برنامج التجسّس "بيغاسوس" من شركة "إن إس أو" الإسرائيلية أنّ ما لا يقل عن ستة بلدان في العالم سبق أن استخدمت برنامج بيغاسوس على نحو سيّئ لاستهداف المجتمع المدني، من بينها أربعة بلدان عربية، هي: المغرب، والإمارات العربية المتحدة، والمملكة العربية السعودية، والبحرين. يُنظر: بيل ماركزاك [وآخرون]، "لعبة الغمّيضة: تتبع عمليات برنامج بيغاسوس من شركة NSO في 45 دولة"، سيتيزين لاب/ جامعة تورنتو، 2018/9/18، شوهد في:2025/3/3، في https://acr.ps/1L9zQSe
  27. على سبيل المثال، حدّثت إمارة أبوظبي سيارات دوريات الشرطة بنظام التعرف البيومتري المباشر على الوجوه. ويستخدم نظام "عيون" الأمني في دبي شبكة من 300 ألف كاميرا موزعة في جميع أنحاء المدينة لتحليل البيانات و"الكشف عن المشتبه بهم:" James Lynch, "Iron Net: Digital Repression in the Middle East and North Africa," European Council of Foreign Relations, 29/6/2022, accessed on 3/3/2025, at: https://acr.ps/1L9zQNi
  28. تُعدّ المملكة العربية السعودية والإمارات العربية المتحدة من أكبر البلدان التي استثمرت بكثافة في تكنولوجيا الذكاء الاصطناعي لأغراض المراقبة، لا سيما من خلاال تكثيف التعاون مع الصين وإسرائيل. وتعمد البلدان إلى استخدام خوارزميات الذكاء الاصطناعي للكشف عن المحتوى الذي يُعتبر ناقدًا للحكومة، ولتصفية المحتوى الذي ينتهك قوانين الأمن السيبراني الصارمة: Ibid.؛ وفي إطار الحملة على المجتمع المدني المصري في عامي 2016 و 2017، استُهدفت سبع جماعات حقوقية، كانت جميعها قيد التحقيق في "القضية "173، 90 مرة في ثلااثة أشهر باستخدام برامج ضارة (Malwares) متطوّرة، صُمّمت على شكل وثائق مشتركة تحتوي على معلومات آنية وذات صلة، وجاءت من مزودين شرعيين، مثل "غوغل" (Google)، و"دروبوكس" (Dropbox:)، ينظر.Ibid.
  29. خلاال الاحتجاجات السودانية عام 2023، نشرت قوات الدعم السريع مقاطع فيديو مزيفة تم إنشاؤها بوساطة الذكاء الاصطناعي لتشويه سمعة الناشطين، في حين أدى إغلااق شبكة الإنترنت، مباشرةً بعد بدء الانقلااب في أواخر عام 2021، إلى شلّ تنسيق المعارضة: Mohamed Suliman, "The Deepfake is a Powerful Weapon in the War in Sudan," African Arguments, 23/10/2024, accessed on 11/3/2025, at: https://acr.ps/1L9zQqt; Lynch.; وتجدر الإشارة إلى أنّ النساء أكثر عرضةً للااستهداف من حملاات التزييف العميق. فعلى سبيل المثال، تعرضت الصحافية ديما صادق، أثناء تغطيتها على حسابها على تويتر لاحتجاجات لبنان عام 2019، لبرنامج مكثف ومنسق من المضايقات الإلكترونية، بما في ذلك مشاركة صور:مُزيفة مُخزية، أدتّ إلى إصابة والدتها بسكتة دماغية.Lynch 35 ماركزاك [وآخرون].
  30. Marwa Fatafta, "Transnational Digital Repression in the MENA Region," in: Marc Lynch (ed.), Digital Activism and Authoritarian Adaptation in the Middle East (Washington, DC: Project on Middle East Political Science, 2021), pp. 41-47. أ. دور المنظمت الدولية في تعزيز الحكامة الأخلاقية للذكاء الاصطناعي
  31. الأمم المتحدة، مجلس حقوق الإنسان، الحقّ في الخصوصية في العصر الرقمي (جنيف.)2021:
  32. مفوضية الأمم المتحدة السامية لحقوق الإنسان، "دعوة إلى البرمجة: حلول الذكاء الاصطناعي تعزز حقوق الإنسان"، 2024/12/17، شوهد في 2025/3/13، في: https://acr.ps/1L9zQzd
  33. ديفيد نولان وهاجرة مريم ومايكل كلااينمان، "تنظيم الذكاء الاصطناعي: مهمة مُلحة ولكنها صعبة"، منظمة العفو الدولية، 2024/1/23، شوهد في 2025/3/3، في: https://acr.ps/1L9zQIO
  34. Sakiko Fukuda-Parr & Eli Gibbons, "Emerging Consensus on 'Ethical AI': Human Rights Critique of Stakeholder Guidelines," Global Policy, vol. 12 (2021), pp. 32-44.
  35. تجدر الإشارة إلى اقتران دور المنظمات الدولية بدور المنظمات الإقليمية في تعزيز الحكامة الأخلااقية للذكاء الاصطناعي في المنطقة العربية. ونشير في هذا الصدد إلى بعض المبادرات المهمة مثل مبادرة "مبادئ أخلااقيات الذكاء الاصطناعي"، يُنظر: الهيئة السعودية للبيانات والذكاء الاصطناعي، مبادئ أخلاقيات الذكاء الاصطناعي (الإصدار الأول) (الرياض: سدايا، 2023). إّلا أن السؤال الحقيقي، ما وراء هذه التشريعات المعيارية، يكمن، هنا أيضًا، في مسألة الاندماج الإقليمي في المنطقة العربية، وإنفاذ أنظمتها ومقرّراتها. ب. دور شركات التكنولوجيا العالمية
  36. أنيتا جورومرثي [وآخرون]، ما وراء مفترق الشمال والجنوب في الطريق نحو إدارة الذكاء الاصطناعي: خطة عمل من أجل توزيع ديمقراطي ونزيه (باريس: منتدى باريس للسلاام، 2022)، ص.9
  37. Shakir Mohamed, Marie-Therese Png & William Isaac, "Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence," Philosophy & Technology, vol. 33 (2020), pp. 659-684.
  38. الأمم المتحدة، حوكمة الذكاء الاصطناعي من أجل الإنسانية (التقرير النهائي) (نيويورك.)2024:
  39. Zuboff. ج. تأثير الذكاء الاصطناعي في الجمعات الأهلية الهامشية د. دور المجتمع المدني في مكافحة السلطوية المدعومة بالذكاء الاصطناعي
  40. Steven Feldstein, The Global Expansion of AI Surveillance (Washington, DC: Carnegie Endowment for International Peace, 2021).
  41. Intissar Fakir & Sarah Yerkes, "Governance and the Future of the Arab World," Carnegie Endowment for International Peace (October 2018), accessed on 3/3/2025, at: https://acr.ps/1L9zRlB
  42. Anwar Mhajne, "The State of Civil Society in MENA after the 2011 Uprisings," Arab Center Washington DC (April 2024), accessed on 3/3/2025, at: https://acr.ps/1L9zQZv
  43. كما يتضح من تصدير برامج التجسس من الإمارات إلى السلطويات الأخرى في المنطقة: Freedom House, Freedom on the Net 2022: Countering an Authoritarian Overhaul of the Internet (Washington, DC: Freedom House, 2022).
  44. Organisation de Coopération et de Développement Économiques, (OCDE), Les avenirs de la gouvernance mondiale de l'IA: Concevoir ensemble une approche à l'appui de la transformation des économies et des sociétés (Paris: OCDE, 2024).
  45. International Telecommunication Union (ITU), AI for Good Global Summit Report (Geneva: ITU, 2020).
غلاف العدد 9 من دورية استشراف

التنزيلات

PDF (مستضاف)
HTML

منشور

2024-07-01

إحصاءات الاستخدام

30 مشاهدة 59 تنزيل

إصدار

مجلد 9 عدد 009 (2024): العدد 9

القسم

دراسات

الرخصة

الحقوق الفكرية (c) 2024 استشراف للدراسات المستقبلية

Creative Commons License

هذا العمل مرخص بموجب Creative Commons Attribution-NonCommercial 4.0 International License.