يقدم الكتاب الذي يحمل عنوان "أخلاقيات الخوارزميات والذكاء الاصطناعي" مقدمة متفحصة لأخلاقيات الذكاء الاصطناعي، استنادًا إلى دورة قدمها مايل بيني Maël Pégny لطلاب الفلسفة الذين ليسوا متخصصين في حقل الإعلاميات.
إن التاريخ القصير لمجال الذكاء الاصطناعي معروف الآن للجميع، نظراً لوجود العديد من الأعمال التي تناولت هذا الموضوع. ولكن بمجرد تذكر البيانات التاريخية الأساسية؛ فإن عدداً من مؤلفي هذا المجال يقعون في فخ الأساطير. إنهم ضحايا "متلازمة سكاي نت" Skynet التي سميت تيمناً بالذكاء الاصطناعي الذي سيطر على العالم في الملحمة (المدمر) «Terminator» وبعبارة أخرى، يصبح التفكير مستحيلًا بسبب الخوف الذي لا أساس له من الصحة من التطور الوشيك لذكاء اصطناعي عام. سيكون نظاماً يتمتع بذكاء متعدد الاستخدامات مثل ذكائنا، ويمكنه تطوير مشاعر أو إرادات مستقلة. ومع ذلك، لا يوجد حتى الآن أي برنامج بحثي يهدف إلى تطوير مثل هذا النظام.
لفهم القضايا الحقيقية بنجاح، يتعين علينا أولًا الابتعاد عن الخرافات الكبرى التي تُغذّي الخوف والفتنة. ومن المخاطر الأخرى المتمثلة في التعامل مع هذه الأدوات من منظور الثورة فقط دون استيعاب الاستمرارية التاريخية الراسخة التي تُمكّننا من فهمها. وأخيرًا، يتطلب فهم هذه القضايا التمييز بين الذكاء الاصطناعي والخوارزميات، التي يخلطها عامة الناس. إن هدف هذا الكتاب هو -بالأساس- تجنب كل هذه المخاطر من خلال تبني نهج مبتكر يجعل من الذكاء الاصطناعي ظاهرة البيروقراطية.
هل الذكاء الاصطناعي امتداد للبيروقراطية؟
إن مقاربة مجال الخوارزميات والذكاء الاصطناعي من منظور الثورة فحسب، تحرمنا من أدوات التفكير اللازمة لفهم أهميتها الأخلاقية والسياسية. إن الخوارزميات والذكاء الاصطناعي هي تقنيات معرفية، مثل أية تقنية، لا تُفهم إلا في سياق اجتماعي يُسمى "المركب الاجتماعي التقني". يشير مصطلح "التقنية المعرفية" إلى أية تقنية مُصممة حصرًا للحفظ أو التواصل أو الاستدلال. ويُسلّط نهج "المركب الاجتماعي التقني" الضوء على أن التقنيات تعمل دائمًا بالتناغم مع بيئة اجتماعية محددة، وأن آثارها لا تنبع من خصائصها الجوهرية فحسب. وهذا هو الحال مع اختراع الكتابة: ففي البداية، كانت أداةً لممارسة السلطة، ثم أصبحت، من خلال ديمقراطيتها، وسيلةً للتحرر. يتيح لنا هذا النهج المزدوج دمج الخوارزميات والذكاء الاصطناعي في التاريخ الممتد للظاهرة البيروقراطية، وبالتالي وضع التفكير الأخلاقي ضمن تقليد نقدي ذي أدوات مُجرّبة.
إن الفرضية المحورية للكتاب، والتي توصف بأنها "فرضية طويلة مدى"، هي كالآتي: "أي تغيير جذري في التقنيات المعرفية، مثل الخوارزميات، لا بد أن يُترجم إلى تغيير جذري في الممارسات البيروقراطية على المدى البعيد". من المؤكد أن الذكاء الاصطناعي والخوارزميات هي تقنيات جديدة، بل متطورة بلا شك، ولكن الاعتقاد بأن قضاياها الأخلاقية ستكون جديدة تمامًا لن يحرمنا من أدوات مفيدة لفهمها فحسب، بل سيُوهمنا أيضًا بطبيعة المشكلات التي تُثيرها.
كان الهدف من إنشاء البيروقراطية إبان نشأة الدول الحديثة، هو استبدال السلطة التعسفية للوجهاء المحليين، الذين غالباً ما كانوا يفتقرون إلى المهارات ويشترون مناصبهم. حيث كان الهدف هو استبدال هذا التصور بحيادية وعقلانية القواعد التي تُسنّها السلطة المركزية. لذا، تتمثل إنجازات البيروقراطية في كفاءة الأنظمة الإدارية ونزاهتها. إلا أن للبيروقراطية ثمنًا باهظًا؛ نذكر خصوصاً: مسألة التعتيم (فالقواعد القانونية غير المعروفة أو غير المفهومة لبعض المواطنين تكون غامضة)، إضافة إلى مسألة تركيز المعلومات. نجد هذه المزايا والعيوب نفسها في الذكاء الاصطناعي والخوارزميات: العدالة، والتعتيم، وتركيز المعلومات. لذا، تُثير هذه الأدوات الجديدة أيضًا مسألة الخصوصية ومراقبتها، كما فعلت الدولة سابقًا. هناك اختلاف واحد يستحق أن نسلط الضوء عليه الآن: فالسلطات العامة لا تُنتج الخوارزميات والذكاء الاصطناعي ولا تتحكم بهما في معظم الأحيان، وذلك عندما نريد إقامة نوع من التوازي مع البيروقراطية، يُناقش الكتاب إذن، هذه المشكلات الثلاث: التعتيم، والعدالة، ثم تركيز المعلومات والخصوصية.
غموض الذكاء الاصطناعي:
هناك أشكال عديدة للذكاء الاصطناعي، كما يصعب التوصل إلى تعريف شامل له. لذلك، اختار المؤلف أن يقتصر تحليله على أكثر أشكال الذكاء الاصطناعي شيوعًا في الوقت الحاضر؛ والمتمثل في التعلم الآلي (ML)؛ وهو يشير إلى أسلوب برمجة يتعلم فيه برنامج -يُسمى نموذجًا- تنفيذ مهمة من البيانات، دون تزويده صراحةً بالقواعد التي يجب اتباعها. ولذلك فإن الأمر يتعلق بتدريب نموذج من قاعدة بيانات عن طريق ضبط معاملاته تلقائيًا للتكيف مع الأمثلة التي يواجهها، وإتمام مهمته بنجاح. وتجدر الإشارة إلى وجود تحيز أولي، موثق جيدًا. تعتمد قيمة النموذج على جودة البيانات المستخدمة ومدى تمثيلها. وإذا لم تكن البيانات تمثيلية، فسيرث النموذج التحيزات الموجودة ويُعيد إنتاجها.
لكن الكتاب يُركز أكثر على مشكلة أخرى يتم تغافلها؛ وهي مشكلة التعتيم أو الغموض المُحيط بالبيروقراطية. كان هذا الغموض يؤثر سابقًا على عامة الناس فقط، ممن لم يكونوا مُلِمين بجميع خطوات الإجراءات التي تُؤثر عليهم، ولم يتمكنوا من فهم المصطلحات القانونية التي تُعبَر عنها. يرى مايل بيني أن هذا الغموض يؤثر الآن على الخبراء أنفسهم. هناك جانبان من هذا الغموض جديران بالملاحظة بشكل خاص؛ طول البرامج المعنية والذي يعني أنه لم يعد من الممكن إعادة مراجعتها بالكامل من قِبل الأشخاص، ويُعرف بـ"الغموض المعرفي". وعلاوة على ذلك، قد لا تُفهم التعليمات الواردة في هذه البرامج أحيانًا للقارئ البشري، وفي هذه الحالة، يكون الغموض "تمثيليًا".
وعلى الرغم من أن مجال الذكاء الاصطناعي قد اتخذ، لبعض الوقت، الذكاء البشري كنموذج له، إلا أن هذا لم يعد هو الحال حقًا، ولم تعد أشكال "الذكاء" المنتجة مجسمة على الإطلاق. وفي مواجهة هذا الغموض، يجري البحث عن حلول، لا سيما من خلال حركة الذكاء الاصطناعي القابل للتفسير التي تطبق اختبارات "الصندوق الأسود" لفهم كيفية عمل هذه الأنظمة الغامضة نفسها. تشكل هذه الاختبارات -التي تتمثل في تحديد وإدراج المخرجات المحتملة اعتماداً على المُدخلات المقدمة للنظام- محاولات حقيقية للمقاومة ونقل السلطة في مواجهة هذا الغموض الذي يفوق حتى غموض البيروقراطية.
الخوارزميات والإنصاف:
تُعدّ الخوارزمية شكلاً أبسط من هذه الأدوات الجديدة. يُقدّم مايل بيني التعريف التالي: إنها سلسلة مُرتّبة من التعليمات الأولية، يُتيح تنفيذها إنجاز مهمة والحصول على نتيجة عند تنفيذها. ولتمييزها عمّا يُسمّى إجراءً في اللغة البيروقراطية، يُمكننا أن نضيف أن الخوارزمية تُكتب بلغة رياضية، وتُصبح برنامجًا عند كتابتها بلغة برمجة. وكما هو الحال في الإجراءات البيروقراطية الرسمية، يجب على الخوارزمية تقليل تحيز القرار قدر الإمكان لضمان الإنصاف والعدالة بين جميع الأفراد المعنيين. يكمن جوهر كل هذه المناهج في "أنثروبولوجيا القابلية للخطأ"، والتي بموجبها تُحدّد القرارات البشرية، سواءً أكانت فردية أم جماعية، من خلال تحيزات لا واعية يجب إزالتها. يفتقر هذا المفهوم الأنثروبولوجي إلى التفاصيل الدقيقة، وقد تفشل الخوارزميات نفسها في تحقيق الإنصاف.
يسير تحليل خوارزمية باركورسوب Parcoursup الذي أجراه مايل بيني في هذا الاتجاه. ولكن مرة أخرى، فإن معالجة إدخال هذه المنصة الجديدة من منظور النظام الاجتماعي التقني هي الإمكانية الوحيدة المفيدة حقًا للنقاش العام. وبحسب المؤلف؛ فإن بين المنصة القديمة (APB) والمنصة الجديدة (Parcoursup) لن يكون هناك فرق تقني كبير. إن نوع الخوارزمية المستخدمة هو نفسه تمامًا (خوارزمية جيل شابلي Gale-Shapley). ومع ذلك، هناك فرق قانوني جوهري: يعتمد إدخال Parcoursupعلى إطار قانوني مختلف؛ قانون ORE (توجيه الطلاب ونجاحهم) الذي يسمح بتطبيق معايير الاختيار الأكاديمي في الدورات الجامعية، وذلك مع وضع حد لسحب العشوائي للوصول إلى الدورات الجامعية التي تعاني من نقص، وهي ممارسة تتعارض مع حدسنا القائم على الجدارة فيما يتعلق بالعدالة والإنصاف. وهكذا فإن الخوارزمية تواجه مع ذلك صعوبات على نطاق واسع.
وفقًا لمايل بيني، فإن إيجاد معيار مناسب لتصنيف عدد كبير جدًا من المرشحين (أحيانًا عدة آلاف) ليس بالمهمة السهلة. فعلى سبيل المثال، سيكون من الصعب تطبيق المعيار الأكاديمي للمتوسط المرجح، وسوف يتطلب ذلك التعبير عن متوسط المرشح إلى ثلاثة أرقام عشرية، وهو ما لن يفسر في واقع الأمر الاختلافات الكبيرة في المستوى الذي يبرر الاختيار. فهل نحقق شكلاً متفوقًا بلا منازع من العدالة من خلال استخدام الخوارزمية الجديدة؟ يجيب المؤلف عن هذا السؤال قائلًا: ليس بالضرورة تحقيق ذلك. ويضيف أن الخوارزمية ليست موضع خلاف، وأن ما ينقصنا بالفعل هي الأدوات المعرفية التي تسمح بتصنيف أكبر عدد ممكن من المرشحين. ومن خلال هذا المثال، يبين الكتاب بوضوح أن مشكلة عدالة الخوارزمية لا يمكن طرحها إلا من خلال الأخذ بعين الاعتبار السياق التشريعي والمعايير التي تطبقها. إن استخدام هذه الأدوات أو عدم استخدامها لا يكفي في حد ذاته لضمان العدالة أو المساس بها.
الخصوصية و"رأسمالية المراقبة":
وأخيرًا، يُعيد الكتاب النظر في الأصالة التاريخية للعصر الحديث فيما يتعلق بالخصوصية والمراقبة. وتعود أصالة اللحظة التي نعيشها إلى أربعة عوامل. أولًا، ممارس المراقبة الجماعية، وهي تعتمد بشكل غير مباشر على الدول وتجد مصدرها في الشركات. ولم يعد التباين المعلوماتي الأبرز بين الدولة الشمولية والأفراد كما كان الحال عليه في القرن العشرين، بل بين الشركات والأفراد. ثانيًا، تمر هذه المراقبة، التي تُجرى من خلال جمع البيانات سرًا، دون أن يُلاحظها أحد. ثالثا، حتى مع تنامي الوعي بالتعرض للمراقبة، فإن ذلك لا يعني بالضرورة تغييرًا في سلوك الأفراد. رابعًا، لم يعد المحرك الاقتصادي الرئيسي لمجتمعاتنا يكمن في الابتكارات التقنية التي تُؤدي إلى تحسين المنتجات، بل في استغلال بيانات المستهلكين لبيعهم سلعًا موجودة والتي من المرجح أن تلبي احتياجاتهم.
تشير التقارير إلى أن الشركات مهتمة بالاستثمار في التقنيات التي توفر فرصًا أفضل لخطوط الإنتاج الحالية أكثر من اهتمامها بتحسين منتجاتها. ويُقال إن عصرنا هذا هو عصر "رأسمالية المراقبة"، الذي يرفع شعار "المراقبة والبيع"، وليس "المراقبة والعقاب". ولا يبدو حتى الآن أن السلطة التي تمنحها هذه التقنيات تسعى إلى ترجمتها إلى شكل استبدادي. لكن، يبدو أن اليوتوبيا الساذجة لرواد الإنترنت قد تحولت إلى نظام بيروقراطي غير مسبوق، حيث تغلّبت المراقبة والتعتيم - دون أي مكاسب ضرورية في العدالة أو زيادة في قيمة المنتجات - على حلم الحرية المتحررة من قيود الدولة. لذا، تكمن فضيلة كتاب بيني في إبراز هذه الملاحظة بكل تفاصيلها الدقيقة دون الاستسلام لخطاب الخوف أو الانبهار الذي يُعيق التفكير.
***