الدرس الأول

يقوم الدرس على ربط تقنيات الذكاء الاصطناعي بالمبادئ والأخلاق والقيم الإنسانية لضمان تطويرها واستخدامها بمسؤولية وعدالة. يعالج الدرس مشكلات واقعية مثل التحيز في البيانات، ومشكلة الصندوق الأسود وصعوبة تفسير القرارات، إضافة إلى التأثيرات البيئية والتحديات القانونية والمسؤولية الأخلاقية. فكرة الدرس الأساسية تدور حول حتمية وجود أطر تنظيمية وإشراف بشري مستمر لتقليل الأضرار وتعزيز الشفافية. كمثال، إذا تم تدريب نظام ذكاء اصطناعي للتوظيف على بيانات تاريخية منحازة تفضل فئة معينة، فسوف يستمر النظام في استبعاد المؤهلين الآخرين، وهو ما تتصدى له تقنيات إلغاء الانحياز وإشراك العنصر البشري.

الفكرة الأساسية

تدور الفكرة الأساسية حول ضرورة توجيه تطوير واستخدام أنظمة الذكاء الاصطناعي بواسطة المبادئ والأخلاق والقيم لخدمة البشرية بعدالة ومسؤولية دون الإضرار بالأفراد أو المجتمعات أو البيئة.

الشرح

انظر إلى النظم الحديثة: عندما نعتمد على الذكاء الاصطناعي في اتخاذ القرارات كالتوظيف والعلاج الطبي، فإن غياب المعايير الأخلاقية يؤدي إلى نتائج غير عادلة. يظهر التحيز عندما تكون بيانات التدريب ناقصة أو ممثلة لفئة دون أخرى، مما ينعكس على مخرجات الآلة. لتجاوز ذلك، نلجأ إلى تقنيات إلغاء الانحياز (Debiasing) مثل زيادة العينات (Oversampling) أو تقليل العينات (Undersampling) أو زيادة البيانات (Data Augmentation). كما تواجهنا مشكلة الصندوق الأسود (Black-Box System) حيث يعجز البشر عن فهم الطرق الداخلية لاتخاذ القرار، مما يتطلب تعزيز الشفافية عبر نماذج قابلة للتفسير مثل النموذج المحايث المحلي للتفسير والشرح (LIME) وتفسيرات شابلي الإضافية (SHAP). بجانب ذلك، تبرز مشكلة المسؤولية الأخلاقية والتأثير على البيئة، حيث تستهلك نماذج التدريب طاقة هائلة، مما يفرض وجود أطر تنظيمية ومعايير واضحة تتبناها منظمات عالمية ومحلية مثل الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA).

مثال محلول خطوة بخطوة

لنفترض أن شركة أرادت استخدام نظام ذكاء اصطناعي لفلترة المتقدمين للوظائف: الخطوة الأولى: جمع بيانات التدريب التاريخية للشركة، والتي تبين أن التوظيف السابق كان يفضل خريجي جامعات معينة دون غيرهم. الخطوة الثانية: يقوم النظام بتعلم هذا النمط، فيبدأ باستبعاد المرشحين المؤهلين الحاصلين على مؤهلات من جامعات أخرى بشكل غير عادل. الخطوة الثالثة: تظهر هنا مشكلة التحيز (AI Bias). لعلاج ذلك، تطبق تقنية إلغاء الانحياز بتعديل البيانات أو استخدام التصميم المعتمد على إشراك الإنسان لمراجعة القرارات. الخطوة الرابعة: يتدخل الخبير البشري لتصحيح مخرجات النظام وضمان تكافؤ الفرص للمرشحين من جميع البيئات.

أخطاء شائعة

الاعتقاد بأن أنظمة الذكاء الاصطناعي محايدة تماماً لأنها تعتمد على لغة الأرقام والحاسب الآلي. الظن بأن المسؤولية الكاملة عن خطأ الذكاء الاصطناعي تقع على عاتق الآلة وحدها دون مطوريها أو مستخدميها. تجاهل الأثر البيئي واستهلاك الطاقة الهائل عند تدريب نماذج الذكاء الاصطناعي الضخمة.

سؤالان للتدريب مع الإجابة

السؤال الأول: ما المقصود بمشكلة الصندوق الأسود في أنظمة الذكاء الاصطناعي؟ الإجابة: هي التحدي المتمثل في صعوبة فهم كيفية عمل نظام قائم على الذكاء الاصطناعي في اتخاذ القرارات أو إنتاج المخرجات، بما لا يكشف عن طرائق عمله الداخلية للبشر، مما قد يسبب صعوبة في الثقة بالنظام وتحديد المسؤولية عند الأخطاء.

السؤال الثاني: كيف يمكن لبيانات التدريب المتحيزة أن تؤثر على مخرجات الذكاء الاصطناعي؟ الإجابة: تتعلم خوارزميات الذكاء الاصطناعي من البيانات التي تُدرب عليها؛ فإذا كانت البيانات متحيزة أو ناقصة التمثيل، تصل الخوارزمية إلى نتائج متحيزة، مثل صعوبة التعرف على أفراد ذوي بشرة داكنة إذا تم التدريب على صور أفراد ذوي بشرة فاتحة فقط.