كيف تتحكم الخوارزميات في حياتك دون أن تدري؟

في إحدى الأيام استيقظت سارة خريجة كلية الهندسة (بتقدير امتياز)، على رسالة رفض من شركة تقدمت للعمل بها منذ أسابيع، ولكن الغريب أن الرد جاء بعد ثواني فقط من إرسالها للسيرة الذاتية الخاصة بها، لم يقرأها أحد، لم يُجري معها أحد مقابلة، فقط “الخوارزمية قررت”!.في زمن تغزو فيه التكنولوجيا لكل تفاصيل حياتنا، أصبح من الطبيعي أن نسمع عن خوارزميات تقترح لنا فيديوهات أو ترتب لنا محادثات أو تقرر ما نراه على شاشات هواتفنا الخاصة، لكن ماذا تفعل اذا عرفت أن هذه الخوارزميات أصبحت تتحكم في مصيرك المهني أيضا، أو تحدد مدى قدرتك في الحصول على قرض مالي، بل ويصل الوضع ان تدرج اسمك في مراقبة أمنية.

ما هي الخوارزميات؟

الخوارزمية هي سلسلة من التعليمات البرمجية تُستخدم لأتخاذ قرار، لكنها اليوم لم تعد تُبرمج فقط لتنظيم المرور أو ترتيب نتائج بحث جوجل، بل تحولت إلى “قاضي رقمي غير مرئي” في قرارات البشر.

ترفض قبل أن تقرأ

سارة لم تكن وحدها، بل ملايين من طالبي الوظائف حول العالم يتم رفض طلباتهم قبل أن تصل إلى مسؤول الموارد البشرية، لأن الخوارزميات أصبحت هي من تُقيّم السيرة الذاتية، وتُقرر إن كان صاحبها يستحق فرصة المقابلة أم لا.ووفقًا لتقرير نشرته جامعة هارفرد، 83% من الشركات تستخدام أدوات الذكاء الاصطناعي لفحص السير الذاتية، فهذه الأنظمة تركز على كلمات مفتاحية معينة أو تنسيق محدد، ما يعني أن قرار الرفض لا علاقة له أحيانًا بكفاءة المتقدم أو خبراته.

الترند ليس عشوائيا

لماذا نرى مقاطع فيديو معينة على “تيك توك” أو إنستجرام” دون غيرها؟، والإجابة هي أن الخوارزميات هي من تقرر ما يجب أن تراه، ولكن هذا لا يتم بشكل عشوائي، ولكن حسب تحليلات دقيقة لسلوكك الرقمي.ووفقًا لدراسة صادرة عن مؤسسة Mozilla، فإن خوارزميات “تيك توك” مثلًا تعمل على  الترسيخ لأنماط فكرية وسلوكية معينة، من خلال إعادة طرح نفس نوعية المحتوى داخل ما يسمى “بالفقاعة الرقمية” التي يصعب الخروج منها، وهنا لا تكون المسألة ترفيهة فقط، بل تعد تشكيلًا غير واعي لقناعاتك، بل وأيضا لصحتك النفسية.

عين الأمن تراقبك

بعدما تحدثنا على التوظيف والترفيه، تستخدم الخوارزميات اليوم في أغراض أكثر خطورة، منها المراقبة الأمنية والتنبؤ بالجريمة، ففي الولايات المتحدة تعتمد بعض إدارات الشرطة على أنظمة ذكاء اصطناعي لتحليل البيانات وتحديد الأماكن أو الأشخاص المعرضين للجريمة.ووفقًا لصحيفة The New York Times، العديد من أقسام الشرطة تستخدام الخوارزميات في التنبؤ بالجرائم من خلال تحليل البيانات حاسوبيًا، في إطار التوجه المتزايد لتحليل السلوك البشري.

من يراقب الخوارزميات؟

كل هذه الأمثلة تطرح سؤالًا جوهريًا: من الذي يكتب هذه الخوارزميات؟، ومن يضمن أنها عادلة أو غير متحيزة؟، وهل هناك جهة تراجعها أو تحاسبها إذا تسببت في ضرر؟، الإجابة غالبًا: لا أحد!.فرغم التأثير العميق للخوارزميات على حياة الأفراد، فإنها تصمم وتنفذ داخل غرف مغلقة في شركات التكنولوجيا العملاقة، دون شفافية كافية أو رقابة حقيقية، وقد تحولت هذه الخوارزميات التي كانت مجرد أدوات إلى سلطات موازية تتحكم في قرارات يومية قد تتعلق بمستقبلك أو حريتك أو صحتك النفسية.لهذا، بدأ العالم مؤخرًا في دق ناقوس الخطر، والدعوة لوضع قوانين تراقب وتحاسب أنظمة الذكاء الاصطناعي، وكان الاتحاد الأوروبي من أوائل الجهات التي تحركت في هذا الاتجاه، من خلال “قانون الذكاء الاصطناعي” عام 2024، الذي يصنف استخداماته حسب خطورتها، ويمنع استخدامه في التوظيف أو المراقبة دون رقابة مستقلة، أما في منطقتنا العربية، لازال هذا النقاش في مراحله الأولى، بينما يزداد اعتماد المؤسسات على هذه التقنيات دون إطار قانوني واضح.

من يحاسب الخوارزمية؟

الخطير في الأمر أن هذه الخوارزميات لا تخضع للمساءلة القانونية بالشكل الكافي، ولا تقدم للمستخدمين تفسيرات أو مبررات عن قراراتها، فهل من المقبول أن ترفضك من وظيفة، أو يراقب سلوكك، أو تشكل أفكارك بناءً على قرار آلي لا يمكنك الاعتراض عليه؟ وإذا كانت التكنولوجيا اليوم تكتب مستقبلنا، فعلينا أن نسأل: من يكتب الكود؟ ومن يراجع القرار؟ وهل لنا حق في قول “لا”؟.