نحن نعيش في عالم حيث تحدث التطورات التكنولوجية كل يوم تقريبا في حياتنا. أحد هذه التطورات هو استخدام الخوارزميات في عملية صنع القرار. لقد حلت محل البشر في عملية صنع القرار. على الرغم من أنه مفيد إلى حد ما ، لا يزال الناس غير متأكدين من العواقب التي قد تحدث بسبب قراراتهم.
من العدالة الجنائية إلى التعليم ، بدأت الخوارزميات تظهر مهارات صنع القرار الخاصة بهم. ولكن هل ستتم مراعاة حقوقنا وحمايتها بشكل صحيح أثناء اتخاذ مثل هذه القرارات؟ هذا واحد من أكثر الأسئلة إثارة للجدل في العالم اليوم.
نشر مجلس أوروبا مؤخراً مقالة بعنوان "الخوارزميات وحقوق الإنسان - دراسة حول بعد حقوق الإنسان في تقنيات معالجة البيانات الآلية والآثار التنظيمية المحتملة". تركز هذه الدراسة ، التي أعدتها لجنة الخبراء على وسطاء الإنترنت (MSI-NET) التابعة لمجلس أوروبا ، على سلبيات استخدام الخوارزميات في اتخاذ القرار.
تظهر الدراسة أنه من الصعب التنبؤ بالطرق التي تعمل بها الخوارزمية لاتخاذ قرار. ويختلف ذلك باختلاف نوع الوظائف التي تؤديها الخوارزميات ومستوى التجريد وكذلك تعقيد المعالجة الآلية المستخدمة. وبالتالي ، سيكون لكل قرار تأثير مختلف على البشر. تساعد هذه الدراسة أيضًا على فهم الاهتمامات المختلفة لحقوق الإنسان الناجمة عن تزايد دور الخوارزميات في عملية صنع القرار.
في الواقع ، هذه الدراسة تجعلنا نتساءل عن الشخص المسؤول عن انتهاكات حقوق الإنسان هذه. يمكن أن يكون المبرمج أو المشغل أو الشخص الذي نفذ القرارات وراء هذه الانتهاكات. وبالتالي ، فإنه يشجعنا على التفكير فيما إذا كانت عملية صنع القرار الخوارزمي مفيدة لنا مقارنة بالقرارات التي يتخذها البشر.
كما أجرت دراسة الخبراء هذه دراسة لتحديد طرق تشغيل الخوارزميات وفقاً لمعايير حقوق الإنسان الراسخة ، بما في ذلك مبادئ سيادة القانون والعمليات القضائية. إذا تم استخدام هذه الخوارزميات بشكل صحيح ، فسوف تساعدنا في الحصول على الكثير من الفوائد من حيث الكفاءة واستهلاك الوقت.
ومن ثم ، قبل الاعتماد بشكل كامل على الخوارزميات لتنفيذ القرارات الجديدة ، من الضروري دراسة الآثار التي قد تسببها على الحقوق الأساسية للبشر. بغض النظر عن مدى كفاءة التكنولوجيا ، فإنه يتطلب وجود خبير لتشغيلها دون أي أخطاء.
الخوارزميات لديها مجموعة واسعة من التطبيقات في العالم الحالي. وهم يشاركون في غربلة طلبات العمل ، وحساب درجات الائتمان ، وتقديم القروض والرهون العقارية ، وما إلى ذلك. كما أنهم يشاركون في إطلاق سراح المجرمين من السجون. القرارات التي تتخذ في اللحظات الحاسمة سيكون لها تأثير أكبر على البشر. وبالتالي ، فمن الضروري أن نكون أكثر يقظة أثناء التعامل مع هذه الخوارزميات.
على الرغم من أن الكثير من الناس يدعمون استخدام الخوارزميات في صنع القرار ، إلا أن القرارات التي يتخذونها لا يمكن مقارنتها بكفاءة القرارات البشرية. لا يسعنا إلا أن نأمل في أن تتوصل التكنولوجيا إلى الطرق المطلوبة لتصحيح العيوب الحالية في الخوارزميات في أقرب وقت ممكن.
