قاسم صالح
قالت مصادر ان شركة هواوي الصينية العملاقة للتكنولوجيا اختبرت برمجيات التعرف على الوجه استهدفت “الإيغور“، حيث تقوم التقنية على ارسال “انذارات” آلية إلى السلطات الحكومية.
وتُظهر وثيقة موقعة من قبل ممثلي ” Huawei ” – اكتشفتها منظمة الأبحاث IPVM ونشرتها صحيفة واشنطن بوست – أن شركة الاتصالات السلكية واللاسلكية عملت في عام 2018 مع شركة “Megvii” الناشئة للتعرف على الوجه لاختبار نظام كاميرا ذكاء اصطناعي يمكنه مسح الوجوه في حشد وتقدير عمر كل شخص وجنسه وعرقه.
وقال تقرير الاختبار إنه إذا اكتشف النظام وجه فرد من الأقلية المسلمة ، فقد يطلق “إنذارًا من الأيغور” – ويحتمل أن يقوم بإبلاغ الشرطة الصينية ، حيث تم احتجاز أعضاء المجموعة بشكل جماعي كجزء من من القمع الحكومي الوحشي.
وتمت إزالة المستند ، الذي تم العثور عليه على موقع ” Huawei ” ، بعد فترة وجيزة من طلب التعليق.
ويقول نشطاء حقوق الإنسان إن مثل هذه التكنولوجيا اكتسبت في السنوات الأخيرة دورًا متزايدًا في أقسام الشرطة في الصين، لكن المستند يلقي ضوءًا جديدًا على كيفية مساهمة Huawei ، أكبر صانع لمعدات الاتصالات في العالم ، في تطويرها أيضًا ، من خلال توفير الخوادم والكاميرات والبنية التحتية للحوسبة السحابية وغيرها من الأدوات التي تدعم القوة التكنولوجية للأنظمة.
وقال جون هونوفيتش ، مؤسس IPVM ، وهي شركة مقرها بنسلفانيا تقوم بمراجعة والتحقيق في معدات المراقبة بالفيديو ، إن الوثيقة أظهرت كيف أصبحت مثل هذه التكنولوجيا التمييزية “مرعبة”.
وأضاف هونوفيتش. “تم التفكير كثيرًا في التأكد من عمل” منبه الإيغور “.
وأعلنت كل من Huawei و Megvii عن ثلاثة أنظمة مراقبة تستخدم تكنولوجيا الشركتين في العامين الماضيين، فيما لم يتم التمكن من تأكيد ما إذا كان النظام الذي تم اختباره بـ “إنذار الأيغور” في عام 2018 هو أحد الأنظمة الثلاثة المعروضة للبيع حاليًا.
واعترفت كلتا الشركتين بأن الوثيقة حقيقية، وبعد وقت قصير من نشر هذه القصة صباح الثلاثاء ، قال المتحدث باسم Huawei ، جلين شلوس ، إن التقرير “مجرد اختبار ولم يشهد تطبيقًا حقيقيًا، توفر Huawei منتجات الأغراض العامة فقط لهذا النوع من الاختبارات. نحن لا نقدم تطبيقات أو خوارزميات مخصصة “.
وبعد النشر أيضًا ، زعم متحدث باسم Megvii إن أنظمة الشركة ليست مصممة لاستهداف أو تصنيف المجموعات العرقية.
تقنية ” إنذار الإيغور” تمثل حلم الصين في السيطرة الكاملة
وقال المسؤولون الصينيون إن مثل هذه الأنظمة تعكس التقدم التكنولوجي للبلاد ، وأن استخدامها الموسع يمكن أن يساعد المستجيبين الحكوميين ويحافظ على سلامة الناس.
لكن بالنسبة إلى المدافعين عن الحقوق الدولية ، فإن هذه الأنظمة تمثل علامة على حلم الصين بالسيطرة الاجتماعية – وهي وسيلة لتحديد الأفراد غير المؤيدين في المجتمع وسحق المعارضة العامة-.
وقال باحثو الذكاء الاصطناعي والمدافعون عن حقوق الإنسان إنهم قلقون من أن تطوير التكنولوجيا وتطبيعها قد يؤدي إلى انتشارها في جميع أنحاء العالم ، حيث تضغط السلطات الحكومية في أماكن أخرى من أجل طريقة سريعة وآلية للكشف عن أفراد الجماعات العرقية التي تعتبرها غير مرغوب فيها أو تشكل خطرًا لسيطرتهم السياسية.
وقالت مايا وانغ ، باحثة في منظمة هيومن رايتس ووتش الحقوقية ، إن البلاد تستخدم بشكل متزايد المراقبة بمساعدة الذكاء الاصطناعي لمراقبة عامة الناس وقمع الأقليات والمتظاهرين وغيرهم ممن يعتبرون تهديدات للدولة.
قال وانغ: “طموح الصين في المراقبة يذهب إلى أبعد من اضطهاد الأقليات” ، لكن “من الواضح أن اضطهاد الأقليات لا يقتصر على الصين. … وستصلح هذه الأنظمة نفسها بشكل جيد للدول التي تريد تجريم الأقليات “.
وبعد أن تم تجريبها على أعداد هائلة من صور الوجه ، يمكن للأنظمة أن تبدأ في اكتشاف أنماط معينة قد تميز ، على سبيل المثال ، وجوه الأقليات الأيغورية عن وجوه أغلبية الهان في الصين.
وفي ورقة بحثية واحدة عام 2018 بعنوان “اكتشاف ميزات الوجه للتعرف على العرق” ، صمم باحثو الذكاء الاصطناعي في الصين خوارزميات يمكن أن تميز بين “معالم الوجه” لوجوه الأيغور والكوريون وساكني التبت.
التقنية تصنف الناس على أساس اللون والعرق
ولكن البرنامج أثار مناقشات أخلاقية كبيرة بين باحثي الذكاء الاصطناعي الذين قالوا إنه يمكن أن يساعد في التمييز أو التنميط أو العقاب، فيما يجادلون أيضًا بأن النظام لا بد له من تقديم نتائج غير دقيقة ، لأن أدائه سيتنوع على نطاق واسع بناءً على الإضاءة وجودة الصورة وعوامل أخرى – ولأن تنوع أعراق الناس وخلفياتهم لا ينقسم بشكل واضح إلى مجموعات بسيطة.
برنامج الكشف عن العرق غير متوفر في الولايات المتحدة، لكن الخوارزميات التي يمكنها تحليل ملامح وجه الشخص أو حركات عينه تحظى بشعبية متزايدة في برامج مقابلات العمل وأنظمة مراقبة مكافحة الغش.
وقالت كلير غارفي ، كبيرة المساعدين في مركز الخصوصية والتكنولوجيا بجامعة جورج تاون ، والتي درست برامج التعرف على الوجه ، إن برنامج “إنذار الإيغور” يمثل خطوة خطيرة نحو أتمتة التمييز العرقي على نطاق مدمر.
واضافت غارفي: “هناك بعض الأدوات التي ليس لها تطبيق إيجابي والكثير من التطبيقات السلبية ، وأداة التصنيف العرقي هي واحدة من تلك الأدوات”.
شركتا Huawei و Megvii في قائمة العقوبات الأمريكية
وتعد كل من Huawei و Megvii من أبرز رواد التكنولوجيا في الصين ، وقد صنفهم المسؤولون على أنهم قادة حملة وطنية للوصول إلى أحدث تطورات الذكاء الاصطناعي. لكن الشركات التي تقدر بمليارات الدولارات واجهت أيضًا رد فعل سلبي من السلطات الأمريكية ، التي تقول بأنها تمثل تهديدًا أمنيًا للولايات المتحدة أو أنها ساهمت في نظام الصين الوحشي للقمع العرقي.
وتعرضت ثماني شركات صينية ، بما في ذلك Megvii ، لعقوبات من قبل وزارة التجارة الأمريكية العام الماضي لتورطها في “انتهاكات وتجاوزات لحقوق الإنسان في تنفيذ حملة الصين للقمع والاحتجاز التعسفي الجماعي والمراقبة عالية التقنية” ضد الإيغور والأقليات المسلمة الأخرى.
وأصدرت الحكومة الأمريكية أيضًا عقوبات ضد شركة Huawei ، وحظرت تصدير التكنولوجيا الأمريكية إلى الشركة ومارست الضغط على الدول الأخرى لاستبعاد أنظمتها من شبكات الاتصالات الخاصة بها.
وتجاوزت شركة Huawei ، وهي شركة عملاقة في مجال الأجهزة مع المعدات والخدمات المستخدمة في أكثر من 170 دولة ، شركة Apple لتصبح ثاني أكبر شركة لتصنيع الهواتف الذكية في العالم ، وهي تدفع لقيادة انتشار دولي لشبكات الهاتف المحمول 5G الجديدة التي يمكن أن تعيد تشكيل الإنترنت.
وقالت شركة Megvii ، مطورة نظام Face Plus Plus ومقرها بكين وواحدة من أكثر الشركات الناشئة في مجال التعرف على الوجه قيمةً في العالم ، في نشرة الاكتتاب العام العام الماضي أن حلول “المدينة إنترنت الأشياء” ، والتي تشمل أنظمة الكاميرات وأجهزة الاستشعار والبرامج التي يمكن للوكالات الحكومية استخدامها لمراقبة الجمهور ، وقد غطت 112 مدينة في جميع أنحاء الصين اعتبارًا من يونيو الماضي.
وتوفر وثيقة “إنذار الإيغور” التي حصل عليها الباحثون ، والتي تسمى “تقرير اختبار التشغيل البيني” ، معلومات فنية حول كيفية قيام السلطات بمواءمة أنظمة Huawei-Megvii مع أدوات برمجية أخرى من أجل مراقبة عامة سلسة.
واختبر النظام كيفية عمل مزيج من برامج التعرف على الوجه من Megvi وكاميرات Huawei والخوادم ومعدات الشبكات ومنصة الحوسبة السحابية وغيرها من الأجهزة والبرامج على عشرات “الوظائف الأساسية” ، بما في ذلك دعم “التعرف على أساس العمر والجنس ، العرق وزاوية صور الوجه “.
وذكر تقرير الاختبار أيضًا أن النظام كان قادرًا على التقاط لقطات في الوقت الفعلي للمشاة وتحليل ملفات الفيديو وإعادة تشغيل 10 ثوانٍ من اللقطات قبل وبعد اكتشاف أي وجه من الإيغور.
ولم يقدم المستند معلومات حول مكان أو عدد مرات استخدام النظام، لكن يتم استخدام أنظمة مماثلة من قبل أقسام الشرطة في جميع أنحاء الصين ، وفقًا لوثائق رسمية راجعتها صحيفة نيويورك تايمز العام الماضي ، والتي وجدت نظامًا للمدينة قام بمسح الوجوه الإيغورية نصف مليون مرة في شهر واحد.
وقال جوناثان فرانكل ، الباحث المتعمق في علوم الكمبيوتر ومختبر الذكاء الاصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا ، إن مثل هذه الأنظمة أصبحت بوضوح أولوية بين المطورين المستعدين للاستفادة من القدرة التقنية على تصنيف الأشخاص حسب العرق، وأضاف أنه يمكن استخدام تدفق بيانات صور الوجه من الحشود العامة لتطوير دقة الأنظمة وقدرتها على المعالجة.
واضاف فرانكل: “لا يتحمل الناس مشكلة بناء أنظمة باهظة الثمن مثل هذه بدون مقابل”، فهؤلاء ليسوا أشخاصًا يحرقون الأموال من أجل المتعة، وإذا فعلوا ذلك ، فإنهم فعلوا ذلك لسبب محدد للغاية في الاعتبار، وهذا السبب واضح جدا “.
هل ستصدر الصين التقنية الى العالم ؟
ليس من المؤكد ما إذا كان بإمكان برامج الكشف عن العرق أن تنطلق خارج حدود الصين، وتحديدا في الولايات المتحدة وغيرها من الديمقراطيات ذات النمط الغربي.
حيث يمكن أن تتعارض الأنظمة مع القوانين الراسخة التي تحد من عمليات التفتيش الحكومية وتفرض حماية متساوية بموجب القانون.
وأظهرت الشرطة والسلطات الفيدرالية في الولايات المتحدة اهتمامًا متزايدًا ببرمجيات التعرف على الوجه كأداة تحقيق ، لكن الأنظمة أثارت رد فعل شعبي عنيفًا بسبب تحيزها المحتمل وعدم دقتها ، واختارت بعض المدن حظر هذه التكنولوجيا تمامًا .
ومع ذلك ، يمكن أن تجد مثل هذه التقنيات سوقًا بين الأنظمة الدولية في مكان ما في التوازن بين النفوذ الصيني والأمريكي، ففي أوغندا ، استخدمت الشرطة والمسؤولون الحكوميون بالفعل كاميرات التعرف على الوجه من هواوي لمراقبة المتظاهرين والمعارضين السياسيين.
وقال فرانكل: “إذا كنت على استعداد لتصميم نموذج لحكومتك وإدارة بلدك بهذه الطريقة ، فلماذا لا تستخدم أفضل التقنيات المتاحة لممارسة السيطرة على مواطنيك؟”
وتم الإعلان عن بيع نظامين آخرين ، قيل أنهما يستخدمان برنامج المراقبة Megvii ومنصة هواوي للحوسبة Atlas AI ، في سبتمبر، حيث تم وصف كلاهما على أنهما “توطين” للمنتجات باستخدام رقائق Huawei وتم إدراجهما للبيع “فقط عن طريق الدعوة”.