محمد الجنون
أخبار الآن | الولايات المتحدة – theguardian
حذرت لورا نولان، إحدى كبار المهندسات السابقات في شركة “غوغل“، من أنّ “جيلاً جديداً من الأسلحة المستقلة ذاتية التحكم والتي لا تدار بواسطة الإنسان مباشرة، أو ما يُطلق عليه الروبوتات القاتلة، قد يبدأ حرباً عن غير قصد أو يسبب فظائع جماعية”.
ومن ضمن الأسلحة المستقلة “ذاتية التحكم”، التي تقوم القوى العسكرية بتطويرها في جميع أنحاء العالم لتدار بالذكاء الاصطناعي: زورق “AN – 2 Anaconda” التابع للبحرية الأمريكية، والسفينة الحربية الأمريكية “Sea Hunter”، ودبابة “T – 14 Armata” الروسية.
ولفتت الخبيرة إلى أن “الروبوتات القاتلة التي لا يتحكم فيها البشر مباشرة، يجب حظرها من خلال معاهدة دولية كتلك التي تحظر الأسلحية الكيماوية”. وقالت: “يجب حظر جميع الأسلحة التي لا تدار مباشرة بواسطة الإنسان، وتدار بآليات مثل الذكاء الاصطناعي. هناك روبوتات قاتلة لديها القدرة على القيام بأمور شنيعة لم تكن مبرمجة لها في الأصل”.
وإنضمت نولان إلى حملة لوقف الروبوتات القاتلة، وأطلعت دبلوماسيي الأمم المتحدة على المخاطر التي تشكلها الأسلحة المتمتعة بالتحكم الذاتي، وأوضحت أنّ “احتمال وقوع كارثة يتناسب طردياً مع عدد الآلات التي ستكون موجودة في منطقة معينة في وقت واحد”، محذرة من “فظائع محتملة وعمليات قتل غير قانونية إذا تم نشر المئات أو الآلاف من هذه الآلات”.
ورأت نولان أنه “قد تكون هناك حوادث واسعة النطاق لأن هذه الآلات ستبدأ في التصرف بطرق غير متوقعة”، مشيرة إلى أنّ “الشيء المخيف حول أسلحة الحرب المستقلة، هو أنه لا يمكن اختبارها إلا عن طريق نشرها في منطقة قتال حقيقية، وربما تكون مستخدمة حالياً من جانب الروس في سوريا”.
وتابعت: “إذا كنت تختبر آلة تتخذ قراراتها بخصوص العالم من حولها من نفسها، فكيف ستقوم بتدريب نظام يعمل على كيفية اكتشاف خفايا السلوك البشري؟ أو التمييز بين الصيادين والمتمردين؟ وكيف ستميز آلة القتل الموجودة بمفردها بين مقاتل يبلغ من العمر 18 عاماً وشاب في مثل سنه خرج يبحث عن الأرانب ليصطادها؟”.
وكانت “غوغل” عمدت إلى توظيف نولان للعمل في برنامج يسمى “مافن”. غير أن الأخيرة أصبحت تشعر بقلق متزايد من الناحية الأخلاقية، بشأن دورها في البرنامج الذي تم تصميمه لمساعدة وزارة الدفاع الأمريكية في تطوير تكنولوجيا “التعرف من خلال الفيديو” للطائرات من دون طيار، حيث طُلب من نولان وغيرها إنشاء نظام يُمكن أجهزة الذكاء الاصطناعي من التمييز بين الأشخاص والأشياء بمعدل أسرع. وفي آذار/مارس الماضي، ألغت “غوغل” العقد الخاص ببرنامج “مافن”، بعد أن وقع أكثر من 3 آلاف فرد من موظفيها على عريضة، احتجاجاً على تورط الشركة به.
مصدر الصورة: getty (تعبيرية)
للمزيد: