Skynet قادم: لقد انتهى الأمريكيون من اللعب بالذكاء الاصطناعي
الشبح XQ-58A فالكيري
محاكاة هاميلتون
في 24 مايو ، في المؤتمر الدفاعي لجمعية الفضاء الملكية ، قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن ، قال الكولونيل بالقوات الجوية الأمريكية تاكر هاميلتون القصة حول ذكاء الذكاء الاصطناعي.
أثناء محاكاة المعركة ، نظام التحكم في الضربات الجوية طائرة بدون طيار ذهب ضد مشغلها ودمره. بطبيعة الحال ، عمليا. وفقًا لهاملتون نفسه ، تلقت الآلة مكافآت للأشياء المدمرة ، لكن المشغل لم يؤكد دائمًا العمل على الأهداف. لهذا دفع. لحل المشكلة ، أرسلت الطائرة بدون طيار صاروخًا إلى مركز التحكم. في جميع الاحتمالات ، كانت طائرة بدون طيار تجريبية من طراز Stealthy XQ-58A Valkyrie ، وعملت على أنظمة دفاع جوي أرضية.
تتمثل إحدى ميزات الماكينة في قدرتها على العمل بشكل مستقل دون الاتصال بالمشغل. ما استفاد منه الذكاء الاصطناعي في الواقع ، مما أدى إلى القضاء فعليًا على برنامج التشغيل عن بُعد. ردًا على ذلك ، حظر مسؤولو النظام مثل هذه الأشياء على الجهاز ، ولكن هنا لم يكن الذكاء الاصطناعي في حيرة - فقد دمر برج الترحيل وذهب مرة أخرى في التنقل المستقل.
لا يزال الكولونيل هاميلتون شابًا للحديث في المحافل الدولية. المصدر: thedrive.com
انتشرت قصة هاملتون على الفور في جميع أنحاء العالم. تم تقسيم الآراء بشكل قطبي - من اعتبر أن هذه كانت ثرثرة أخرى لمحارب غير كفء ، رأى شخص ما ولادة Skynet سيئة السمعة هنا. أكثر من ذلك بقليل وسوف يغزو السايبورغ العالم ، وسيتم إطلاق النار على الناس للحصول على نقاط إضافية. كان هناك الكثير من الدخان من تصريحات العقيد ، ولكن الحقيقة ، كالعادة ، في مكان ما بينهما.
أضافت آن ستريفانيك ، المتحدثة باسم مقر قيادة القوات الجوية في البنتاغون ، حالة من عدم اليقين ، وحولت كلمات هاملتون إلى حكاية. بالنسبة لمنطقة الحرب ، تحدثت:
"لقد كانت تجربة فكرية افتراضية ، وليست محاكاة".
وبوجه عام ، أُخذت كلمات العقيد خارج سياقها ، ولم يتم فهمها تمامًا وتشبه الفضول. لم يتوقع أحد ردة فعل مختلفة من البنتاغون - نشأ الكثير من الضجيج حول الحدث ، مما هدد بعواقب وخيمة على البرنامج بأكمله. واو ، لقد اتضح أن الذكاء الاصطناعي يخلو من الأخلاق. على الرغم من أنها تعمل وفقًا للمنطق البشري.
في أوائل يونيو ، حاول تاكر هاميلتون بنفسه التنصل من أقواله في مؤتمر في لندن:
"لم نقم بهذه التجربة مطلقًا ... على الرغم من أن هذا مثال افتراضي ، إلا أنه يوضح المشكلات الحقيقية المتعلقة بقدرات الذكاء الاصطناعي ، ولهذا السبب تلتزم القوات الجوية بالتطوير الأخلاقي للذكاء الاصطناعي."
يبدو أن القضية قد أغلقت ، ويمكن للجمهور أن يتفرق. لكن الوقت مبكر جدا.
غذاء للفكر
بادئ ذي بدء ، دعونا نتعامل مع مصطلح "الذكاء الاصطناعي" ذاته ، والذي يعرفه الجميع ، ولكن القليل منهم يمكنهم حتى تقديم تعريف تقريبي. سنستخدم صياغة قاموس المصطلحات الدولي لعام 2008 ، حيث يقوم الذكاء الاصطناعي بما يلي:
"مجال المعرفة المعني بتطوير التقنيات بحيث تشبه تصرفات أنظمة الحوسبة السلوك الذكي ، بما في ذلك السلوك البشري".
أي أن هذا تعريف مقبول بشكل عام في الغرب.
هل تصرفت الآلة بالطريقة نفسها عندما قررت "تهدئة" مشغلها ثم سحق برج الترحيل؟ بالطبع ، يبدو أن القاتل الذي لديه دوافع مناسبة قادر على أكثر من ذلك. إذا تعمقت في التصنيف ، يمكنك العثور على نوع معين من الذكاء الاصطناعي - ما يسمى (Adaptive AI) ، "مما يعني قدرة النظام على التكيف مع الظروف الجديدة ، واكتساب المعرفة التي لم يتم وضعها أثناء الإنشاء."
من الناحية النظرية ، لا يوجد شيء مفاجئ في فعل "أدمغة" Stealthy XQ-58A Valkyrie أثناء التجربة. كما أشار هاميلتون بحق في تقريره ، فإن البرنامج في البداية لم يضع قيودًا على تدمير مشغله - لقد تعلمت الآلة كل شيء بنفسها. وعندما كان ممنوعًا بشكل مباشر التغلب على ذكاءهم ، تكيف الذكاء الاصطناعي مرة أخرى وقطع برج الاتصالات.
هناك العديد من الأسئلة للمبرمجين. على سبيل المثال ، لماذا لم يكن لديه خوارزمية لخسارة المكافآت لضرب مكافآته؟ تمت الإجابة على هذا السؤال جزئيًا من قبل الجنرال المتقاعد بالقوات الجوية الأمريكية بول سيلفا في عام 2016:
"أصبحت مجموعات البيانات التي نتعامل معها كبيرة ومعقدة لدرجة أنه إذا لم يكن لدينا شيء للمساعدة في فرزها ، فسوف نتورط في هذه البيانات."
حسنًا ، المبرمجون من تاريخ العقيد هاملتون ، على ما يبدو ، غارقون.
Hellfire تحت جناح طائرة بدون طيار MQ-1B Predator. المصدر: businessinsider.com
الآن حول سبب وجوب تصديق أعذار البنتاغون وهاملتون بشكل كبير جدًا.
أولاً ، لم يكتف العقيد بسرد القصة بين السطور ، كما لو كان يصرف الانتباه عن التقرير الرئيسي - بل كرس عرضًا تقديميًا كاملاً لهذا الموضوع. مستوى مؤتمر لندن ، قمة القدرات القتالية الجوية والفضائية المستقبلية لا يفضي بأي حال من الأحوال إلى النكات. وفقًا للمنظمين ، شارك ما لا يقل عن 70 محاضرًا بارزًا وأكثر من 200 مندوب من جميع أنحاء العالم. عمل ممثلو BAE Systems و Lockheed Martin Skunk Works والعديد من الشركات الكبيرة الأخرى من المجمع الصناعي العسكري.
بالمناسبة ، ظهر موضوع أوكرانيا في كل تقرير تقريبًا - يراقب الغرب الأحداث عن كثب ويفكر في النتائج.
لتفجير فوضى صريحة في مثل هذا المنتدى التمثيلي ، لإثارة نصف العالم ، ثم الاعتذار عن زلة لسان؟ إذا كان هذا هو الحال بالفعل ، فلا يمكن محو سمعة هاملتون. الآن فقط يتدحرج مستوى كفاءات العقيد ، وهذا هو السبب الثاني لضرورة الاهتمام بكلماته الأولى.
يدير تاكر هاميلتون اختبارات وعمليات الذكاء الاصطناعي في قاعدة أنجلين الجوية في فلوريدا. تحت إشراف القاعدة ، تم إنشاء فرقة العمل رقم 96 في جناح الاختبار رقم 96. هاميلتون ليس العام الأول الذي يعمل فيه الذكاء الاصطناعي في طيران - تم تصميم F-16 Vipers ذاتية التشغيل جزئيًا لعدة سنوات ، والتي يتم تطوير البنية التحتية لـ VENOM لها. يسير العمل بشكل جيد - في عام 2020 ، انتهت المعارك الافتراضية بين المقاتلين والذكاء الاصطناعي ومع الطيارين الحقيقيين بنتيجة 5: 0.
في الوقت نفسه ، هناك صعوبات حذر منها هاميلتون العام الماضي:
"الذكاء الاصطناعي هش للغاية ، مما يعني أنه يمكن خداعه والتلاعب به بسهولة. نحن بحاجة إلى تطوير طرق لجعل الذكاء الاصطناعي أكثر قوة ونفهم بشكل أفضل سبب اتخاذ التعليمات البرمجية لقرارات معينة. "
في عام 2018 ، فاز هاميلتون بكأس كولير مع سيارته GCAS. تعلمت خوارزميات الذكاء الاصطناعي تحديد لحظة فقدان السيطرة على الطائرة من قبل الطيار ، وتولت السيطرة تلقائيًا وأخذت السيارة بعيدًا عن الاصطدام. يقولون إن Auto GCAS قد أنقذ بالفعل شخصًا ما.
نتيجة لذلك ، فإن احتمالية أن يُطلب من هاميلتون من الأعلى أن يتراجع عن كلماته أعلى بكثير من احتمال قيام أحد المحترفين من هذا المستوى بتجميد الهراء. علاوة على ذلك ، أشاروا بشكل أخرق للغاية إلى بعض "التجارب الفكرية" في رأس العقيد.
من بين المشككين في النتيجة ، The War Zone ، التي يشك صحفيوها في أن المتحدث باسم البنتاغون ستيفانيك على علم حقًا بما يحدث في الجناح التجريبي رقم 96 في فلوريدا. قدمت منطقة الحرب طلبًا إلى قاعدة هاميلتون ، لكن دون رد حتى الآن.
هناك حقًا ما نخافه من الجيش. يتم إنفاق مبالغ ضخمة من الأموال على برامج دفاع الذكاء الاصطناعي لمنع الصين وروسيا من الاقتراب حتى من المستوى الأمريكي. إن المجتمع المدني قلق للغاية بشأن احتمالات ظهور "Terminators" مع "Skynets" بالإضافة إلى "Skynets". لذلك ، في يناير 2018 ، وقع علماء بارزون في العالم خطابًا مفتوحًا يحثون المتخصصين على التفكير في الرغبة في إنشاء ذكاء اصطناعي أقوى من أي وقت مضى:
"نوصي بإجراء بحث مكثف لضمان متانة أنظمة الذكاء الاصطناعي ذات القوة المتزايدة وإحسانها. يجب أن تفعل أنظمة الذكاء الاصطناعي ما نريدها أن تفعله ".
وفقًا لهاملتون ، لا تفعل منظمة العفو الدولية كل ما يريده الشخص.
معلومات