الذكاء الاصطناعي لم يكتسب الوعي. هلوس بشحنة نووية وكاد يشعل مواجهة أمريكية صينية
تقول CNN إن تقريرا استخباراتيا أمريكيا خاطئا أُعد بمساعدة الذكاء الاصطناعي ربط سفينة صينية بمكونات برنامج أسلحة نووية، ودفع الجيش نحو اعتراضها. لم يكن الخطر الحقيقي آلة واعية، بل بشرا يثقون باستنتاج أنتجته آلة ولم يُتحقق منه كما ينبغي.
لم يستيقظ الذكاء الاصطناعي، ويكتسب وعيا بذاته، ويقرر بدء حرب مع الصين.
ما حدث، بحسب التقارير، أقل سينمائية بكثير، ولعله أجدى بكثير للفهم.
بحسب CNN، نقلا عن أربعة مصادر لم تسمها ومطلعة على الحادثة، جرى تداول تقرير استخباراتي عسكري أمريكي خلال الحرب مع إيران يزعم أن سفينة صينية في الشرق الأوسط تنقل «مكونات برنامج أسلحة نووية».
بدأ الجيش الأمريكي الاستعداد لاعتراض السفينة. وقال مصدران لـCNN إن أفرادا مسلحين كانوا يستعدون للصعود إليها. وقال مصدران إن طائرات عسكرية كانت قد أصبحت في الجو بالفعل.
ثم فحص المسؤولون المعلومات الاستخباراتية بدقة أكبر.
كان التقرير قد أُعد بمساعدة روبوت محادثة يعمل بالذكاء الاصطناعي، ويُقال إن الروبوت أخطأ في تحديد ما تحمله السفينة. وأُوقفت العملية قبل الصعود على متنها.
ووصف أحد مصادر CNN التي لم تسمها التقرير بأنه «خاطئ بالكامل»، وقال إن الواقعة «كادت تبدأ حربا».
هذا الوصف الأخير هو تقييم المصدر، وليس استنتاجا رسميا من البنتاغون.
وهناك تحفظ مهم: لم يؤكد البنتاغون أو الصين أو مصدر مستقل آخر الحادثة نفسها علنا. وحتى 19 سبتمبر، كانت تقارير المتابعة التي عثر عليها Israel News Pulse تعود في معظمها إلى تقرير CNN الأصلي.
لم تكن سفينة مليئة بالأسلحة النووية
تحتاج عبارة «شحنة نووية» إلى بعض التوضيح.
أفادت CNN بأن التقييم الاستخباراتي ربط الشحنة بـمكونات برنامج أسلحة نووية.
وهذا لا يعني القول إن السفينة كانت تحمل قنبلة نووية أو يورانيوم مخصبا أو بلوتونيوم أو مواد مشعة.
في الواقع، لا تزال طبيعة الشحنة الحقيقية غير معروفة علنا.
وكذلك هوية السفينة ووجهتها والعلم الذي ترفعه ومالكها، وحتى الدولة التي زُعم أن المكونات المزعومة مرتبطة ببرنامجها النووي.
التقارير التي توحي بأن السفينة كانت متجهة قطعا إلى إيران، أو أنها كانت تحمل فعلا مواد نووية، تتجاوز ما ثبت علنا.
هل هلوس الذكاء الاصطناعي فعلا؟
ربما بالمعنى اليومي للكلمة. أما تقنيا، فلا نزال لا نعرف.
أفادت CNN بأن محللا استفسر من روبوت محادثة عن معلومات استخباراتية تتعلق ببيان حمولة السفينة. ويُقال إن النظام جمع بين معلومات من مصادر مفتوحة واستخبارات إشارات سرية، وأنتج الاستنتاج الخاطئ.
ثم استخدم المحلل، بحسب التقرير، الذكاء الاصطناعي مجددا لصياغة النتائج في تقرير استخباراتي تقليدي.
قد تكون هذه الخطوة الثانية من أهم تفاصيل القصة بأكملها.
لم يعد الاستنتاج المشكوك فيه الذي أنتجته آلة محصورا في نافذة روبوت محادثة. بل يبدو أنه تحول إلى شيء يشبه منتجا استخباراتيا عاديا.
وهذا قد يخلق وهما خطيرا بالموثوقية والسلطة.
لكن من دون الاطلاع على الطلب الموجه للنظام، والمواد المصدرية، ومخرجات النموذج، ونظام استرجاع المعلومات، والشحنة الفعلية، لا يستطيع أحد خارج التحقيق معرفة ما إذا كانت هذه هلوسة خالصة للذكاء الاصطناعي، أم دمجا سيئا للمصادر، أم معلومات استخباراتية أساسية معيبة، أم طلبا ضعيفا، أم إساءة استخدام من المحلل، أم مزيجا من ذلك.
ما يبدو واضحا من رواية CNN هو أن التحقق البشري أخفق حتى مرحلة متأخرة جدا من العملية.
كان البنتاغون يعلم بالفعل أن ذلك ممكن
لا يمثل أي من هذا نقطة ضعف اكتُشفت حديثا في الذكاء الاصطناعي التوليدي.
تبنت وزارة الدفاع رسميا مبادئ للذكاء الاصطناعي تشترط أن تكون أنظمتها مسؤولة وقابلة للتتبع وموثوقة وقابلة للتحكم. ويشترط تعريفها لـ«قابلية التتبع» تحديدا أن يفهم العاملون كيفية عمل أنظمة الذكاء الاصطناعي، وأن تتاح لهم منهجيات ومصادر بيانات ووثائق قابلة للتدقيق.
ويذهب إطار أخلاقيات الذكاء الاصطناعي الخاص بمجتمع الاستخبارات الأمريكي إلى أبعد من ذلك. فهو ينص على أن يتضمن الذكاء الاصطناعي الحكم البشري والمساءلة، وأن يُختبر وفقا للمخاطر المعنية، وأن تُوثق حدوده ويُتحقق منه بشكل مستقل عند الاقتضاء.
كما حذرت فرقة العمل «ليما»، وهي مبادرة للبنتاغون أُنشئت خصيصا لدراسة الذكاء الاصطناعي التوليدي، صراحة من الهلوسات ومحدودية القدرة على تفسير النتائج وعدم نضج أساليب الاختبار. وقالت إن على المستخدمين فهم هذه القيود قبل نشر الذكاء الاصطناعي التوليدي في بيئات تكون السلامة أو الأمن فيها مسألة حاسمة.
وفي الوقت نفسه، كان البنتاغون يتحرك بسرعة لتوسيع استخدام الذكاء الاصطناعي في القيادة والسيطرة والتخطيط العملياتي ودعم القرار والأنشطة الاستخباراتية، من خلال مبادرات تشمل خلية القدرات السريعة للذكاء الاصطناعي، AI Rapid Capabilities Cell.
إذن، لم تكن المشكلة يوما أن أحدا لا يعرف أن الذكاء الاصطناعي قد يخطئ بثقة.
المشكلة هي ما يحدث عندما تعرف مؤسسة ذلك، لكنها تسمح مع ذلك لاستنتاج أنتجه الذكاء الاصطناعي بأن يتقدم بعيدا قبل أن يتحقق منه أحد.
هذا هو خطر الذكاء الاصطناعي الذي يستحق الانتباه
لا يكاد الدرس الأكثر فائدة من هذه الواقعة يمت بصلة إلى وعي الآلة.
لا شيء مما نُشر علنا يشير إلى أن روبوت المحادثة فهم ماهية سفينة صينية، أو فهم الحرب، أو أراد أن يحدث شيء للسفينة، أو بادر مستقلا إلى عمل عسكري.
لقد أجاب عن استفسار.
وقبل البشر الإجابة، بحسب التقرير.
وحوّلها إنسان إلى منتج استخباراتي.
وبدأ بشر آخرون التحضير لعملية.
وأخيرا، تحقق بشر من المعلومات الأساسية وأوقفوها.
هذا خطر للذكاء الاصطناعي أقرب إلى الواقع بكثير من سيناريو الخيال العلمي المألوف، حيث تطور آلة فجأة رغبات وتقرر أن على البشرية أن تزول.
تستطيع أنظمة الذكاء الاصطناعي التوليدي الحالية إنتاج إجابات سلسة ومقنعة وتبدو موثوقة، لكنها خاطئة.
ويبدأ الجزء الخطير عندما ينسى قارئ الإجابة ذلك.
أكبر الأسئلة ما زالت بلا إجابات
ما زلنا لا نعرف أي نظام ذكاء اصطناعي استُخدم.
لا نعرف السفينة.
لا نعرف وجهتها.
لا نعرف ما كانت تحمله بالفعل.
لا نعرف نص الطلب الدقيق الموجه للنظام.
لا نعرف أي قيادة أجازت الاستعدادات العملياتية.
لا نعرف من اكتشف الخطأ.
ولا نعرف ما إذا كان التقرير الاستخباراتي أخبر قراءه بأن الذكاء الاصطناعي شارك في إنتاج استنتاجه.
هذه الأسئلة أهم من مسألة ما إذا كان روبوت المحادثة قد «هلوس» بالمعنى التقني الدقيق للكلمة.
لأنه إذا كانت رواية CNN دقيقة، فالأمر المقلق ليس أن نظام ذكاء اصطناعي ارتكب خطأ.
أنظمة الذكاء الاصطناعي ترتكب الأخطاء.
الأمر المقلق هو أن خطأ اكتسب فيما يبدو مصداقية مؤسسية كافية لإقلاع طائرات واستعداد أفراد مسلحين للاعتراض، قبل أن يطالب أحد بأدلة أفضل.
لا حاجة إلى الوعي.
