نماذجكم أصول. والمهاجمون يسعّرونها على هذا الأساس.
حماية منظومة ذكاء اصطناعي تعني تأمين النماذج ذاتها من التلاعب، والدفاع المستمر بسرعة الآلة، واختبارها بفرق مهاجمة قبل الوثوق بها، وتحصين المنشأة التي تعمل داخلها.
النموذج هو الهدف الآن
المؤسسة التي استثمرت في الذكاء الاصطناعي بنت شيئاً ثميناً، والمهاجمون يقدّرون قيمته أيضاً. فالنموذج أصل رأسمالي: باهظ التدريب، مشبَع ببيانات مملوكة، ومؤتمَن على نحو متزايد على صنع القرارات أو التأثير فيها. وهذا يجعله هدفاً بحدّ ذاته، لا مجرّد حِمل عمل آخر خلف الجدار الناري. سمّم بيانات التدريب، أو تلاعب بالمدخلات، أو استخرج الأوزان، فتتدهور قيمة الأصل أو يُسرَق من دون المساس بخزانة واحدة.
هذا سطح تهديد يختلف عن ذاك الذي بُنيت من أجله معظم برامج الأمن. فالمنظومة التقليدية خوادم وشبكات ونقاط طرفية. أمّا منظومة الذكاء الاصطناعي فتضيف النموذج نفسه بوصفه شيئاً يمكن مهاجمته أو تخريبه أو نسخه، وتصبح المنشأة التي يعمل فيها بنية تحتية حيوية في اللحظة التي تعتمد فيها المؤسسة على مخرجاته.
وترتفع المخاطر أكثر حين تقود مخرجات النموذج القرارات. فالنموذج المسمَّم بخفاء لا يعلن عن نفسه؛ بل يتدهور بهدوء، ويزيح النتائج بطرق تبدو معقولة إلى أن يتراكم نمط الضرر. والمهاجم القادر على تحريك ما يوصي به نموذج موثوق يملك رافعة لا يمنحها أي اختراق تقليدي، تأثير في قرارات تظنّ المؤسسة أنّها قراراتها هي. لذلك فإنّ الدفاع عن منظومة الذكاء الاصطناعي يعني الدفاع عن سلامة الإجابات، لا سرّية الأوزان وحدها.
أمّن النموذج، لا المحيط حوله فقط
أمن الذكاء الاصطناعي يعمل على جانبَي هذه المعركة. ففي الدفاع، يحصّن نماذجكم ضدّ التسميم وسوء الاستخدام، مع أطر حوكمة للذكاء الاصطناعي المنشور في بيئات حسّاسة. وقبل أن يُؤتمَن نموذج على أي شيء ذي أهمية، يفحصه الاختبار الخصامي بحثاً عن ثغرات التهرّب والاستخراج وتسميم البيانات، فتعرفون كيف ينكسر النموذج تحت التلاعب قبل أن يبرهن لكم مهاجم على ذلك.
والقدرة ذاتها مضاعِف قوّة على الجانب التشغيلي. فالتنسيق المدفوع بالذكاء الاصطناعي والاستجابة الآلية يتيحان لفريق صغير أن يدافع بسرعة الآلة، من دون التنازل عن السيطرة لمنصّة أجنبية. ويجد مشغّل مركز البيانات في هذا الجمع، أي تأمين الذكاء الاصطناعي الذي تشغّلونه واستخدام الذكاء الاصطناعي لتشغيل أمنكم، الفارقَ بين منظومة قابلة للدفاع عنها وأخرى مُراقَبة فحسب.
دفاع مستمر، بلا التزام بمشاركة ما نكتشفه
الدفاع المستمر هو الحدّ الأدنى. عمليات أمنية على مدار الساعة توفّر كشف التهديدات والاستجابة للحوادث للأنظمة الحيوية، وتحجب أحجاماً كبيرة من التهديدات يومياً عبر منظومات، من شبكات كهرباء ومنصّات مالية وأساطيل، لا يُقبل فيها التوقّف. إنّه دفاع متعدّد الطبقات يُحصَّن باستمرار بنتائج الفريق الهجومي للصانع نفسه، فتتحسّن الحماية بقدر ما يتطوّر الخصم.
ويأتي من دون أي التزام بالإفصاح عمّا يُكتشَف لجهاز أجنبي، وهو فارق مهمّ حين تحتضن المنظومة نماذج وبيانات تعدّها المؤسسة استراتيجية. فالدفاع مسؤول أمام المشغّل، لا أمام قناة إبلاغ لقوّة كبرى.
والكشف لا يساوي أكثر من الاستجابة التي تسنده. فحين يكون الاختراق جارياً، تتولّى ارتباطات الاستجابة للحوادث الاحتواء والاستئصال والتعافي، ثم تُغذّي كل نتيجة مباشرة في التحصين كي لا يتكرّر الاختراق نفسه. والغاية تقليص النافذة التي يتوغّل خلالها المهاجم أعمق، وهي الفارق بين حادث يُحتوى وآخر يصير عنواناً في الأخبار. والمستجيبون ممارسون اخترقوا أنظمة إنتاج بصورة قانونية، ويجلبون حدس المهاجم إلى صفّ الدفاع.
اختبر نفسك كما يفعل الخصم
لا يمكنكم الدفاع عن منظومة لم تحاولوا كسرها. الاختبار الهجومي المُصرَّح به يُجري محاكاة فريق أحمر على بيئات إنتاج حيّة ضمن ضوابط قانونية وحوكمية صارمة، فتكشف محاكاة الخصم للمشغّل أين يقع سطح الهجوم الحقيقي بدل حيث يفترض مخطّط المعمارية أن يكون. والفريق القائم عليه أفصح بمسؤولية عن ثغرات في أنظمة إنتاج، ولديه أبحاث منسوبة إليه في سجلّات الثغرات العامة، ممارسون، لا خانة تُؤشَّر.
والأهمّ أنّ كل نتيجة هجومية تُغذّى مباشرة في المنصّة الدفاعية. فالفريق الأحمر ليس تقريراً لمرّة واحدة يشيخ على الرفّ؛ بل هو الآلية التي تُضبَط بها دفاعات المنظومة باستمرار على التهديدات القائمة فعلاً ضدّها.
حصّن المنشأة التي تسكنها النماذج
مركز البيانات بنية تحتية حيوية، وتستحقّ شبكته وأنظمة تحكّمه المعاملة ذاتها. التحصين الأصيل في بيئة التقنية التشغيلية يقلّص سطح الهجوم لمنظومة التحكّم في المنشأة ويراقبه، أنظمة الطاقة والتبريد والأنظمة الصناعية التي تُبقي الحوسبة حيّة، بتغطية عميقة للبروتوكولات واكتشاف ثغرات يوم الصفر على نطاق واسع، مُتحقَّق منه في مختبرات حكومية ومنشور ميدانياً.
اجمع الطبقات عبر قناة واحدة خاضعة للمساءلة وغير منحازة، فتصبح الصورة متماسكة: النماذج مؤمَّنة ضدّ التلاعب، والمنظومة مدافَع عنها باستمرار، والدفاعات مختبَرة بخصم مُصرَّح له، والمنشأة نفسها محصَّنة. المهاجمون يسعّرون نماذجكم بوصفها أصولاً. وحمايتها على هذا الأساس هي الردّ العقلاني الوحيد.
واستقلال تلك القناة جزء من القيمة، لا هامش عليها. فالمؤسسة التي تبني قدرة ذكاء اصطناعي استراتيجية لديها أسباب وجيهة لألّا تمرّر أمن تلك القدرة عبر شريك تربطه التزامات بحكومة أجنبية. وفريق واحد خاضع للمساءلة وغير منحاز يعني أن تبقى صورة ثغراتكم أنتم، والاستجابة لحوادثكم أنتم، عندكم، وهذا، لمنظومة ذكاء اصطناعي تعدّها المؤسسة أصلاً حقيقياً، هو المغزى الكامل من حمايتها أساساً.
