كيف يتحسن الذكاء الاصطناعي في العثور على الثغرات الأمنية

في الأشهر القليلة الماضية، تحولت نماذج الذكاء الاصطناعي من إنتاج الهلوسة إلى أن أصبحت فعالة في العثور على العيوب الأمنية في البرمجيات، وفقا للمطورين الذين يحافظون على البنية التحتية السيبرانية المستخدمة على نطاق واسع. تعمل هذه البرامج، من بين أشياء أخرى، على تشغيل أنظمة التشغيل ونقل البيانات للأشياء المتصلة بالإنترنت.

في حين أن هذه القدرات الجديدة يمكن أن تساعد المطورين على جعل البرامج أكثر أمانًا، إلا أنه يمكن أيضًا استخدامها كسلاح من قبل المتسللين والدول القومية لسرقة المعلومات والأموال أو تعطيل الخدمات الحيوية.

جاء التطور الأخير للقدرة السيبرانية للذكاء الاصطناعي يوم الثلاثاء، عندما أعلن مختبر الذكاء الاصطناعي أنثروبيك أنه طور نموذجًا جديدًا قويًا تعتقد الشركة أنه يمكن أن “يعيد تشكيل الأمن السيبراني”. وقالت أن أحدث طراز لها، معاينة الأساطير، كان قادرًا على العثور على “نقاط ضعف عالية الخطورة، بما في ذلك بعض الثغرات الموجودة في كل نظام تشغيل رئيسي ومتصفح ويب.” ليس هذا فحسب، بل كان النموذج أفضل في التوصل إلى طرق لاستغلال نقاط الضعف التي وجدها، مما يعني أن الجهات الفاعلة الخبيثة يمكنها تحقيق أهدافها بشكل أكثر فعالية.

في الوقت الحالي، تقصر الشركة الوصول إلى النموذج على حوالي 50 شركة ومؤسسة مختارة “في محاولة لتأمين البرامج الأكثر أهمية في العالم”. إنهم يدعون التعاون مشروع غلاسوينغ، سميت على اسم نوع من الفراشات ذات الأجنحة الشفافة.

وتقول شركة أنثروبيك إن خطر سوء الاستخدام مرتفع للغاية لدرجة أنها لا تخطط لإطلاق هذا النموذج المعين لعامة الناس، وفقًا للإعلان، ولكنها ستطلق نماذج أخرى ذات صلة. وكتبت الشركة: “هدفنا النهائي هو تمكين مستخدمينا من نشر نماذج فئة Mythos بأمان على نطاق واسع”.

لا يزال خبراء الأمن يقولون إن المخاطر المحتملة تتعلق بمحترفي الأمن السيبراني وليس الأشخاص العاديين. وقال دانيال بلاكفورد، نائب رئيس أبحاث التهديدات في Proofpoint، وهي شركة للأمن السيبراني: “لا أعتقد بالضرورة أن مستخدم الكمبيوتر العادي يحتاج إلى القلق بشكل أساسي بشأن هذا الأمر”. “يجب أن يكونوا أكثر قلقًا بشأن عدم الكشف عن كلمة المرور الخاصة بهم لأن ذلك يحدث طوال اليوم وكل يوم.”

وقال جيم زيملين، الرئيس التنفيذي لشركة Mythos Preview، إن Mythos Preview قد تتمتع أيضًا بقدرات أفضل لمساعدة المطورين على إصلاح الثغرات الأمنية مقارنة بالنماذج السابقة. مؤسسة لينكس، الذي يستضيف نواة لينكس مفتوحة المصدر. النواة عبارة عن واجهة تتيح للأجهزة التحدث إلى البرامج، وتعمل نواة Linux على تشغيل بعض أنظمة التشغيل الأكثر استخدامًا بما في ذلك Android، بالإضافة إلى أقوى 500 كمبيوتر فائق القوة في العالم. تعد المؤسسة جزءًا من مشروع Glasswing، وقال زيملين إن مجموعة أساسية من الأشخاص الذين يعملون على نواة Linux، والمعروفين باسم المشرفين، بدأوا في تجربة النموذج الجديد لمعرفة الطريقة الأكثر فعالية لاستخدامه.

وقال زيملين: “إن هؤلاء المشرفين مرهقون بالفعل قبل الذكاء الاصطناعي”. “هذا يجعل حياتهم أفضل بكثير.”

حتى قبل الإصدار المحدود لـ Mythos Preview، كان مجتمع الأمن السيبراني يتصارع بالفعل مع مدى قدرة نماذج الذكاء الاصطناعي الأكثر تقدمًا والمتاحة تجاريًا. يتسابق المطورون لتصحيح الثغرات الأمنية التي يشير إليها المتسللون باستخدام الذكاء الاصطناعي. ويشعر خبراء الأمن بالقلق بشأن ما قد ينتظرنا إذا انتشرت مثل هذه القدرات دون حواجز حماية.

يستخدم المتسللون الذكاء الاصطناعي لمساعدتهم في العثور على الأخطاء. لم يكن يعمل، حتى الآن

قال دانييل ستينبرج إن التحسن في قدرات نماذج الذكاء الاصطناعي أصبح ملحوظًا في أوائل عام 2026. وهو مطور البرمجيات الرئيسي وراء حليقة، وهي أداة مفتوحة المصدر لنقل البيانات عمرها 30 عامًا وتُستخدم على نطاق واسع للأشياء التي تتصل بالإنترنت، بما في ذلك السيارات والأجهزة الطبية. جاء هذا التغيير بعد إطلاق نماذج جديدة متطورة في أواخر عام 2025.

مثل الكثيرين في مجتمع البرمجيات، يحصل Stenberg على المساعدة من الباحثين الأمنيين للحفاظ على برمجياته فعالة وآمنة. يقوم قراصنة “القبعة البيضاء” بإبلاغ المطورين عن العيوب الأمنية على انفراد، وفي المقابل، يحصلون في بعض الأحيان على مكافأة مالية، تُعرف باسم “مكافآت الأخطاء”، أو حقوق التفاخر من خلال الحصول على الثغرة الأمنية سموا على اسم أنفسهم. في حين أن جميع الأخطاء تؤثر على وظائف البرنامج، إلا أن بعض الأخطاء فقط تمثل ثغرات أمنية.

لكن هذه العملية بدأت في الانهيار في العام الماضي. لقد غمر فريق Stenberg بالتقارير الكاذبة التي كان مقتنعًا بأنها صادرة عن الذكاء الاصطناعي. وقال ستينبرج: “لقد حصلنا على 185 تقريرًا على مدار العام، وكان أقل من 5% منها عبارة عن مشكلات تتعلق بالأمن في النهاية”.

حتى مع تضاعف حجم التقرير من عام 2024 إلى عام 2025، انتهى الأمر بـ Stenberg إلى العثور على عدد أقل من الثغرات الأمنية وإصلاحها. أصبحت التقارير المزعجة سيئة للغاية لدرجة أن Stenberg توقف عن دفع مكافآت الأخطاء مقابل أداة cURL الخاصة به.

وقال ستينبرج إن المتسللين الذين يقدمون التقارير إليه عادة ما يكونون مجهولين، ولا يناقشون ما إذا كانت التقارير قد تم تقديمها باستخدام الذكاء الاصطناعي. لكن ستينبرج قال إن الذكاء الاصطناعي لديه أسلوب كتابة مميز. “إنها تميل إلى أن تكون مفصلة للغاية ووصفية… وتحصل على تقرير مكون من 400 سطر [when] إنه شيء يحتاج الإنسان إلى 50 سطرًا لتقديمه.”

قامت HackerOne، وهي منصة تستخدمها Stenberg لإدارة التقارير الأمنية، باستطلاع آراء المتسللين في صيف عام 2025 ووجدت أن ما يقرب من 60٪ من المشاركين إما يستخدمون الذكاء الاصطناعي، أو يتعلمونه، أو يتعلمون تدقيق الذكاء الاصطناعي أو أنظمة التعلم الآلي.

“لقد تجاوزت LLMs الآن القدرة البشرية على اكتشاف الأخطاء”

لقد تغيرت الأمور بشكل كبير هذا العام. وكان حجم التقارير أعلى مما كان عليه في عام 2025، ولكن حتى الآن، قال ستينبرج، إن معظمها كشف عن قضايا مشروعة. “تقريبا كل شيء سيء [reports] لقد رحلوا الآن.”

ويقدر أن حوالي 1 من كل 10 من التقارير عبارة عن ثغرات أمنية، والباقي عبارة عن أخطاء حقيقية في الغالب. بعد ثلاثة أشهر فقط من عام 2026، اكتشف فريق cURL الذي يقوده Stenberg عدداً من الثغرات الأمنية وأصلحها أكثر من كل عام من العامين الماضيين.

بصرف النظر عن التقارير التي يقدمها باحثون أمنيون خارجيون، يستخدم Stenberg أيضًا الذكاء الاصطناعي للعثور على نقاط الضعف بنفسه. بنقرة واحدة، حدد الذكاء الاصطناعي أكثر من 100 خطأ في الكود الخاص به والذي خضع لجولات من المراجعة من قبل البشر ومحللي الكود التقليديين “بطرق سحرية تقريبًا”.

تجربة ستينبيرج ليست فريدة من نوعها. المشرفون من نواة لينكس لديها مرئي تغيير مماثل في جودة تقارير الأخطاء. تمكن نيكولاس كارليني، عالم الأبحاث الأنثروبولوجية، من العثور على نقاط الضعف في نواة لينكس باستخدام نموذج أنثروبي قديم وموجه بسيط نسبيًا. استخدمت كارليني أيضًا الذكاء الاصطناعي للعثور على أول ثغرة أمنية حرجة في مشروع آخر مفتوح المصدر عمره 20 عامًا.

وقال أليكس ستاموس، كبير مسؤولي الأمن في شركة Corridor، وهي شركة لأمن برمجيات الذكاء الاصطناعي: “لقد تجاوزت LLMs الآن القدرة البشرية على اكتشاف الأخطاء”. وجاءت الزيادة في جودة تقارير الأبحاث الأمنية بعد إصدار نموذج الأنثروبي Opus 4.5 وقال ستاموس، الذي كان في السابق رئيسًا للأمن في ياهو وفيسبوك: “في نوفمبر/تشرين الثاني. وقال ستاموس، بما أن الكثير من البرامج التجارية تحتوي على مكونات مفتوحة المصدر، فإن ما يحدث للمشاريع مفتوحة المصدر له آثار أوسع على الإنترنت.

هل يستطيع الذكاء الاصطناعي تصحيح الأخطاء ونقاط الضعف الأمنية التي يجدها؟

يقدر ستينبيرج أن نماذج الذكاء الاصطناعي المتاحة حاليًا للجميع أصبحت أكثر فائدة في العثور على الأخطاء، لكنه أيضًا يشعر بالقلق بشأن المستقبل الذي قد تجلبه النماذج الأكثر قوة للمطورين الذين يحتفظون ببرامج مفتوحة المصدر. “إنه عبء زائد على جميع المشرفين الذين غالبًا ما يكونون مثقلين بالأعباء ويعانون من نقص الموظفين ويتقاضون أجورا منخفضة ويعانون من نقص التمويل بطرق عديدة.”

Stenberg ليس جزءًا من Project Glasswing ويقول إن الكثير من المشاريع المهمة، “الأشياء التي تمثل في الواقع حجر الزاوية للإنترنت،” قد تم استبعادها.

لم تستجب الأنثروبيك لطلب NPR للتعليق.

ولكن بناءً على خبرته حتى الآن، يقول ستينبيرج إن الذكاء الاصطناعي ليس جيدًا في إصلاح الأخطاء والعيوب الأمنية بقدر ما هو جيد في العثور عليها.

جزء من السبب هو أن الأخطاء وإصلاحاتها لم يتم قطعها وتجفيفها. مثل العديد من الجوانب الأخرى لتطوير البرمجيات، يستغرق إصدار الأحكام وقتًا أطول من كتابة التعليمات البرمجية فعليًا. وقال ستينبرج: “بمجرد أن نحدد المشكلة ونتفق على أنها مشكلة، فإن إصلاحها في الواقع ليس بالأمر الصعب للغاية ولا يستغرق الكثير من الوقت. بل إن العملية برمتها حتى تلك الخطوة هي التي تستغرق وقتًا وطاقة”.

البعض الآخر يفكر بشكل مختلف. تعمل الآن شركة تدعى HackerOne على تطوير منتج ذكاء اصطناعي فعال للعثور على نقاط الضعف وإصلاحها بشكل أكثر استقلالية.

كيف يؤثر الذكاء الاصطناعي في لعبة شد الحبل بين الهجوم والدفاع في مجال الأمن السيبراني؟

وقال ستاموس: “إن العثور على الأخطاء لا يجعل الأخطاء قابلة للاستغلال”. “الجزء الأول مما نسميه سلسلة القتل هو اكتشاف العيوب. والخطوة التالية هي… [actually] بناء السلاح. ونماذج الأساس لن تفعل ذلك من أجلك.”

النماذج الأساسية هي نماذج تم إنشاؤها بواسطة مختبرات الذكاء الاصطناعي الأكثر تقدمًا مثل Anthropic وOpenAI وGoogle Deepmind. وقد وضعت هذه المختبرات حواجز حماية لمنع نماذجها من إنشاء برامج يمكن استخدامها بشكل ضار. هذه النماذج مملوكة للغاية وأعمالها الداخلية ليست علنية.

لكن كل الرهانات تنتهي بمجرد أن تلحق ما يسمى بالنماذج ذات الوزن المفتوح والتي يمكن للجمهور الوصول إليها بشكل أكبر بمثيلات مختبرات الذكاء الاصطناعي الأكثر تقدمًا. يمكن للجهات الفاعلة السيئة إنشاء نسخة منها وإزالة الحواجز ضد البرامج الضارة.

وقال ستاموس: “نحن إذن في مشكلة حقيقية لأنك ستتمكن من مطالبة هذه النماذج ليس فقط بالعثور على الأخطاء، ولكن بعد ذلك إنشاء كود استغلال” يمكنه اختراق الأنظمة. إن موديلات الوزن المفتوح الأكثر تقدمًا متأخرة بأقل من عام عن موديلات الوزن المغلق الأكثر تقدمًا.

وأضاف ستاموس: “إنه يظهر أيضًا مدى الغباء الشديد الذي يقوله البنتاغون إن الأنثروبولوجيا تشكل خطراً على الولايات المتحدة بأكملها”. وقد وصف البنتاغون الأنثروبيك بأنه “خطر سلسلة التوريد” لأنه طلبت الشركة من الحكومة عدم استخدام تقنيتها للأسلحة المستقلة والمراقبة الجماعية. ستمنع التسمية الوكالات الحكومية والمقاولين من العمل مع Anthropic. أنثروبي يتنازع حاليا على التسمية في المحكمة.

يتم تصنيع معظم النماذج ذات الوزن المفتوح من قبل شركات مقرها في الصين، والتي تعتبرها الولايات المتحدة منافسها الرئيسي في السباق نحو هيمنة الذكاء الاصطناعي. وقال ستاموس، من خلال عدم إصدار Mythos Preview علنًا، فإن Anthropic تمنح مطوري البرامج وكذلك الولايات المتحدة وقتًا لدعم دفاعاتهم.