خدمات اختبار اختراق الذكاء الاصطناعي.

يمكن إقناع روبوت المحادثة أو مساعد RAG أو وكيل الذكاء الاصطناعي لديك بتسريب الملفات أو تنفيذ إجراءات لا يتحقق منها اختبار الاختراق التقليدي أبدًا.

في Crunch-IS ننفّذ خدمات اختبار اختراق الذكاء الاصطناعي وفق OWASP Top 10 for LLM Applications، ونُصلح ما نكتشفه، ونُبقي الهجمات التي نجحت في CI لديك كفحوص آلية.

اختبر تطبيق الذكاء الاصطناعي الخاص بي

مزايا خدمات اختبار اختراق الذكاء الاصطناعي التي نقدمها

ثغرات تُغلق قبل الإطلاق

تُكتشف مسارات الهجوم وتُصلح قبل أن يتمكن العملاء أو الشركاء أو المهاجمون من استغلالها.

وكلاء بالصلاحيات التي يحتاجونها فقط

تتقلص الصلاحيات إلى ما تتطلبه كل مهمة، فلا يصل الوكيل المُتلاعَب به إلا إلى القليل.

المستندات السرية تبقى سرية

لا تستند الإجابات إلا إلى الملفات التي يحق للشخص السائل الاطلاع عليها، وتبقى البيانات الشخصية خارج الردود.

أدلة للعملاء والمدققين

يجيب تقرير مرتبط بـ OWASP Top 10 for LLM Applications عن أسئلة الأمان التي تُطرح في صفقات المؤسسات وعمليات التدقيق.

عملية اختبار اختراق LLM

إليك ما يحدث بعد إرسال الاستمارة.

01

ترسل الاستمارة

أخبرنا بما يفعله تطبيق الذكاء الاصطناعي لديك، والأدوات والبيانات التي يمكنه الوصول إليها، ومن يستخدمه.
02

نرسم خريطة سطح الهجوم

نراجع البنية المعمارية لديك ونرسل نطاقًا مكتوبًا: ما نختبره، وما يُسمح لنا بالمساس به، والسعر.
03

نختبر

نهاجم التطبيق يدويًا وبحزم آلية، في بيئة ما قبل الإنتاج ما لم تختر خلاف ذلك.
04

نرتّب الثغرات المكتشفة

تتلقى كل ثغرة مكتشفة مرتبة حسب قابلية الاستغلال، مع المُدخل الذي تسبب فيها.
05

نُصلحها

يُصلح مهندسونا الثغرات المكتشفة في قاعدة الشيفرة لديك، بمراجعة فريقك.
06

نعيد الاختبار

نعيد تنفيذ كل هجوم نجح ونتركها جميعًا في مسار CI لديك كفحوص آلية.

خدمات اختبار اختراق الذكاء الاصطناعي التي نقدمها

01 تقييم أمان LLM

نبدأ برسم خريطة للطرق التي يمكن أن يصل بها المهاجم إلى نموذجك: المدخلات التي يقرؤها، والمستندات التي يسترجعها، والأدوات والبيانات التي يمكنه الوصول إليها، ومن يستطيع التحدث إليه. ونتفق خلال التقييم على المخاطر ذات الأولوية وعلى ما تعنيه النتيجة الناجحة. كما يحدد التقييم نطاق الاختبار الذي يليه وسعره.

02 اختبار حقن التعليمات (prompt injection)

لا يحتاج المهاجمون إلى الوصول إلى تعليمات نموذجك لتغييرها. نختبر الحقن المباشر عبر المحادثة، والحقن غير المباشر عبر رسائل البريد الإلكتروني والمستندات وصفحات الويب التي يقرؤها نموذجك، بما في ذلك محاولات استخراج تعليمات النظام. وتأتي كل ثغرة مكتشفة مع المُدخل الدقيق الذي نجح، ليتمكن فريقك من إعادة إنتاجها.

03 اختبار أمان وكلاء الذكاء الاصطناعي

يمكن لوكيل يملك صلاحية الوصول إلى الأدوات أن يُحدث ضررًا حقيقيًا إذا أقنعه أحدهم بتنفيذ إجراء خاطئ. نحاول دفع وكيلك إلى تحويل أموال أو حذف سجلات أو تشغيل شيفرة برمجية أو الوصول إلى بيانات خارج مهمته، عبر أدواته الخاصة وخوادم MCP والتكاملات. وترى أي الصلاحيات يمكن للمهاجم استغلالها، وأيها لم يكن الوكيل بحاجة إليها أصلًا.

04 اختبار RAG وتسرّب البيانات والمخرجات

يجب ألا يجيب مساعد RAG إلا من المستندات التي يحق للشخص السائل الاطلاع عليها. نختبر ما إذا كان يمكن دفعه إلى استرجاع ملفات شخص آخر أو كشف بيانات شخصية. ونتحقق أيضًا مما يحدث عندما تتدفق مخرجات النموذج دون تصفية إلى متصفح أو استعلام قاعدة بيانات أو نظام آخر.

05 إصلاح الثغرات

التقرير وحده يترك الجزء الأصعب لفريقك. يُصلح مهندسونا ما يكشفه الاختبار: تضييق صلاحيات الوكلاء، وتصفية المدخلات والمخرجات، وضوابط الحماية، وتسجيل كل إجراء يتخذه الوكيل. ويُضاف كل إصلاح إلى قاعدة الشيفرة لديك بعد مراجعة فريقك. وإذا كانت سياسة الأمان لديك تشترط أن تأتي الإصلاحات من مطوريك، فإننا نسلّم كل إصلاح على شكل خطوات دقيقة بدلًا من ذلك.

06 إعادة الاختبار وفحوص الانحدار

نعيد تنفيذ كل هجوم ناجح بعد الإصلاحات للتأكد من أنه لم يعد يعمل. ثم تتحول الهجمات إلى فحوص آلية في CI لديك، حتى لا تتمكن تعليمات أو نموذج أو أداة جديدة من إعادة فتح ثغرة أغلقناها دون أن يلاحظ أحد.

قدراتنا في اختبار أمان الذكاء الاصطناعي

OWASP Top 10 for LLM Applications

نختبر المخاطر العشرة جميعها في قائمة OWASP، من حقن التعليمات والإفصاح عن المعلومات الحساسة إلى الصلاحيات المفرطة والمعالجة غير السليمة للمخرجات. وترتبط كل ثغرة مكتشفة بالقائمة لتستفيد منها فرق الأمان والامتثال لديك.

مكتبات الهجمات والأتمتة

نجمع بين هجمات نكتبها يدويًا لحالة الاستخدام لديك وحزم هجمات آلية، بحيث يغطي اختبار واحد الحالات الخاصة بتطبيقك وأنماط الهجوم المعروفة معًا.

صلاحيات الوكلاء وتسجيل الإجراءات

نحصر بيانات اعتماد كل وكيل في مهمته ونسجّل كل استدعاء لأداة مع مدخلاته، تمامًا كما نبني وكلاءنا. ففي وكيل ذكاء اصطناعي للبريد الإلكتروني في قطاع البناء، يمر كل ملف وارد عبر Microsoft Defender for Storage قبل أن يتعامل معه الوكيل.

تصفية المدخلات والمخرجات

نضيف مرشّحات تلتقط التعليمات المحقونة قبل وصولها إلى النموذج، وفحوصًا لما يُعيده النموذج قبل أن يصل إلى متصفح أو استعلام أو مستخدم.

التحكم في الوصول ضمن RAG

نفرض صلاحيات المستندات لحظة الاسترجاع، كما في مساعد معرفي مؤسسي لا يجيب إلا من الملفات التي يحق لكل شخص الاطلاع عليها.

فحوص الأمان في CI

نضيف هجمات فحوص الانحدار إلى مسار البناء لديك بجانب فحوص DevSecOps الأخرى، مع عتبة تُفشل البناء عندما ينجح أي هجوم مجددًا.

ما تحصل عليه

تقرير واحد لجمهورين

يحصل مهندسوك على كل ثغرة مكتشفة مع المُدخل الذي تسبب فيها وطريقة إصلاحها. وتحصل إدارتك والمدققون على ملخص واضح للمخاطر وحالتها.

نطاق محدد قبل بدء العمل

نتفق كتابيًا على التطبيق والوكلاء والبيانات التي نختبرها، وما يُسمح لنا بالمساس به، وما تعنيه النتيجة الناجحة.

ثغرات مرتبة حسب قابلية الاستغلال

تُرتَّب كل ثغرة مكتشفة بحسب سهولة استغلالها من قبل المهاجم وما يمكن أن تصل إليه، ليبدأ فريقك بإصلاح الخطيرة منها أولًا.

فحوص تستمر في العمل بعد مغادرتنا

تبقى الهجمات التي نجحت في مسار CI لديك كفحوص آلية، موثّقة ليتمكن فريقك من تشغيلها وتوسيعها.

لماذا تختار Crunch-IS كشريك لك

المهندسون الذين يكتشفون الثغرة يستطيعون إصلاحها

نحن نبني تطبيقات الذكاء الاصطناعي، لذا فالفريق الذي يكتشف الثغرة هو نفسه الذي يُغلقها. ينتهي الاختبار بإصلاحات في قاعدة الشيفرة لديك وبفحوص تُثبت فعاليتها.

ترتيب حسب ما يمكن للمهاجم الوصول إليه

نرتّب كل ثغرة مكتشفة بحسب ما يمكن للمهاجم الوصول إليه فعليًا من خلالها. فيُغلق إصلاحك الأول المسار الأهم، ولا تُزاحم الثغرات المكتشفة منخفضة الأثر تلك الخطيرة.

نحن نبني وكلاء الذكاء الاصطناعي أيضًا

نصمم وكلاء الذكاء الاصطناعي بصلاحيات محصورة وإجراءات مسجّلة، لذا نعرف أين ينتهي الأمر بالوكلاء إلى صلاحيات تفوق ما تحتاجه مهامهم. ونختبر وكيلك بهذه المعرفة.

ما يقوله عملاؤنا عنا

يقدمون الكثير من والأفكار أفكارًا لأفضل الممارسات القابلة للتطوير، والتي تمكّننا من تحقيق ما لدينا الآن.

Nicky, Softcat | شهادة عميل بالفيديو عن Crunch-IS

نيكي محلل أعمال أول في سوفت كات

كان Crunch-IS رائعًا في توجيهنا نحو الشكل الذي يجب أن يكون عليه العمل الجيد وتحويل أفكارنا إلى واقع من أجل التقييم والمراجعة.

Matthew, Softcat | شهادة عميل بالفيديو عن Crunch-IS

ماثيو رئيس الاستراتيجية الرقمية في سوفت كات

ما أثار إعجابي في Crunch-IS هو جودة المطورين. إنها ببساطة أفضل بكثير مما رأيناه في أي شركة أخرى حاولنا العمل معها.

Klaus, YouWe | شهادة عميل بالفيديو عن Crunch-IS

كلاوس الرئيس التنفيذي في YouWe

لقد أعجبنا أدائهم، وكيفية مشاركتهم في تطوير المنتج، ومدى اهتمامهم بالمنتج.

Sebastian Jara, Accountflow | شهادة عميل بالفيديو عن Crunch-IS

سيباستيان الشريك المؤسس والرئيس التنفيذي للتكنولوجيا في شركة Accountflow

لقد كانت تجربة ممتعة للغاية. كان كل شيء رائعًا فيما يتعلق بـ التواصل، والعمل.

Marta, GIA Networks | شهادة عميل بالفيديو عن Crunch-IS

مارتا استشاري في شبكات GIA

لقد كانت شراكتنا مع Crunch-IS مورداً لا يقدر بثمن خلال مسيرتنا نحو التوسع.

Ryan, WorkDove | شهادة عميل بالفيديو عن Crunch-IS

ريان رئيس قسم التكنولوجيا في وورك دوف

ما لاحظته في Crunch-IS هو الكفاءة الفنية، والقدرة على التفكير خارج الصندوق، وإجادة اللغة الإنجليزية بشكل جيد جدًّا.

Garrett, Tabulate | شهادة عميل بالفيديو عن Crunch-IS

غاريت مدير العمليات في Tabulate

لقد كان لها تأثير كبير على البنية الكلية التي توصلنا إليها في النهاية. وبشكل عام، كنت سعيدًا ومتأثرًا بكل ما قامت به شركة Crunch-IS من أجلنا.

Kenneth, Zuar | شهادة عميل بالفيديو عن Crunch-IS

كينيث الرئيس التنفيذي للتكنولوجيا في زوَّار

أثارت شركة Crunch-IS إعجابنا بـتميزها التقني، وبـ«التقاء العقول والثقافات» بامتياز، فضلاً عن التبادلات الصريحة والصادقة. لم يكن هذا قرارًا اتخذناه باستخفاف، وبعد مرور 5 أشهر على بدء التعاون، ما زلنا معجبين حقًّا بالطريقة التي تتعامل بها Crunch-IS مع هذا التعاون، ونحن سعداء جدًّا بمستوى كفاءة الفريق الذي يعمل معنا.

غاري المدير الإداري في شركة بريطانية لتطوير البرمجيات

كان العمل مع Crunch-IS سهلاً. فقد أبدوا صبراً معنا أثناء مناقشة بنود العقد، كما أبدوا صبراً مرة أخرى أثناء إعداد نظام الفوترة الخاص بنا. وكان تصميم الموقع أنيقاً، كما قام المطور بتسليم التطبيق الذي تعاقدنا عليه في الموعد المحدد وبجودة عالية.

سكوت نائب رئيس قسم هندسة البرمجيات في Analytic Index

كان فريق العمل في شركة Crunch-IS لطيفاً للغاية. لقد عملوا بجد وكانوا محترفين للغاية. وعندما كانت تطرأ أسئلة أو مشاكل تقنية، كانوا يجيبون عليها بسرعة وكانوا دائماً مستعدين ولطفاء لمساعدتنا.

ميا إدارة الأعمال في كونمارك سيستمز

ساعدنا مطور Crunch-IS في تقديم ميزة مهمة لمشروعنا بشكل أسرع بكثير من المتوقع.

روزاريو نائب رئيس قسم الهندسة في بروفيتاب

سهّلت شركة Crunch-IS جهدًا تعاونيًا سلسًا وسلسًا طوال فترة المشروع. حافظ الفريق على خطوط اتصال مفتوحة، واحتفظوا بسجلات مفصلة لمهام المهام، والتزموا بالجداول الزمنية للمشروع. إن خبرتهم فيما يتعلق بكل من التصميم والتطوير هي ما يميز الشركة.

سيسون الرئيس التنفيذي لشركة Chintech

توفر شركة Crunch-IS دعم تطوير مستمر يلبي متطلبات المشروع حسب الحاجة. وعلى الرغم من موقعها في الخارج، إلا أنه يسهل العمل معها ويمكن الوصول إليها من خلال قنوات الاتصال

بوب رئيس قسم التكنولوجيا في تايمجن

أفضل بائع يمكن أن نجده. يمزج Crunch-IS بين التطوير العملي ومبادئ التصميم المبتكرة. كانت التعليقات الداخلية والخارجية على تطوير التطبيق إيجابية. يكملون مراحل المشروع حسب الجدول الزمني المخطط له ويسلمون في حدود الميزانية. الفريق متجاوب ومستعد للدخول في حوار مثمر.

جيف الرئيس التنفيذي لشركة برمجيات الولايات المتحدة الأمريكية

تجاوزت Crunch-IS توقعاتي. أقدر سعة حيلة المطورين في مواجهة القيود والمتطلبات المعقدة. تمكنت الشركة من تسليم المشروع وإتمامه بنجاح.

كيت مدير المنتج في شركة ميزونين

سار المشروع بسلاسة حتى الآن. تتمتع شركة Crunch-IS بأخلاقيات عمل استثنائية. وبالتالي، فقد تمكنوا من مواجهة كل التحديات التي تعترض طريقهم. فهم يديرون العمل اليومي من تلقاء أنفسهم بشكل جيد، ولكنهم يتواصلون معنا بانتظام للتأكد من أننا على وفاق.

أندرو مدير التسويق في شركة كينيتيكس

التطبيق الذي عملت عليه Crunch-IS نظيف ومبسط ويعمل على النحو المنشود. تبذل شركة Crunch-IS قصارى جهدها لضمان انسجام الفريقين. لقد صاغ الفريق المتحمس تجربة ممتعة من خلال سلوكهم الإيجابي ومهاراتهم الفعالة في إدارة المشروع. كان الفريق ودودًا للغاية، وكان العمل معهم ممتعًا.

إيان الرئيس التنفيذي لشركة Biomicc

01 / 07

بدء مشروع جديد

الأسئلة الشائعة حول اختبار اختراق الذكاء الاصطناعي

ما هو اختبار اختراق الذكاء الاصطناعي، وماذا يختبر؟

اختبار اختراق الذكاء الاصطناعي هو اختبار أمني لتطبيق مبني على نموذج لغوي: روبوت محادثة، أو مساعد RAG، أو وكيل يملك أدوات. ويتحقق مما إذا كان المهاجم قادرًا على تجاوز تعليمات النموذج، أو استخراج البيانات، أو إساءة استخدام صلاحيات الوكيل، أو دفع مخرجات ضارة إلى أنظمة أخرى. إنه يختبر تطبيق الذكاء الاصطناعي لديك، وهي مهمة تختلف عن استخدام أدوات الذكاء الاصطناعي لتنفيذ اختبار اختراق.

ما الفرق بين اختبار اختراق الذكاء الاصطناعي واختبار الاختراق التقليدي؟

يبحث اختبار الاختراق التقليدي عن الثغرات في الشيفرة والبنية التحتية والإعدادات. أما تطبيق LLM فيضيف مسارات هجوم عبر اللغة: تعليمات مخفية في مستند، أو سؤال يُسرّب بيانات مستخدم آخر، أو محادثة تقود الوكيل إلى إجراء خاطئ. ويغطي اختبار أمان LLM لدينا هذه المسارات والتكاملات المحيطة بها؛ أما اختبار بنيتك التحتية الأوسع فهو جزء من خدمات الأمن السيبراني لدينا.

ما الفرق بين اختبار اختراق الذكاء الاصطناعي وRed Teaming للذكاء الاصطناعي؟

يفحص اختبار اختراق الذكاء الاصطناعي تطبيقًا محددًا بحثًا عن ثغرات قابلة للاستغلال، ويرتّبها، وينتهي بالإصلاحات وإعادة الاختبار. أما Red Teaming للذكاء الاصطناعي فهو أوسع نطاقًا وموجّه نحو أهداف محددة: إذ يختبر سلوك النموذج تحت ضغط عدائي متواصل، بما في ذلك المخرجات الضارة أو المخالفة للسياسات. وتبدأ فرق كثيرة باختبار اختراق قبل الإطلاق، ثم تضيف Red Teaming مع نمو التطبيق.

هل يمكنكم اختبار وكيل ذكاء اصطناعي يملك صلاحية الوصول إلى أنظمتنا دون تعريضها للخطر؟

نعم. نختبر في بيئة ما قبل الإنتاج باستخدام حسابات وبيانات اختبارية ما لم تقرر خلاف ذلك، ونتفق كتابيًا على الأنظمة والإجراءات المشمولة بالنطاق. وأي إجراء قد يتخذه الوكيل في بيئة الإنتاج نُثبته في بيئة ما قبل الإنتاج.

ما المعيار الذي تختبرون وفقه؟

يُعد OWASP Top 10 for LLM Applications الأساس، وترتبط به كل ثغرة مكتشفة. وعندما يحتاج فريق الامتثال لديك إلى ذلك، نربط الثغرات المكتشفة أيضًا بـ MITRE ATLAS أو NIST AI Risk Management Framework.

كيف يُحدَّد السعر؟

نسعّر كل اختبار بعد رسم خريطة سطح الهجوم، لأن حجم العمل يعتمد على عدد النماذج والوكلاء والأدوات ومصادر البيانات المعنية. وتتلقى نطاقًا مكتوبًا والسعر قبل بدء أي اختبار.

يبدأ اختبار أمان الذكاء الاصطناعي لديك من هنا.

ناقش تطبيق الذكاء الاصطناعي لديك والمخاطر التي تقلقك في مكالمة تقييم مجانية.

احجز مكالمتي المجانية

قصص نجاح Crunch-IS

عرض الكل

تحويل الوصول إلى المعرفة باستخدام RAG وAWS

60%: عمل أسرع مع مستندات الشركة

أتمتة عملية استلام وثائق البناء باستخدام وكيل ذكاء اصطناعي عبر البريد الإلكتروني

70–80%: زيادة سرعة استيعاب المستندات
35 ساعة في الشهر: العمل الإداري اليدوي الذي تم التخلص منه

منصة إدارة التعلم (LMS) المعززة بالذكاء الاصطناعي لضمان الامتثال في مجال التدريب على البناء والسلامة

ابق على اطلاع بأحدث الاتجاهات