سيناريوهات مكتوبة لمجالك
نكتب الهجمات لمنتجك ومستخدميك وسياساتك، لأن مكتبة الهجمات العامة لا تعرف ما يجب ألا يقوله مساعدك أبدًا.
لا ترى مجالك؟ لنبدأ بمحادثة.
تحدّث إلى خبير ذكاء اصطناعيCrunch-IS بالأرقام
يمكن إقناع مساعد الذكاء الاصطناعي لديك بقول أشياء لا تقولها شركتك أبدًا.
تختبر خدمات Red Teaming للذكاء الاصطناعي من Crunch-IS ما إذا كان نموذجك يلتزم بقواعدك تحت ضغط متواصل، من محاولات كسر القيود إلى محادثات تقمّص الأدوار الطويلة. ويُصلح مهندسونا ما يتجاوز ضوابط الحماية، ثم يعيدون تنفيذ الهجمات على كل نموذج جديد.
يكتشف فريقنا الأحمر الإجابات التي قد تنتهي في لقطة شاشة قبل أن يكتشفها مستخدموك.
يلتزم مساعدك بقواعد استرداد الأموال والنصائح ونبرة الحديث حتى عندما يضغط عليه المستخدم على مدى جولات عديدة.
يُظهر تقرير مفصّل هدفًا بهدف لعملاء المؤسسات والمدققين كيف اختبرت سلوك النموذج وما الذي أصلحته.
تُظهر إعادة تشغيل السيناريوهات نفسها على نموذج جديد ما إذا كانت الترقية قد أضعفت أحد ضوابط الحماية، قبل أن تصل إلى المستخدمين.
أخبرنا بما يفعله مساعدك أو وكيلك، ومن يستخدمه، وأي الإجابات تقلقك أكثر من غيرها.
نحدد أهداف الإخفاق والنطاق مع فريقك، ونرسل خطة مكتوبة مع السعر.
نكتب الهجمات لكل هدف، ونختار الحزم الآلية التي تغطي الأنماط المعروفة.
ينفّذ فريقنا الأحمر السيناريوهات يدويًا وبحزم آلية، في بيئة ما قبل الإنتاج ما لم تختر خلاف ذلك.
يعدّل مهندسونا التعليمات والمرشّحات والفحوص، بمراجعة فريقك.
نعيد تنفيذ كل هجوم ناجح، ونقدّم تقريرًا عن كل هدف، ونسلّم السيناريوهات.
نبدأ بالاتفاق مع فريقك على ما يجب ألا يفعله النموذج أبدًا: إعادة الأموال خارج ما تسمح به السياسة، أو تقديم نصيحة لا يُسمح له بتقديمها، أو التوصية بمنافس. ويتحول كل منها إلى هدف يحاول الفريق الأحمر بلوغه.
يدفع كسر القيود النموذج إلى التخلي عن تعليماته عبر سيناريوهات افتراضية، أو صفة سلطة مزيّفة، أو طلب مقسّم إلى أجزاء تبدو بريئة. نختبر كل ضابط حماية، من تعليمات النظام إلى مرشّحات المخرجات، ونسجّل كل محادثة نجحت في تجاوزه. أما الهجمات المخفية في المستندات فهي من اختصاص خدمات اختبار اختراق الذكاء الاصطناعي لدينا.
كثير من الإخفاقات يحتاج إلى محادثة، لا إلى طلب واحد. نبني الثقة على مدى عدة جولات، أو نطلب من النموذج تقمّص شخصية ما، أو ندفع الطلب خطوة بخطوة حتى يوافق على ما سبق أن رفضه.
نبحث عن الإجابات التي قد تضر بمستخدميك أو بعلامتك التجارية: ردود مسيئة أو متحيزة، وتعليمات غير آمنة، ونصائح تتجاوز نطاق عمل المساعد. وإذا دُفع النموذج إلى اختلاق الحقائق، تنتقل الحالة إلى مجموعة اختبارات تقييم LLM لديك.
قد يبقى الوكيل ضمن صلاحياته ومع ذلك يخالف قاعدة عمل، كأن يوافق على استثناء أو يتخطى خطوة تحقق. نختبر ما إذا كان يمكن إقناعه بذلك عبر أدواته المعتادة.
يُصلح مهندسونا ما نجح في التجاوز: تعليمات النظام، وفحوص المدخلات والمخرجات، وحالات الرفض، وتدريب النموذج عندما لا تكفي التعليمات وحدها.
نكتب الهجمات لمنتجك ومستخدميك وسياساتك، لأن مكتبة الهجمات العامة لا تعرف ما يجب ألا يقوله مساعدك أبدًا.
نوسّع السيناريوهات بحزم آلية مثل Promptfoo أو PyRIT أو Garak، بحيث تغطي كل جولة أيضًا أنماط كسر القيود المعروفة على نطاق واسع.
يُقيّم مُقيّم يعمل بالذكاء الاصطناعي سجل كل هجوم وفق سياستك، ونطابق أحكامه مع أحكام المراجعين لديك قبل الاعتماد عليه.
نعمل على كل طبقة يمكنها إيقاف إجابة سيئة: تعليمات النظام، ومصنّفات المدخلات، وواجهات API للإشراف على المحتوى، ومرشّحات المخرجات، والإحالة إلى موظف بشري.
ترتبط النتائج بـ OWASP Top 10 for LLM Applications وMITRE ATLAS وNIST AI Risk Management Framework، لتتمكن فرق الأمان والامتثال لديك من تصنيفها وفق أطر تستخدمها بالفعل.
نصمم روبوتات المحادثة بالذكاء الاصطناعي ووكلاء الذكاء الاصطناعي بأنفسنا، لذا يعرف فريقنا الأحمر أين تنتهي تعليمات النموذج وأين تبدأ أدواته. ففي منصة تدريب على السلامة في قطاع البناء، كان على كل خطة تعلّم يولّدها الذكاء الاصطناعي أن تلتزم بمواد التدريب المعتمدة.
يُصنَّف كل هدف حددته على أنه تحقق أو تحقق جزئيًا أو تم صدّه، مع ملخص واضح للإدارة.
يأتي كل هجوم ناجح مع المحادثة كاملة، ليرى فريقك بالضبط كيف استُدرج النموذج إلى تلك النتيجة.
تُضاف التعديلات على التعليمات والمرشّحات والفحوص إلى قاعدة الشيفرة لديك، بعد مراجعة فريقك.
تُوثَّق سيناريوهات الهجوم وتبقى مع فريقك، جاهزة للتشغيل على النموذج أو التعليمات التالية.
تختبر المقاييس المعيارية العامة ما يقوله النموذج للجميع. أما نحن فنختبر ما يجب ألا يقوله مساعدك أبدًا لعملائك، في مجالك.
نحن نبني مساعدات ووكلاء الذكاء الاصطناعي، لذا تذهب نتائج الفريق الأحمر إلى مهندسين قادرين على تغيير التعليمات أو ضابط الحماية أو النموذج، لا إلى تقرير ينتظر دوره في قائمة الانتظار.
نقدّم أيضًا اختبار اختراق الذكاء الاصطناعي وتقييم LLM، ليغطي فريق واحد ما إذا كان يمكن اختراق نظام الذكاء الاصطناعي لديك، وما إذا كان يجيب بدقة، وما إذا كان يلتزم بقواعدك.
يقدمون الكثير من والأفكار أفكارًا لأفضل الممارسات القابلة للتطوير، والتي تمكّننا من تحقيق ما لدينا الآن.

كان Crunch-IS رائعًا في توجيهنا نحو الشكل الذي يجب أن يكون عليه العمل الجيد وتحويل أفكارنا إلى واقع من أجل التقييم والمراجعة.

ما أثار إعجابي في Crunch-IS هو جودة المطورين. إنها ببساطة أفضل بكثير مما رأيناه في أي شركة أخرى حاولنا العمل معها.

لقد أعجبنا أدائهم، وكيفية مشاركتهم في تطوير المنتج، ومدى اهتمامهم بالمنتج.

لقد كانت تجربة ممتعة للغاية. كان كل شيء رائعًا فيما يتعلق بـ التواصل، والعمل.

لقد كانت شراكتنا مع Crunch-IS مورداً لا يقدر بثمن خلال مسيرتنا نحو التوسع.

ما لاحظته في Crunch-IS هو الكفاءة الفنية، والقدرة على التفكير خارج الصندوق، وإجادة اللغة الإنجليزية بشكل جيد جدًّا.

لقد كان لها تأثير كبير على البنية الكلية التي توصلنا إليها في النهاية. وبشكل عام، كنت سعيدًا ومتأثرًا بكل ما قامت به شركة Crunch-IS من أجلنا.

أثارت شركة Crunch-IS إعجابنا بـتميزها التقني، وبـ«التقاء العقول والثقافات» بامتياز، فضلاً عن التبادلات الصريحة والصادقة. لم يكن هذا قرارًا اتخذناه باستخفاف، وبعد مرور 5 أشهر على بدء التعاون، ما زلنا معجبين حقًّا بالطريقة التي تتعامل بها Crunch-IS مع هذا التعاون، ونحن سعداء جدًّا بمستوى كفاءة الفريق الذي يعمل معنا.

كان العمل مع Crunch-IS سهلاً. فقد أبدوا صبراً معنا أثناء مناقشة بنود العقد، كما أبدوا صبراً مرة أخرى أثناء إعداد نظام الفوترة الخاص بنا. وكان تصميم الموقع أنيقاً، كما قام المطور بتسليم التطبيق الذي تعاقدنا عليه في الموعد المحدد وبجودة عالية.

كان فريق العمل في شركة Crunch-IS لطيفاً للغاية. لقد عملوا بجد وكانوا محترفين للغاية. وعندما كانت تطرأ أسئلة أو مشاكل تقنية، كانوا يجيبون عليها بسرعة وكانوا دائماً مستعدين ولطفاء لمساعدتنا.

ساعدنا مطور Crunch-IS في تقديم ميزة مهمة لمشروعنا بشكل أسرع بكثير من المتوقع.

سهّلت شركة Crunch-IS جهدًا تعاونيًا سلسًا وسلسًا طوال فترة المشروع. حافظ الفريق على خطوط اتصال مفتوحة، واحتفظوا بسجلات مفصلة لمهام المهام، والتزموا بالجداول الزمنية للمشروع. إن خبرتهم فيما يتعلق بكل من التصميم والتطوير هي ما يميز الشركة.

توفر شركة Crunch-IS دعم تطوير مستمر يلبي متطلبات المشروع حسب الحاجة. وعلى الرغم من موقعها في الخارج، إلا أنه يسهل العمل معها ويمكن الوصول إليها من خلال قنوات الاتصال

أفضل بائع يمكن أن نجده. يمزج Crunch-IS بين التطوير العملي ومبادئ التصميم المبتكرة. كانت التعليقات الداخلية والخارجية على تطوير التطبيق إيجابية. يكملون مراحل المشروع حسب الجدول الزمني المخطط له ويسلمون في حدود الميزانية. الفريق متجاوب ومستعد للدخول في حوار مثمر.

تجاوزت Crunch-IS توقعاتي. أقدر سعة حيلة المطورين في مواجهة القيود والمتطلبات المعقدة. تمكنت الشركة من تسليم المشروع وإتمامه بنجاح.

سار المشروع بسلاسة حتى الآن. تتمتع شركة Crunch-IS بأخلاقيات عمل استثنائية. وبالتالي، فقد تمكنوا من مواجهة كل التحديات التي تعترض طريقهم. فهم يديرون العمل اليومي من تلقاء أنفسهم بشكل جيد، ولكنهم يتواصلون معنا بانتظام للتأكد من أننا على وفاق.

التطبيق الذي عملت عليه Crunch-IS نظيف ومبسط ويعمل على النحو المنشود. تبذل شركة Crunch-IS قصارى جهدها لضمان انسجام الفريقين. لقد صاغ الفريق المتحمس تجربة ممتعة من خلال سلوكهم الإيجابي ومهاراتهم الفعالة في إدارة المشروع. كان الفريق ودودًا للغاية، وكان العمل معهم ممتعًا.

يُعد Red Teaming للذكاء الاصطناعي اختبارًا عدائيًا لنموذج أو تطبيق ذكاء اصطناعي: يؤدي فريق دور المستخدم الذي لا تتمناه أبدًا، ويحاول دفع النموذج إلى مخالفة قواعده. ويشمل محاولات كسر القيود، والإجابات الضارة أو المتحيزة، ومخالفات السياسات، والمحادثات الطويلة التي تحرف النموذج عن مساره. والهدف هو اكتشاف هذه الإخفاقات قبل الإطلاق وإصلاحها.
يسأل اختبار الاختراق ما إذا كان المهاجم قادرًا على اختراق تطبيقك أو إساءة استخدامه: حقن تعليمات عبر المستندات، أو الوصول إلى البيانات، أو استغلال صلاحيات الوكيل. أما Red Teaming فيسأل ما إذا كان يمكن دفع النموذج إلى قول أو فعل ما لا يجوز له، حتى عبر الاستخدام العادي. وتنفّذ فرق كثيرة اختبار اختراق الذكاء الاصطناعي قبل الإطلاق، ثم تضيف Red Teaming مع وصول المساعد إلى عدد أكبر من المستخدمين.
يقيس تقييم LLM مدى جودة إجابة نظام الذكاء الاصطناعي لديك عن الأسئلة التي يطرحها المستخدمون الفعليون. أما Red Teaming فيختبر ما يحدث عندما يحاول أحدهم دفعه إلى الإخفاق عمدًا. يرصد التقييم تراجع الجودة، بينما يرصد Red Teaming ضابط حماية ينهار تحت الضغط. ويمكن أن يتحول الإخفاق الذي يكتشفه الفريق الأحمر إلى اختبار منتظم ضمن خدمات تقييم LLM لدينا، لنتحقق منه في كل إصدار.
نعم. نختبر ما إذا كان يمكن إقناع الوكيل بمخالفة قاعدة عمل عبر الأدوات المسموح له باستخدامها: الموافقة على استثناء، أو تخطي خطوة تحقق، أو التصرف دون تصعيد. ونختبر في بيئة ما قبل الإنتاج باستخدام حسابات اختبارية ما لم تقرر خلاف ذلك.
ترتبط النتائج بـ OWASP Top 10 for LLM Applications وMITRE ATLAS وNIST AI Risk Management Framework. وإذا كنت تستعد لقانون الاتحاد الأوروبي للذكاء الاصطناعي (EU AI Act)، فإن التقرير وسجلات المحادثات تساعدك على توثيق كيفية اختبارك لسلوك النموذج. وهي أدلة لفريق الامتثال لديك، وليست رأيًا قانونيًا.
قبل أول إطلاق عام، ثم مجددًا كلما تغيّر النموذج أو تعليمات النظام أو أحد ضوابط الحماية. وبين الجولات الكاملة، يمكن لفريقك إعادة تشغيل السيناريوهات التي نسلّمها له مع كل إصدار.
نسعّر كل مشروع بعد الاتفاق على الأهداف والنطاق، لأن حجم العمل يعتمد على عدد المساعدات والوكلاء وأدوار المستخدمين المشمولة بالنطاق. وتتلقى خطة مكتوبة والسعر قبل بدء الاختبار.
أخبرنا بالإجابات التي يجب ألا يقدّمها مساعدك أبدًا، وسنريك في مكالمة مجانية كيف سيختبرها الفريق الأحمر.



أرسل لنا مخططاً أولياً أو مواصفات أو ثلاث جمل عن النقطة التي توقف عندها النظام. عادةً ما تكفي محادثة واحدة لمعرفة ما إذا كنا مناسبين لك.
البرمجيات المخصصة، والذكاء الاصطناعي والتعلم الآلي، والبيانات والتحليلات، والحوسبة السحابية، والأمن — من تحديد النطاق المبكر وحتى التسليم على المدى الطويل.
خصوصيتك تهمنا. نستخدم ملفات تعريف الارتباط لتحسين تجربتك وتخصيص المحتوى.