مدير أول في سلامة الذكاء الاصطناعي وهندسة التحقق

Client of Discovered MENA

بصفتك مديرًا أول في سلامة الذكاء الاصطناعي وهندسة التحقق، ستقود إنشاء أطر التقييم لكل من التعلم الآلي التنبؤي والذكاء الاصطناعي التوليدي.

ستكون مسؤولاً عن تحديد بروتوكولات المراقبة الموحدة والحواجز الآلية.

العمل كمساهم فردي، ستقدم دعم التنفيذ العملي لفرق المنتجات المختلفة لضمان أن جميع النشر تتوافق مع معايير الأداء العالية والامتثال.

اكتشف المسؤوليات

• حدد قواعد تقييم موحدة وأنظمة تسجيل للأداء والسلامة عبر نماذج الذكاء الاصطناعي المختلفة بما في ذلك RAG وسير العمل الوكيلة.
• صمم حالات اختبار شاملة تغطي المنطق الحتمي والسيناريوهات المعادية لاختبار مخرجات الذكاء الاصطناعي.
• نفذ مقيمون آليون مثل LLM-as-a-judge ونماذج لغوية صغيرة مستهدفة. نشر تقنيات الشرح مثل قيم شابلي والتدرجات المتكاملة لضمان شفافية النموذج واكتشاف التحيز غير العادل في نماذج الإقراض والاحتيال.
• تعاون مع فرق المنصة لبناء خطوط أنابيب للقياس تلتقط التضمينات والمدخلات مع الحفاظ على معايير صارمة لخصوصية البيانات.
• أنشئ إشارات ذهبية مثل معدلات الهلوسة والتشابه الدلالي لتفعيل مفاتيح الدائرة الآلية عندما يتم تجاوز عتبات الأداء.
• حلل انتهاكات الحواجز لتحديد أنماط الهجوم الناشئة وإدماج تصحيحات الإنسان في حلقات تحسين النموذج.
• ترجم القياسات التقنية إلى تقارير صحة نموذج قابلة للتنفيذ لوظائف المخاطر من المستوى الثاني. اعمل مع بائعي البرمجيات المتخصصين لإدخال قدرات الأمان المتقدمة إلى النظام البيئي الداخلي للذكاء الاصطناعي.

اكتشف المتطلبات

• أكثر من 7 سنوات من الخبرة في هندسة التعلم الآلي، علم البيانات، أو سلامة واختبار الذكاء الاصطناعي.
• درجة البكالوريوس في علوم الكمبيوتر أو تكنولوجيا المعلومات أو تخصص هندسي ذي صلة.
• إتقان خبير في بايثون ومعرفة عميقة بالاختبار الإحصائي ومكتبات XAI.
• خبرة عملية مع أطر تقييم LLM مثل Ragas وGiskard أو Arize.
• قدرة مثبتة على تصميم أنظمة الرصد والمراقبة على نطاق واسع.
• تُفضل الخبرة السابقة في القطاع المالي بشدة.
• مهارات قيادية قوية مع القدرة على العمل كمرشد تقني عبر المبادرات متعددة الوظائف.