كشفت سارة بيرد، كبيرة مسؤولي الذكاء الاصطناعي المسؤول في مايكروسوفت، عن تصميم الشركة لمجموعة من مزايا الأمان الجديدة، الموجهة لتسهيل استخدام عملاء Azure في التعامل مع الخدمات الذكية دون الخوض في التعقيدات التقنية، هذه الأدوات تعمل على تحسين الأمان في التعامل مع النماذج اللغوية الكبيرة، بما في ذلك اكتشاف الثغرات الأمنية المحتملة، مراقبة ومنع الهلوسة غير المقبولة، وحجب المطالبات الضارة في الوقت الفعلي.
من خلال هذه الإجراءات، تهدف مايكروسوفت إلى تجنب الجدالات المتعلقة بالذكاء الاصطناعي التوليدي، والتي قد تنشأ من استجابات غير مرغوب فيها أو غير مقصودة، مثل إنتاج صور مزيفة للمشاهير أو صور غير دقيقة تاريخيًا، الأدوات الجديدة تشمل “Prompt Shields” لحظر المطالبات الضارة، “Groundedness Detection” لكشف ومنع الهلوسة، و”Safety Evaluations” لتقييم نقاط الضعف في النماذج.
بالإضافة إلى ذلك، ستطرح مايكروسوفت مزايا أخرى توجه النماذج نحو مخرجات آمنة وتسمح بتتبع المطالبات لتحديد المستخدمين الذين قد يسببون مشكلات أمنية، وتحرص الشركة على منح العملاء إمكانية التحكم في التصفية، مع إمكانية تشغيل أو إيقاف تصفية خطاب الكراهية أو العنف.
تعكس هذه التطورات التزام مايكروسوفت بتعزيز الأمان في منصة Azure، خاصة مع تنامي استخدام الذكاء الاصطناعي، وتسلط الضوء على جهود الشركة للحفاظ على معايير عالية من الأمان والمسؤولية في تقنياتها.
