تعتزم شركة سناب، المالكة لتطبيق “سناب شات”، إضافة أدوات جديدة لجعل تجربة استخدام روبوت الدردشة الذكي “My AI”، الذي يعتمد على تقنية الذكاء الاصطناعي أكثر أمانًا.
وبعد أيام من إطلاق روبوت الدردشة المعتمد على نموذج اللغة الكبير (GPT) لمشتركي خدمة “سناب شات بلس”، أفاد تقرير صحيفة “واشنطن بوست” بأن الروبوت كان يستجيب بطريقة غير آمنة وغير مناسبة.
وقالت شركة سناب إنها تدرك أن الناس كانوا يحاولون “خداع” الروبوت لتقديم ردود غير ملائمة، لذا أطلقت بعض الأدوات لمساعدة الروبوت على تقديم استجابات أكثر تحكمًا.
وقدمت سناب ميزة للروبوت تسمح له بمعرفة تاريخ ميلاد المستخدمين وتوفير استجابات تتوافق مع عمرهم؛ حيث أشارت الشركة إلى أن الروبوت “سيأخذ دائمًا العمر في الاعتبار” أثناء التفاعل مع المستخدمين.
وتخطط سناب أيضًا لتقديم مزيد من التحسينات لمركز العائلة، الذي أطلقته في شهر أغسطس الماضي، وذلك عبر توفير مزيد من الرؤى للآباء حول تفاعلات أطفالهم مع الروبوت.
ستتحقق الميزة الجديدة من تفاعل المراهقين مع روبوت المحادثة، وتتكرار هذه التفاعلات، ويجب على الوصي والمراهق الاشتراك في مركز العائلة للاستفادة من ميزات الرقابة الأبوية.
نبهت سناب على مدونتها إلى أن روبوت المحادثة (ماي أي آي) ليس «صديقًا حقيقيًا»، وأنه يستخدم سجل المحادثات لتحسين الردود.
تقوم سناب بحساب أي رد يتضمن إشارات إلى مواضيع “غير ملائمة” مثل العنف والمصطلحات الجنسية الصريحة، وتعاطي المخدرات غير المشروعة، والتنمر، وخطاب الكراهية، والعبارات المهينة أو المتحيزة، والعنصرية، وتهميش المجموعات غير الممثلة.
وأكدت سناب أن معظم الردود “غير الملائمة” تم تقليدها من قبل الروبوت لكل ما قاله المستخدمون، وأنها ستمنع مؤقتاً الوصول إلى الروبوت الذكاء الاصطناعي للمستخدمين الذين يسيئون استخدامه.
ونظراً لانتشار الأدوات التي تعمل بالذكاء الاصطناعي، يشعر الكثير من الناس بالقلق بشأن سلامتهم وخصوصيتهم، وفي الأسبوع الماضي، أحثّت مجموعة أخلاقية تسمى “مركز الذكاء الاصطناعي والسياسة الرقمية” اللجنة التجارية الفيدرالية الأمريكية على وقف طرح تقنية “جي بي تي-4” التابعة لشركة “أوبن أيه أي”.
