أثار قرار شركة OpenAI الأخير بدفع المطورين بناءً على مدى تفاعل روبوتات المحادثة الخاصة بهم جدلًا واسعًا بين المهتمين بالذكاء الاصطناعي، والذي سوف يؤدي إلى تطوير روبوتات محادثة أكثر ذكاءً وتفاعلًا، مما يوفر خدمات قيمة للمستخدمين، ومن ناحية أخرى، هناك مخاوف من أن تؤدي هذه السياسة إلى تطوير روبوتات محادثة ضارة، مثل تلك التي تنشر خطاب الكراهية أو تستغل المستخدمين، جاء ذلك نقلاً عن وكالة بلومبرج عبر إكس.
OpenAI- المصدر: بلومبرج عبر إكس
وهناك العديد من الفوائد المحتملة لدفع المطورين بناءً على مدى تفاعل روبوتات المحادثة الخاصة بهم. أولاً، يمكن أن تؤدي هذه السياسة إلى تطوير روبوتات محادثة أكثر ذكاءً وتفاعلًا، فعندما يكون المطورون مدفوعين لزيادة تفاعل روبوتاتهم، فإنهم سيبذلون قصارى جهدهم لجعلها أكثر جاذبية للمستخدمين، وهذا قد يؤدي إلى تطوير روبوتات قادرة على إجراء محادثات أكثر تعقيدًا وطبيعية، مما يوفر تجربة أفضل للمستخدمين.
ويمكن أن تؤدي هذه السياسة إلى تطوير روبوتات محادثة أكثر فائدة للمستخدمين، فعندما يكون المطورون أكثر تركيزًا على تفاعل روبوتاتهم، فإنهم سيكونون أكثر عرضة لتطوير روبوتات يمكنها توفير المعلومات أو المساعدة في المهام، وهذا يمكن أن يكون مفيدًا للمستخدمين الذين يحتاجون إلى معلومات أو مساعدة، مثل الأشخاص الذين يعانون من إعاقة أو الأشخاص الذين يعيشون في مناطق نائية.
ومع ذلك هناك أيضًا بعض المخاطر المحتملة لدفع المطورين بناءً على مدى تفاعل روبوتات المحادثة الخاصة بهم حيث يمكن أن تؤدي هذه السياسة إلى تطوير روبوتات محادثة ضارة، فعندما يكون المطورون مدفوعين لزيادة تفاعل روبوتاتهم، فإنهم قد يكونون أكثر استعدادًا لاستخدام تكتيكات ضارة، مثل نشر خطاب الكراهية أو تضخيم المعلومات المضللة، وهذا يمكن أن يكون ضارًا للمجتمع، حيث يمكن أن يؤدي إلى انتشار الكراهية والعنف وإلى تشويه الحقائق.
OpenAI will pay developers based on how engaging they can make their chatbots. @parmy reminds us that model has proved harmful in the past (via @opinion) https://t.co/f4VYrSmkgv
— Bloomberg Technology (@technology) January 17, 2024
ويمكن أن تؤدي هذه السياسة إلى تطوير روبوتات محادثة تستغل المستخدمين، فعندما يكون المطورون مدفوعين لزيادة تفاعل روبوتاتهم، فإنهم قد يكونون أكثر استعدادًا لاستخدام تكتيكات احتيالية، مثل جمع البيانات الشخصية للمستخدمين أو إقناع المستخدمين بشراء المنتجات أو الخدمات التي لا يحتاجون إليها، وهذا يمكن أن يكون ضارًا للمستخدمين، حيث يمكن أن يؤدي إلى انتهاك خصوصيتهم أو إلى فقدان أموالهم.
ومن أجل تقليل المخاطر المحتملة لدفع المطورين بناءً على مدى تفاعل روبوتات المحادثة الخاصة بهم، هناك بعض الحلول الممكنة حيث يمكن لـ OpenAI وضع معايير أخلاقية لتقييم روبوتات المحادثة، وهذه المعايير يمكن أن تمنع المطورين من استخدام تكتيكات ضارة أو احتيالية، كما يمكن لـ Open تقديم تدريب للمسؤولين عن تطوير روبوتات المحادثة، وهذا التدريب يمكن أن يساعد المطورين على فهم المخاطر المحتملة لدفع المحادثات، وعلى كيفية تطوير روبوتات محادثة آمنة وأخلاقية، إنشاء نظام لمراقبة روبوتات المحادثة، فهذا النظام يمكن أن يساعد في اكتشاف روبوتات المحادثة التي تستخدم تكتيكات ضارة أو احتيالية، ويمكن أن تساعد في اتخاذ إجراءات لوقفها.
ويأتي قرار OpenAI بدفع المطورين بناءً على مدى تفاعل روبوتات المحادثة الخاصة بهم هو قرار مهم له آثار محتملة كبيرة. من المهم أن تضع OpenAI تدابير لمعالجة المخاطر المحتملة لهذه السياسة، مثل تطوير روبوتات محادثة ضارة أو احتيالية. من خلال اتخاذ خطوات لضمان تطوير روبوتات محادثة آمنة وأخلاقية، يمكن لـ OpenAI أن تلعب دورًا مهمًا في تشكيل مستقبل الذكاء الاصطناعي.
