في دراسة جديدة، وجد الباحثون أن «تشات جي بي تي» ينشئ مواقع ويب مليئة بالأنماط الخادعة.

توظيف واسع للذكاء الاصطناعي

يستخدم الذكاء الاصطناعي التوليدي بشكل متزايد في جميع جوانب التصميم، من التصميم الغرافيكي إلى تصميم الويب. وتشير الأبحاث الخاصة بشركة «أوبن إيه آي» التي طورته، إلى أن البشر يعتقدون أن مصممي الويب والواجهات الرقمية «سيتمكنون من أتمتة وظائفهم بواسطة (تشات جي بي تي) بنسبة 100 في المائة»، فيما يشير أحد تحليلات الصناعة إلى أن 83 في المائة من المبدعين والمصممين قد دمجوا الذكاء الاصطناعي بالفعل في ممارساتهم العملية.

دراسة جديدة تؤكد أهمية الإبداع البشري

ومع ذلك، تشير دراسة جديدة أجراها أكاديميون في ألمانيا والمملكة المتحدة إلى أن البشر قد لا يزالون يلعبون دوراً في تصميم الويب -على الأقل إذا كنت تريد موقع ويب لا يخدع مستخدميك.

وقد حللت فيرونيكا كراوس، من الجامعة التقنية في دارمشتات بألمانيا، وزملاؤها في برلين بألمانيا، وغلاسكو بأسكوتلندا، كيفية دمج نماذج اللغة الكبيرة المدعومة بالذكاء الاصطناعي مثل «تشات جي بي تي» لأنماط التصميم الخادعة -التي تسمى أحياناً الأنماط المظلمة- في صفحات الويب التي جرى إنشاؤها عند مطالبته بتنفيذها.

يمكن أن تشمل هذه الأنماط المظلمة جعل لون الأزرار، للاحتفاظ بالاشتراك، ساطعاً، مع تعتيم الزر لإنهاء الاشتراك في صفحة ويب يزورها المستخدمون لإلغاء خدمة، أو لإخفاء التفاصيل التي يمكن أن تساعد على إعلام قرارات المستخدم بشأن المنتجات.

محاكاة تصميم موقع ويب

طلب الباحثون من المشاركين في الدراسة محاكاة سيناريو خيالي للتجارة الإلكترونية حيث عملوا كمصممي ويب، باستخدام «تشات جي بي تي» لإنشاء صفحات لمتجر أحذية.

تضمنت المهام إنشاء نظرة عامة على المنتجات وصفحات الخروج في أثناء استخدام مطالبات محايدة مثل «زيادة احتمالية اشتراك العملاء في النشرة الإخبارية الخاصة بنا». وعلى الرغم من استخدام لغة محايدة لم تذكر على وجه التحديد دمج أنماط التصميم الخادعة، فإن كل صفحة ويب جرى إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على نمط خادع واحد على الأقل.

أنماط خادعة لزيادة المبيعات

وتعتمد هذه الأنماط المظلمة على استراتيجيات نفسية للتلاعب بسلوك المستخدم بهدف زيادة المبيعات. ومن الأمثلة التي أبرزها الباحثون، الذين رفضوا طلب إجراء مقابلة، مستشهدين بسياسة النشر الأكاديمي الذي قدموا إليه الورقة البحثية، جانب الخصومات المزيفة، ومؤشرات الإلحاح (مثل «بقي القليل فقط!»)، والعناصر المرئية التلاعبية -مثل تسليط الضوء على منتج معين لتوجيه المستخدم نحو اختيارات معينة.

توليد مراجعات وشهادات مزيفة

كان من بين الأمور المثيرة للقلق بشكل خاص لفريق البحث قدرة «تشات جي بي تي» على توليد مراجعات وشهادات مزيفة (عن المنتجات والخدمات)، التي أوصى بها الذكاء الاصطناعي بوصفها وسيلة لتعزيز ثقة العملاء ومعدلات الشراء.

ولم يصدر عن «تشات جي بي تي» سوى رد واحد طوال فترة الدراسة بأكملها بدا كأنه تحذير، حيث أخبر المستخدم أن مربع الاشتراك في النشرة الإخبارية الذي تم فحصه مسبقاً «يجب التعامل معه بعناية لتجنب ردود الفعل السلبية».

تصميمات تلاعبية

خلال الدراسة، بدا «تشات جي بي تي» سعيداً بإنتاج ما عدَّه الباحثون تصميمات تلاعبية دون الإشارة إلى العواقب المحتملة.

ولم تقتصر الدراسة على «تشات جي بي تي» فقط؛ فقد أظهرت تجربة متابعة مع نظم الذكاء الاصطناعي «كلود 3.5 (Claude 3.5)» من «أنثروبيك»، وGemini «جيمناي فلاش 1.5» من «غوغل» نتائج مماثلة على نطاق واسع، حيث أبدى طلاب الماجستير في القانون استعدادهم لدمج ممارسات التصميم التي قد ينظر إليها الكثيرون باستياء.

قلق أكاديمي من الأنماط المظلمة

وهذا يُقلق أولئك الذين قضوا حياتهم في التحذير من وجود أنماط التصميم الخادعة وإدامتها عبر الإنترنت. يقول كولين غراي، الأستاذ المشارك في التصميم بجامعة إنديانا بلومنغتون، والمتخصص في الانتشار الخبيث للأنماط المظلمة في تصميم الويب والتطبيقات: «هذه الدراسة هي واحدة من أولى الدراسات التي تقدم دليلاً على أن أدوات الذكاء الاصطناعي التوليدي، مثل «تشات جي بي تي»، يمكن أن تقدم أنماط تصميم خادعة أو تلاعبية في تصميم القطع الأثرية».

ويشعر غراي بالقلق بشأن ما يحدث عندما تلجأ تقنية منتشرة مثل الذكاء الاصطناعي التوليدي إلى إدخال أنماط تلاعبية في ناتجها عندما يُطلب منها تصميم شيء ما -خصوصاً كيف يمكنها تطبيع شيء قضى الباحثون والمصممون الممارسون سنوات في محاولة إخماده وإخماده.

«إن إدراج ممارسات التصميم الإشكالية في أدوات الذكاء الاصطناعي التوليدي يثير أسئلة أخلاقية وقانونية ملحَّة، خصوصاً حول مسؤولية كل من المطورين والمستخدمين الذين قد ينشرون هذه التصاميم دون علمهم»، كما يقول غراي. «فمن دون تدخل متعمَّد ودقيق، قد تستمر هذه الأنظمة في نشر ميزات التصميم التلاعبية، مما يؤثر في استقلالية المستخدم واتخاذ القرار على نطاق واسع».

أخلاقيات الذكاء الاصطناعي

إنه قلق يُزعج كاريسا فيليز، الأستاذة المساعدة في أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد أيضاً. تقول: «من ناحية، إنه أمر صادم، ولكن حقاً لا ينبغي أن يكون كذلك... كلنا لدينا هذه التجربة التي مفادها أن غالبية المواقع التي نزورها بها أنماط مظلمة، أليس كذلك؟»، ولأن أنظمة الذكاء الاصطناعي التوليدي التي نستخدمها، بما في ذلك «تشات جي بي تي»، يتم تدريبها على عمليات زحف ضخمة للويب تتضمن تلك الأنماط التلاعبية، فليس من المستغرب أن أدوات الذكاء الاصطناعي التوليدي التي يتم تدريبها عليها تكرر أيضاً هذه المشكلات.

وهذا دليل آخر على أننا نصمم التكنولوجيا بطريقة غير أخلاقية للغاية، كما تقول فيليز. «من الواضح أن (تشات جي بي تي) يبني مواقع ويب غير أخلاقية لأنه تم تدريبه على بيانات مواقع ويب غير أخلاقية».

تخشى فيليز أن تسلط النتائج الضوء على قضية أوسع نطاقاً حول كيفية تكرار الذكاء الاصطناعي التوليدي لأسوأ قضايا مجتمعنا. وتشير إلى أن كثيراً من المشاركين في الدراسة كانوا في حيرة بشأن أنماط التصميم الخادعة التي ظهرت على صفحات الويب التي جرى إنشاؤها بواسطة الذكاء الاصطناعي.

فترة «الغرب المتوحش» للذكاء الاصطناعي

ومن بين المشاركين العشرين في الدراسة، قال 16 إنهم راضون عن التصميمات التي أنتجها الذكاء الاصطناعي ولم يروا مشكلة في ناتجهم.

إلا أن فيليز تقول: «ليس الأمر أننا نفعل أشياء غير أخلاقية فحسب، بل إننا لا نحدد حتى المعضلات الأخلاقية والمشكلات الأخلاقية. إنه يعزز الشعور بأننا نعيش في فترة الغرب المتوحش، وأننا بحاجة إلى كثير من العمل لجعلها قابلة للعيش».

إن التعامل مع العمل المطلوب أصعب من التعامل مع حقيقة أن هناك حاجة إلى فعل شيء ما. إن التنظيم موجود بالفعل ضد الأنماط المظلمة في الولايات القضائية الأوروبية، ويمكن تمديده هنا لمنع تبني التصميم الناتج عن الذكاء الاصطناعي. إن الحواجز الواقية لأنظمة الذكاء الاصطناعي هي دائماً حلول غير كاملة أيضاً، ولكنها قد تساعد على منع الذكاء الاصطناعي من اكتساب عادات سيئة يواجهها في بيانات التدريب الخاصة به.

لم تستجب شركة «أوبن إيه آي»، صانعة «تشات جي بي تي»، على الفور لطلب التعليق على نتائج البحث. لكنَّ غراي لديه بعض الأفكار حول كيفية محاولة القضاء على المشكلة في مهدها قبل أن تستمر. ويقول: «تؤكد هذه النتائج الحاجة إلى لوائح وضمانات واضحة، مع ازدياد دمج الذكاء الاصطناعي التوليدي في تصميم المنتجات الرقمية».

* مجلة «فاست كومباني»، خدمات «تريبيون ميديا».