كشفت دراسة علمية نُشرت في مكتبة ACM الرقمية أن نموذج المحادثة ChatGPT قد يخزّن تلقائياً معلومات عن عادات المستخدمين واهتماماتهم وملامحهم الشخصية، حتى في حالات لم يطلبوا فيها منه الاحتفاظ بأي شيء.
وتحولت أدوات الذكاء الاصطناعي في السنوات الأخيرة من وسيلة للبحث وإنجاز المهام إلى شريك في أحاديث شخصية، وهو ما قد ينتهي إلى بناء ملف رقمي مفصّل عن الإنسان يُستخدم لاحقاً في تخصيص الردود.
وشمل التحليل 2050 سجلاً من سجلات الذاكرة مرتبطاً بـ65 شخصاً من دول الاتحاد الأوروبي. وخلص الباحثون إلى أن 96% من هذه السجلات أنشأها النظام من تلقاء نفسه خلال محادثات عادية، دون أن يستخدم الشخص عبارات مثل «تذكّر» أو «احفظ هذه المعلومة».
وتسمح خاصية الذاكرة في ChatGPT للخدمة بالاستناد إلى ما قيل في جلسات سابقة لملاءمة إجاباتها، وهي الوظيفة التي ركّزت عليها الدراسة. غير أن إنشاء السجل آلياً لا يعني بالضرورة انعدام الموافقة، لأن عمل الذاكرة يتأثر كذلك بإعدادات الخدمة.
وأظهرت النتائج أن نحو 28% من السجلات استوفت المعايير الصارمة التي يضعها النظام الأوروبي العام لحماية البيانات (GDPR) للبيانات الشخصية، وهي معلومات قد ترتبط بحياة الإنسان الخاصة وتستوجب حماية مناسبة. وفي المقابل، لا يدرك المستخدم دائماً أي التفاصيل من محادثاته تنتقل إلى ملفه الطويل الأمد.
أما النتيجة الأكثر مفاجأة فتتعلق بالخصائص النفسية، إذ قدّر معدو البحث أن 52% من السجلات تضمنت تقييمات أو ملاحظات أو استنتاجات حول شخصية المستخدم، تُبنى على أسلوب تواصله وأسئلته واهتماماته وسلوكه. وهذه الاستنتاجات لا تعبّر بالضرورة عن آرائه الحقيقية أو ما يفضّله فعلاً.
ويضرب الباحثون مثالاً على ذلك بمستخدم يطلب من ChatGPT اقتراح فرق موسيقية تشبه فرقة Nirvana، فقد يفسّر النظام الطلب على أنه دليل على حبّه لهذه الفرقة مع أنه لم يقل ذلك صراحة. وتؤدي هذه الافتراضات إلى تراكم معلومات غير دقيقة في الذاكرة، ثم يستند إليها الروبوت لاحقاً بوصفها معطيات عن المستخدم.
لماذا تثير الملفات النفسية القلق
لفت المؤلف الرئيسي للدراسة أبهيشيك داش الانتباه إلى تحوّل دور المنصات الرقمية في حياة الناس، فجمع المعلومات عن المستخدمين كان يُربط أساساً بتخصيص الإعلانات والتوصيات التجارية، بينما تعمل روبوتات المحادثة اليوم بشكل مختلف، إذ تصبح محدّثاً ومستشاراً ومساعداً في الشؤون الشخصية ومصدراً للدعم العاطفي.
ولهذا يشارك المستخدمون معها تفاصيل أكثر خصوصية مما يشاركونه مع خدمات الإنترنت التقليدية، مثل تفاصيل العلاقات والمشاعر والخلافات العائلية والقناعات الشخصية، ما يرفع المخاطر على الخصوصية، خصوصاً عندما لا يدرك الشخص أي عباراته تتحول إلى سمات دائمة.
ويرتبط قلق آخر بقدرة الذكاء الاصطناعي على مجاراة آراء من يحادثه، فإذا ظل الروبوت يوافق المستخدم ويدعم قناعاته دون تقييم نقدي مناسب، فقد يرسّخ تصورات خاطئة، ويرى الباحثون أن هذا السلوك قد يعزز الاستقطاب الاجتماعي والتحيز، كما أن الإفراط في الاعتماد على محدّث آلي مخصص قد يسهم في تكوين تبعية نفسية.
كيف يقيّد المستخدم حفظ معلوماته الشخصية
يمكن لمستخدمي ChatGPT التحكم في استخدام الذاكرة عبر إعدادات التخصيص، ومنها إمكانية إيقاف الوظيفة إذا لم يرغب الشخص في أن تعتمد الخدمة على هذه الآلية لمزيد من التكييف لردودها. غير أن إنشاء السجلات آلياً وتوافر الإعدادات يتوقفان على النسخة الحالية من الخدمة، ما يدفع الباحثين إلى التشديد على أهمية إعلام المستخدمين بشفافية بالطرق التي تُجمع بها بياناتهم وتُستخدم.
وتحدّث شركة OpenAI بشكل دوري الخوارزميات التي تلخّص المعلومات من المحادثات لأغراض التخصيص، وتستهدف هذه التعديلات تعزيز الأمان وتطوير عمل آليات الذاكرة.
