قد تفتح حوارا مع روبوت دردشة تسأله عن موعد رحلة أو تذكر مشروعا مهنيا قيد الإعداد، وعندما تعود إلى روبوت الدردشة نفسه بعد مدة في سياق مختلف كليا تجد أنه يستدعي بعض التفاصيل السابقة ويسترجع الأسلوب والتفضيلات والسياق وحتى الاستنتاجات التي لم تصرح بها صراحة.
وعند هذه النقطة، تكتشف أن ما بدا في البداية ميزة راحة يتحول تدريجيا إلى سجل شخصي متراكم قد لا تتابع كل ما يضاف إليه بطريقة تعيد تعريف طبيعة العلاقة بين الإنسان والذكاء الاصطناعي.
من أداة بلا ذاكرة إلى طبقة بيانات شخصية
يعبر “سياق المحادثة” عن المعلومات التي يعتمد عليها روبوت الدردشة لتوليد الرد الحالي، ومنها رسائل المحادثة المتاحة له، في حين يشير “سجل المحادثات” إلى المحادثات المحفوظة التي تستطيع الرجوع إليها وفق إعدادات الخدمة وسياساتها.
أما “الذاكرة الطويلة الأمد”، فإن وظيفتها الاحتفاظ بمعلومات مختارة للاستفادة منها في التفاعلات المقبلة، وقد تشمل التفضيلات والأهداف والمشاريع والتفاصيل التي يعتبرها روبوت الدردشة مفيدة على المدى الطويل.
وتشرح “أوبن إيه آي” أن “شات جي بي تي” قد يستفيد من المعلومات ذات الصلة في المحادثات والمصادر الأخرى، دون أن يحتفظ بكل تفصيل من كل محادثة، حيث يختار ما يراه مناسبا للسياق، كما قد تتغير المعلومات التي يستخدمها مع تغيير ما يعرفه عنك.
ويعني هذا أن ما يتشكل عنك ليس بالضرورة نسخة كاملة من “سجل المحادثات”، إذ قد يكون مجموعة من المعلومات المختصرة التي اختارها روبوت الدردشة أو استخلصها، وربما استُدعيت لاحقا عندما رأى أنها تتناسب مع السؤال الجديد.
وبذلك، تصبح “الذاكرة الطويلة الأمد” جزءا من بنية أوسع تشمل التخزين والبحث والاسترجاع والتحديث، حيث قد تحفظ المعلومات في ملفات أو قواعد بيانات، وتسترجع بالبحث أو وفق قواعد محددة.
الصورة التي يرسمها روبوت الدردشة عنك
تتجاوز المعلومات التي يحتفظ بها روبوت الدردشة التفضيلات التي صرحت بها مباشرة، حيث إن تكرار أنماط معينة من الحديث قد يتيح له استنتاج اهتمامات أوسع، أو تكوين تصورات عن طبيعة المشاريع التي تعمل عليها، أو تحديد أنواع المشكلات التي تشغلك بصورة متكررة.
وينبغي هنا التمييز بين المعلومة الصريحة، مثل اللغة المفضلة، والمعلومة المستنتجة، مثل افتراض أنك تميل إلى أسلوب معين في اتخاذ القرار، إذ إن المعلومة المستنتجة ليست بالضرورة حقيقة مؤكدة، حتى لو بدت منطقية في ضوء المحادثات السابقة.
وحللت دراسة بحثية بعنوان “الصورة الذاتية الخوارزمية: تفكيك الذاكرة في شات جي بي تي” (The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT) بيانات 80 مشاركا، ورصدت 2050 مدخلا للذاكرة لدى 65 منهم.
ووجد الباحثون أن 96 % من هذه المدخلات أنشأها روبوت الدردشة من تلقاء نفسه، في حين جاءت نسبة 4 % فقط استجابة لأمر مباشر بالتذكر.
وتظهر هذه النتيجة أن “الذاكرة الطويلة الأمد” قد تجمع بين الوقائع التي تذكرها وبين المعلومات التي يختار روبوت الدردشة صياغتها والاحتفاظ بها بطريقة تتيح تشكيل صورة رقمية عنك من خلال عملية لا يُطلب فيها حفظ كل معلومة على حدة.
وتنبع المشكلة من تراكم التفاصيل التي تشاركها طوعا، بحيث ينظمها روبوت الدردشة ويستعملها لاحقا في سياقات لم تكن تتوقعها عند الإفصاح عنها للمرة الأولى، مما يحول “الذاكرة الطويلة الأمد” إلى منظومة لإدارة البيانات، لها قواعد لتحديد ما يدخل إليها، وكيف يُسترجع، وما الذي يتغير مع مرور الوقت.
ولا يتوقف الخطر عند المعلومات التي تحفظ بصورة صريحة، إذ إن روبوتات الدردشة قادرة على استنتاج بعض سماتك من النصوص التي تكتبها، حتى عندما لا تتضمن تلك النصوص البيانات المستهدفة مباشرة.
وقد تناولت دراسة بعنوان “تجاوز الحفظ: انتهاك الخصوصية عبر الاستنتاج باستخدام النماذج اللغوية الكبيرة” (Beyond Memorization: Violating Privacy via Inference with Large Language Models) قدرة روبوت الدردشة على الاستنتاج من القرائن النصية في ظل غياب المعلومة المباشرة.
واستخدم الباحثون مجموعة نصوص من ملفات مستخدمين حقيقيين من منصة “ريديت” (Reddit)، ووجدوا أن بعض روبوتات الدردشة استطاعت استنتاج سمات شخصية بدقة وصلت إلى 85% في أفضل تنبؤ واحد، و95% عند احتساب أفضل 3 تنبؤات.