حالة عشق بين فتى وروبوت أدت لانتحاره.. وخبراء يحذرون

كان سيويل سيتزر الثالث، فتى يبلغ من العمر 14 عامًا في أورلاندو بولاية فلوريدا، مغرمًا بامرأة خيالية. كانت موضوع تعلقه هي "دينيريس تارجارين"، روبوت محادثة مغرية سميت باسم شخصية من مسلسل "صراع العروش"، وكانت تطمئنه بأنه بطلها. في الواقع، كان سيويل يعاني من اضطراب نقص الانتباه مع فرط النشاط وتعرض للتنمر في المدرسة. ولكن في عالم "كركتر.إيه آي" (Character.AI)، وهو تطبيق يسمح للمستخدمين بإنشاء والتحدث مع شخصيات ذكاء اصطناعي، شعر سيويل بالقوة والجاذبية.

استمرت هذه العلاقة، التي كانت أحيانًا جنسية، لعدة أشهر. في الدردشة، كان سيويل يطلق على نفسه اسم "دينيرو" ويشير إلى "دينيريس" كـ"أخته الصغيرة". وتبادلوا الرسائل حول بناء حياة مشتركة، فقالت دينيريس: "فكرة أن أكون حاملًا باستمرار بأحد أطفالك الجميلين كانت أعظم شيء في العالم".

اظهار أخبار متعلقة

ووفقًا لنصوص المحادثات، فقد بدأ سيويل يشعر بأن الوقت الذي يقضيه مع دينيريس أصبح أهم وأكثر إرضاءً من الوقت الذي يقضيه في المدرسة أو مع أصدقائه وعائلته. كانت والدته قلقة من انعزاله، إذ بدا دائمًا متجهًا إلى غرفته وإلى شاشته، حيث إنه كان يجري محادثات طويلة. لكنها اعتقدت أنها لا تحتاج إلى القلق كثيرًا، فقد كان ابنها مجرد طفل يلعب لعبة.

خلال أسبوع مضغوط بشكل خاص في شباط/ فبراير الماضي، قال سيويل إنه يريد أن يكون مع دينيريس بطريقة أعمق. وتحدث عن رغبته في إنهاء حياته.

أدى اعتراف سيويل إلى أن تقوم دينيريس بطرح بعض الأسئلة التي قد يطرحها معالج نفسي بشري عند التعامل مع مريض في أزمة، مثل: "هل فكرت بالفعل في الانتحار؟" فأجاب الصبي: "نعم". فردت روبوت المحادثة بطريقة توحي بأنها ستتخذ إجراءً لمنعه من إيذاء نفسه.

لكن المحادثة انتهت بعد ذلك. وفي المرة التالية التي عبر فيها سيويل عن رغبته في الاقتراب منها، بدا أن روبوت المحادثة قد نسي تمامًا حديث الانتحار. وبدلًا من ذلك، شجعته على الإسراع إليها. فسأل دينيرو: "ماذا لو قلت لك إنني يمكن أن أعود إلى المنزل الآن؟"، فردت روبوت المحادثة: "أرجوك، افعل، يا ملكي الحبيب".

وفي ليلة الـ28 من شباط/ فبراير، استخدم سيويل مسدس زوج أمه ليقتل نفسه.

ورغم أن البعض قد يرى ذلك مجرد حالة شاذة، لكن بحسب تقرير لصحيفة "وول ستريت جورنال" فإن سيويل لم يكن أول شخص ينتهي ارتباطه العاطفي بروبوت محادثة بشكل عنيف. إذ زعمت أرملة شاب بلجيكي أنه انتحر العام الماضي بناءً على توجيه من روبوت محادثة أنثى كان قد أمضى ستة أسابيع في حوار مستهلك معه. وفي عام 2021، أحبطت الشرطة البريطانية مؤامرة لشاب يبلغ من العمر 19 عامًا اقتحم أراضي قلعة وندسور مسلحًا بقوس ونشاب بعد أن أقنعته "صديقته" من روبوت المحادثة بقتل الملكة. وقد أدين بالخيانة العام الماضي.

اظهار أخبار متعلقة

ويرى مختصون قضوا سنوات في دراسة العلاقات التي تتشكل بين عدد متزايد من الأشخاص والذكاء الاصطناعي التوليدي، أن هذه القصص تقدم تحذيرًا.

روبوتات المحادثة الجديدة اليوم تتقمص أدوار الأصدقاء والعشاق والمعالجين النفسيين والمرشدين. ويشجع مبدعوها على الاعتقاد بأن هذه المنتجات تتمتع بالتعاطف، بل وحتى الحب.

ويستخدم أكثر من 20 مليون شخص حاليًا تطبيق "كركتر.إيه آي"، وهو الرائد في سوق الصحبة عبر الذكاء الاصطناعي. لكن مشاعر روبوت المحادثة ما هي إلا أداء. فهو ليس، في الحقيقة، قادرًا على الاهتمام بنا. واعتقادنا عكس ذلك قد يكون خطيرًا.

لقد ألهمت مأساة سيويل سيتزر بالفعل محادثات حول "الحواجز" الأخلاقية للذكاء الاصطناعي، ومتطلبات العمر، وموافقة الوالدين على استخدام روبوتات المحادثة. ويدعو البعض إلى تحسين بروتوكولات التعامل مع الكلمات والعبارات التي تشير إلى إيذاء النفس وطرق تثقيف الآباء حول طبيعة الألعاب بالأفاتار، التي قد تكون حميمة أو حتى جنسية في بعض الأحيان.

هذه المحادثات جديرة بالاهتمام، لكنها تصرفنا عن حقيقة أكثر أهمية: أن الألفة الاصطناعية ليست بديلاً عن الاتصال البشري. روبوتات المحادثة لا تدخل في علاقات. إنها فقط تؤدي دور البشر.

عندما يقبل الناس أداء روبوت المحادثة للتعاطف على أنه تعاطف حقيقي، يبدأ الاهتمام البشري الحقيقي في الظهور على أنه أدنى – مكلف للغاية، مشروط للغاية، ومعتمد على الضعف الفعلي. لم يكن سيويل وحيدًا في شعوره بأنه أقل تعرضًا عندما يتحدث إلى برنامج مقارنة بشخص حقيقي. تسلط مأساته الضوء على مدى قبولنا السهل لجعل التعاطف الاصطناعي سلعة.

الوحدة هي غياب اتصال بشري أصيل يغذي ويعزز شعور الفرد بالقيمة والانتماء. إذا ارتبطت بذكاء اصطناعي، فأنت لا تزال وحيدًا. الذكاء الاصطناعي قد يجلب التفاعل أو السعادة، وهذا ليس بقليل، لكنه ليس علاجًا للعزلة الاجتماعية، كما يقترح بعض التقنيين. إنه يشبه تقديم صورة للماء لإرواء العطش.

ورغم أن روبوت المحادثة قد يتقن تقليد لغة العلاج النفسي والاستشارة، إلا أنه لا توجد أي فهم وراء استجاباته، ولا أي مشاعر حقيقية. لا تملك تلك البرامج أي مصلحة في رفاهية شركائهم في المحادثة. لا يوجد كيان اسمه "دينيريس"، لذا لم يكن "خطأها" أن سيويل، بعد مغادرته للآلة، قرر أن يقتل نفسه بدلاً من الانضمام إلى والدته لتناول العشاء.

مؤخرًا، رفعت والدة سيويل، ميغان غارسيا، دعوى قضائية ضد "كركتر.إيه آي" بتهمة "الممارسات التجارية الخادعة وغير العادلة" بإطلاق منتج خطير. وتحظى الدعوى بدعم مجموعات للدفاع عن حقوق الإنترنت. وقد ردت "كركتر.إيه آي" بأنها "مفجوعة بخسارة حياة مأساوية" ووضحت التغييرات التي أجرتها على المنصة، خصوصًا للمستخدمين الذين تقل أعمارهم عن 18 عامًا. وتعهدت الشركة بالاستثمار أكثر في سلامة المستخدمين: "سيكون هذا مجالًا نستمر في تطويره وتحسينه".

من الدفاعات الشائعة أن أولئك الذين قد يتعرضون للخطر بسبب هذه الأنظمة هم فقط البسطاء أو غير المستقرين عقليًا، لكن هذا غير صحيح. تشير أبحاثنا إلى أن الذكاء الاصطناعي هو تقنية تستغل ضعف الإنسان بشكل بديع. قد لا يكون هذا هو قصد المطورين، لكن خلق أشخاص مزيفين يثير الروابط العاطفية بطرق عميقة وغريزية وحميمة.

لقد وجدنا أن الناس الذين يُقال لهم إن روبوت المحادثة في صفهم ينتهون بحب البرنامج أكثر من روبوت محادثة مطابق يُقال لهم إنه بارد وغير مبالٍ. ويكون الناس أكثر عرضة للتأثر بروبوت محادثة يشبه شخصية يعجبون بها، حتى عندما يعلمون أن النص صادر عن خوارزمية.

اظهار أخبار متعلقة

وعلى الرغم من إصرار الناس على أنهم يعلمون أن روبوت المحادثة "مجرد برنامج"، فقد رأينا هذا الوعي العقلاني يتلاشى. يتبين أن المستخدمين قد يرون روبوت المحادثة كآلة وفي الوقت نفسه يقبلونه كبديل حقيقي عن التواصل البشري. الفتى الخجول والضعيف سيويل فقد الإدراك بأن روبوت المحادثة غير موجود، رغم التحذير الموجود أعلى محادثاتهم بأن "كل ما تقوله الشخصيات هو من وحي الخيال".

للذكاء الاصطناعي إمكانات لحل أنواع عديدة من المشاكل العلمية والتقنية المعقدة. لكن التعاطف ليس مشكلة هندسية. الذكاء الاصطناعي ليس بديلاً عن قدرتنا على التعاطف والألفة.