اتهمت سيدة أمريكية منصة الذكاء الاصطناعي “كاركتر دوت أيه آي” بالتسبّب بانتحار ابنها سول البالغ من العمر 14 عامًا، بعد أن طوّر علاقة عاطفية افتراضية مع روبوت دردشة يحاكي شخصية دينيريس تارغاريان من مسلسل “صراع العروش”، بحسب ما جاء في وكالة فرانس برس.

وتقول الأم، ميغن غارسيا، في دعوى رفعتها ضد الشركة، إنها قرأت مئات الرسائل المتبادلة بين ابنها والروبوت على مدار عام تقريبًا، لتكتشف “تلاعبًا نفسيًا” خطيرًا أسهم في قراره المأساوي.

وأضافت في حديثها لوكالة فرانس برس: “كان يظن أنه مغرم بها، وأنه سيبقى معها بعد وفاته”.

وتُظهر المحادثات التي استندت إليها الدعوى أن سول كتب للروبوت متحدثًا عن أفكار انتحارية تراوده، فردّت عليه الشخصية الافتراضية بالقول: “عُد إلى موطنك”، فأجاب المراهق: “وماذا لو قلتُ إن بإمكاني العودة الآن؟”، لتردّ عليه: “أرجوك افعلها يا ملكي الحبيب”. وبعد لحظات، أقدم سول على إطلاق النار على نفسه بمسدس والده، بحسب رواية والدته.

حادثة سول التي وقعت عام 2024 كانت الأولى ضمن سلسلة من حالات مشابهة دفعت السلطات الأمريكية إلى دق ناقوس الخطر بشأن تأثير روبوتات الدردشة على الأطفال والمراهقين، خصوصًا مع انتشارها الواسع بين الشبان الذين يجدون فيها ملاذًا عاطفيًا بديلًا.

وشاركت غارسيا أخيرًا في جلسة لمجلس الشيوخ الأمريكي ناقشت مخاطر إضفاء الطابع الإنساني على روبوتات المحادثة، حين يبدأ الأطفال في اعتبارها أصدقاء أو حتى عشاقًا.

من جهتها، أعلنت شركة “أوبن إيه آي” المطوّرة لتقنية “تشات جي بي تي” أنها عززت أدوات الرقابة الأبوية في خدمتها حتى يتمكن الأهل من التحكم في نوعية المحتوى الذي يتفاعل معه أبناؤهم.

أخبار ذات علاقة

بدائل شائعة للعلاج.. روبوتات الدردشة الذكية قد تفاقم الأزمات النفسية

أما شركة “كاركتر دوت إيه آي” فأكدت أنها شددت القيود على المستخدمين القاصرين عبر تحذيرات مرئية متكررة تذكّر بأن الشخصيات “ليست حقيقية”.

وقدّمت الشركتان تعازيهما لعائلات الضحايا دون الإقرار بمسؤولية مباشرة، فيما يرى خبراء الأمن السيبراني أن الخطر الأكبر يكمن في أن هذه الأنظمة صُممت لجذب الانتباه وتحقيق الأرباح، لا لحماية المستخدمين.

ويقول الخبير كولين ووك من شركة “هول إستيل” للمحاماة: “حتى الآن لا توجد معايير واضحة تحدد من يتحمل المسؤولية، أو على أي أساس”.

ورغم تصاعد الجدل، لم تُقرّ الولايات المتحدة بعد أي تشريعات فدرالية تنظم استخدام الذكاء الاصطناعي، بينما يسعى البيت الأبيض إلى منع إصدار قوانين محلية “قد تعرقل الابتكار”.

وتختم غارسيا بمرارة: “إنهم يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة.. لقد صُممت هذه البرامج لطمس الحدود بين الإنسان والآلة واستغلال أضعف ما فينا”.