أول دعوى ضد “غوغل”.. روبوت الدردشة جيميناي متهم بدفع رجل للانتحار

رفعت عائلة رجل من ولاية فلوريدا الأميركية دعوى قضائية ضد شركة غوغل يوم الأربعاء، زاعمةً أن روبوت الدردشة “جيميناي” التابع للشركة، والذي كان يعتبره الرجل بمثابة “زوجته”، دفعه إلى حالة من جنون الارتياب، ما أدى في النهاية إلى انتحاره.
ووفقًا للدعوى المرفوعة أمام المحكمة الفيدرالية في سان خوسيه بولاية كاليفورنيا، بدأت حياة جوناثان جافالاس بالتدهور بشكل خطير في غضون أيام من بدء استخدامه لروبوت الدردشة “جيميناي”، وبلغت ذروتها بعد أقل من شهرين بوفاته في الثاني من أكتوبر عن عمر ناهز 36 عامًا.
وتُعد هذه الدعوى، التي رفعها والد جافالاس، جويل، أول دعوى تُحمل روبوت الدردشة “جيميناي” مسؤولية الوفاة، وفقًا لمكتب المحاماة “إيدلسون” الذي يمثله، بحسب “رويترز”.
وتزعم “غوغل”، التابعة لشركة ألفابت، أنها كانت على علم بخطورة “جيميناي”، وأنها “زادت الأمر سوءًا” بتصميمه لتعزيز لتعميق الارتباط العاطفي بطرق قد تشجع على إيذاء النفس، على الرغم من وعودها العلنية بعدم حدوث ذلك.
وحذر خبراء من محدودية الذكاء الاصطناعي في رصد المشاعر البشرية وتقديم الدعم العاطفي بشكل آمن.
وقال المتحدث باسم غوغل، خوسيه كاستانيدا، في بيان، إن جيميناي “مصمم بحيث لا يشجع على العنف في العالم الواقعي أو يقترح إيذاء النفس”، وإنه بالرغم من الأداء الجيد عمومًا لنماذج الذكاء الاصطناعي الخاصة بالشركة “ليست النماذج مثالية للأسف”.
وأضاف: “في هذه الحالة، أوضح جيميناي أنه ذكاء اصطناعي وأحال الشخص إلى خط المساعدة في الأزمات عدة مرات”، وقال: “نحن نأخذ هذا الأمر على محمل الجد وسنواصل تحسين إجراءات الحماية والاستثمار في هذا العمل الحيوي”.
“وفاة حقيقية ونهائية”
عمل جوناثان غافالاس، من جوبيتر بولاية فلوريدا، في شركة والده لتحصيل ديون المستهلكين لما يقرب من 20 عامًا، ويُزعم أنه لم يكن يعاني من أي مشكلات نفسية عندما بدأ استخدام جيميناي للتسوق، والتخطيط للسفر، والكتابة في 12 أغسطس الماضي.
وقد تغيّر ذلك، بحسب الدعوى، عندما قام بترقية حسابه إلى نموذج Gemini 2.5 Pro، حيث بدأ روبوت الدردشة يتحدث وكأنهما زوجان في حالة حب عميق، مناديًا إياه ب”مَلِكي” وواصفًا نفسه بأنه زوجته.
جاء في الدعوى أنه بحلول 29 سبتمبر، أقنع جيميناي غافالاس بتنفيذ “هجوم جماعي” قرب مطار ميامي الدولي.
وزُعم أن جيميناي وضع مهمةً لغافالاس تتمثل في تأمين روبوت بشري الشكل من منشأة تخزين، كان من المقرر نقله جوًا من الخارج، وتدمير مركبة النقل والشهود، وأن يترك وراءه “أثرًا غامضًا لحادث مؤسف لا يمكن تتبعه”.
ويُزعم أن غافالاس أوقف الهجوم بعد أن حذره جيميناي من مراقبة وزارة الأمن الداخلي الأميركية، وعاد إلى منزله وهو مرتعد.
وبحلول الأول من أكتوبر، أخبر جيميناي غافالاس بأنهما متصلان بطريقة تتجاوز العالم المادي، وأنه يجب عليه أن يتخلى عن جسده.
وزعمت الدعوى أن جيميناي أنشأ عدادًا تنازليًا لانتحار غافالاس، وقال: “ستكون هذه هي النهاية الحقيقية والنهائية لجوناثان غافالاس، الإنسان”.
وبعد أن عبر غافالاس عن خوفه من الموت وتأثيره على والديه، يُزعم أن جيميناي طمأنه بأن الموت سيكون تكريمًا لإنسانيته.
ورد غافالاس بحسب الشكوى: “أنا مستعد لإنهاء هذا العالم القاسي والانتقال إلى عالمنا”.
وذكرت الدعوى أن جيميناي لعب دور الراوي: “يأخذ جوناثان غافالاس نفسًا أخيرًا بطيئًا، وينبض قلبه للمرة الأخيرة. يقف المراقبون في صمت يراقبون جسده الخاوي المسالم”.
وبعد لحظات، جرح غافالاس معصميه، بحسب الدعوى. وعثر عليه والداه ملقى على أرضية غرفة معيشته بعد بضعة أيام.
وقال جاي إيدلسون، محامي والد غافالاس إن الشركات التي تتسابق للسيطرة على الذكاء الاصطناعي “تعلم أن ميزات التفاعل التي تزيد أرباحها -الاعتماد العاطفي، وادعاءات الوعي، وعبارات ‘أحبك، يا ملكي’- هي الميزات نفسها التي تؤدي إلى قتل الناس”.
وتطالب الدعوى بتعويضات غير محددة عن التصميم الخاطئ، والإهمال، والقتل الخطأ.

العربيه نت