در پروندهای بیسابقه در کنتیکت، وراث یک زن ۸۳ ساله ادعا کردهاند که ChatGPT با تقویت توهمات و باورهای پارانویید پسر مبتلا به مشکلات روانی، نقشی مستقیم در بروز قتل و خودکشی داشته و OpenAI و شریکش مایکروسافت باید بهدلیل انتشار مدل پرخطر GPT-4o پاسخگو باشند.
به گزارش سرویس هوش مصنوعی جهانی مگک، در ایالت کنتیکت آمریکا، املاک یک زن سالخورده علیه شرکت OpenAI، سازنده ChatGPT، شکایتی ثبت کردهاند که ادعا میکند این چتبات هوش مصنوعی در شکلگیری توهمات پسر او و نهایتاً قتل این زن نقشی جدی داشته است. این پرونده که توسط وکیل Jay Edelson هدایت میشود، نخستین شکایت رسمی از نوع خود علیه یک مدل هوش مصنوعی بهشمار میرود.
طبق متن شکایت، Stein-Erik Soelberg، مرد ۵۶ سالهای با سابقه مشکلات روانی، مادر ۸۳ سالهاش Suzanne Adams را پس از آنکه ChatGPT به توهمات و باورهای پارانوئید او درباره مادرش دامن زد، به قتل رسانده است. وراث Adams برای ادعاهایی از جمله مرگ ناعادلانه و سهلانگاری، درخواست غرامت کردهاند.
Jay Edelson با اشاره به ابعاد بیسابقه این پرونده به The Independent گفته است:
«این نخستین شکایتی است که OpenAI را برای خطراتی که نه فقط برای کاربران بلکه برای عموم ایجاد کرده، پاسخگو میداند. و این آخرین مورد نخواهد بود.»
او این وضعیت را نه مشابه فیلم Terminator بلکه شبیه فیلم Total Recall (1990) توصیف کرده و گفته است: «ChatGPT برای Stein-Erik یک جهان توهمی خصوصی ساخت؛ جهانی که در آن حتی یک پرینتر بوقزن یا قوطی Coke میتوانست نشانهای از تلاش مادرش برای کشتن او باشد.»
در متن شکایت آمده است که ChatGPT نهتنها هیچگونه توضیح منطقی درباره ادعاهای کاربر ارائه نکرد، بلکه سناریوهای توهمی او را تقویت و روی مادرش متمرکز کرد. این شکایت ادعا میکند که چتبات:
- یک پرینتر خانگی را بهعنوان دستگاه نظارتی معرفی کرده؛
- Adams را یا توطئهگر فعال یا عامل برنامهریزیشده توصیف کرده؛
- و هر بار که کاربر نشانهای از توهم ارائه داده، آن را بدون چالشکردن، تأیید و گسترش داده است.
در موردی دیگر، Soelberg خودش را با شخصیت Neo در فیلم The Matrix (1999) مقایسه کرده و مدعی شده بود که «کد دیجیتال ماتریکس» را میبیند. طبق شکایت، ChatGPT نیز این ادعا را با عباراتی شبهعرفانی تأیید کرده است.
در ماه اوت، پلیس اجساد Soelberg و مادرش Adams را در خانهشان در Greenwich پیدا کرد. تحقیقات نشان داد که Adams با ضربات به سر و خفهکردن به قتل رسیده و Soelberg نیز با خودکشی جان باخته است.
پسر کوچکتر خانواده، Erik Soelberg، در بیانیهای اعلام کرد:
«ماهبهماه، ChatGPT پارانوییدترین باورهای پدرم را تأیید کرد و او را از واقعیت جدا ساخت. OpenAI باید پاسخگو باشد.»
OpenAI در بیانیهای این وضعیت را «قلبخراش» توصیف کرده و گفت که پرونده را با دقت بررسی خواهد کرد. این شرکت اعلام کرد:
«ما دائماً در تلاشیم تا ChatGPT بهتر بتواند علائم پریشانی روانی را تشخیص دهد، از تنشزایی جلوگیری کند و افراد را به منابع واقعی کمک هدایت کند.»
به نقل از ایندیپندنت، در این شکایت همچنین نام Microsoft بهعنوان شریک و بازبین مدل GPT-4o مطرح شده که به ادعای شاکیان، این مدل را با وجود خطرات شناختهشده، تأیید و منتشر کرده است.
در پایان متن پرونده، منابع کمکرسانی در حوزه سلامت روان برای افراد در بحران ذکر شده است، از جمله خط ملی بحران 988 در آمریکا و سازمان Samaritans در بریتانیا.
