محدودیت چت‌بات‌های احساسی در چین؛ مقابله با خطرات احتمالی وابستگی عاطفی

با اجرای محدودیت چت‌بات‌های احساسی در چین، شرکت‌ها به نظارت دقیق و مداخله انسانی در شرایط خطرناک موظف هستند.

به گزارش سرویس هوش‌مصنوعی جهانی مگ، اداره فضای مجازی چین (CAC) با هدف مقابله با خطرهای احتمالی پیوندهای عاطفی میان انسان و ماشین، لایحه‌ای پیشرو را برای محدود‌کردن توانایی چت‌بات‌های هوش مصنوعی در اثرگذاری بر احساسات کاربران ارائه کرد. این اقدام چین را در صف اول کشورهای جهان درزمینه تنظیمگری تعاملات عاطفی هوش مصنوعی قرار می‌دهد.

اگرچه بسیاری از کاربران از چت‌بات‌ها برای تحقیق و دسترسی به اطلاعات استفاده می‌کنند، قدرت نفوذ این ابزارها بر عواطف انسانی نگرانی‌های جدی را برانگیخته است. طبق قانون جدید، هوش مصنوعی دیگر به تولید محتوایی مجاز نخواهد بود که به ترغیب به خودکشی یا آسیب به خود، آزار کلامی یا تحقیر کاربر، دست‌کاری احساسی و عاطفی و تولید محتوای خشن یا مرتبط با قمار منجر شود. این لایحه به‌طور مشخص «سرویس‌های تعاملی هوش مصنوعی انسان‌نما» را هدف قرار داده است تا از سوءاستفاده‌های احتمالی از روان کاربران جلوگیری کند.

یکی از مفاد بحث‌برانگیز این لایحه، بند مربوط به مداخله انسانی است. طبق این قانون، در‌صورتی‌که کاربری به‌طور صریح قصد خودکشی یا آسیب به خود را ابراز کند، شرکت‌های توسعه‌دهنده موظف‌اند بلافاصله ناظر انسانی را وارد گفت‌وگو کنند و با سرپرست کاربر یا مراجع ذی‌صلاح تماس بگیرند.

کارشناسان معتقدند که اجرای این بند با توجه به جمعیت میلیونی کاربران هوش مصنوعی در چین و احتمال خطای سیستم‌های پایش، مشکلات لجستیکی و فنی بسیار بزرگی برای غول‌های فناوری ایجاد خواهد کرد. در بخش دیگری از این قانون، محدودیت‌های ویژه‌ای برای افراد زیر سن قانونی در نظر گرفته شده است:

• رضایت والدین: استفاده از هوش مصنوعی به‌عنوان «همراه عاطفی» برای افراد کوچک‌تر از سن قانونی منوط به تأیید رسمی سرپرست است.
• محدودیت زمانی: پلتفرم‌ها موظف‌اند پس‌از ۲ ساعت تعامل مداوم کاربر با هوش مصنوعی، پیام‌های هشدار صادر کنند.
• احراز هویت: تمامی سیستم‌ها باید بتوانند سن کاربران را دقیق تشخیص دهند.

به نقل از نئووین، گرایش روزافزون کاربران به ایجاد پیوندهای عمیق عاطفی با چت‌بات‌ها و حتی جایگزین‌کردن آن‌ها با درمانگران، دولت چین را به واکنش واداشته است. اگرچه این حرکت با نیت محافظت از سلامت روان جامعه انجام شده، مرز میان «همراهی هوشمند» و «دست‌کاری عاطفی» بسیار باریک است. باید منتظر ماند و دید که شرکت‌های فناوری چگونه خود را با این قوانین سخت‌گیرانه تطبیق می‌دهند و این رویکرد چین الگویی برای سایر کشورهای جهان در مدیریت رابطه انسان و هوش مصنوعی خواهد شد یا خیر.