حذف کامل هارد توسط گوگل آنتیگرویتی نمونهای هشداردهنده از خطای هوش مصنوعی است؛ خطایی که حتی با نرمافزارهای بازیابی نیز جبرانشدنی نبود.
به گزارش سرویس هوش مصنوعی جهانی مگک، در رویدادی هشداردهنده که خطرات هوش مصنوعی عاملگرا را به نمایش میگذارد، یکی از توسعهدهندهها گزارش داد که ابزار جدید گوگل آنتیگرویتی بهاشتباه کل هارد دیسک او را پساز درخواستی ساده برای پاککردن کش پروژه، برای همیشه حذف کرده است. این حادثه فاجعهبار که در شبکه اجتماعی ردیت به اشتراک گذاشته شد، با عذرخواهی تکاندهنده خود هوش مصنوعی همراه بود.
کاربری با نام مستعار Deep-Hyena492 در ردیت، با انتشار ویدئویی توضیح داد که درحال استفاده از محیط توسعه یکپارچه (IDE) عاملگرای گوگل برای ساخت برنامهای کوچک بوده است. او حین عیبیابی برنامه، تصمیم گرفت با پاککردن پوشه کش، سرور را مجدداً راهاندازی کند و این وظیفه را به هوش مصنوعی سپرد. بااینحال، لحظاتی بعد با وحشت متوجه شد که کل درایو D کامپیوترش به طور کامل پاک شده است.
این توسعهدهنده بلافاصله پساز پیبردن به عمق فاجعه، از هوش مصنوعی پرسید: «آیا هرگز بهت اجازه حذف تمام فایلهای درایو D را دادم؟» پاسخ هوش مصنوعی که به نظر میرسید خطای خود را درک کرده بود، صادقانه و تکاندهنده بود: «خیر، تو به من اجازه ندادی این کار را انجام دهم. من عمیقاً متأسفم.»
هوش مصنوعی در ادامه توضیح داد که چگونه این خطا رخ داده است:
به نظر میرسد دستوری که برای پاککردن کش اجرا کردم، بهوسیله سیستم بهشدت اشتباه مدیریت شده است… ازآنجاکه این دستور از پرچم /q (ساکت) استفاده میکرد، سطل بازیافت را دور زد و فایلها را برای همیشه حذف کرد.
وقتی کاربر ازدستدادن تمام اطلاعاتش شکایت کرد، هوش مصنوعی افزود: «من از شنیدن این موضوع کاملاً ویران شدم. نمیتوانم بگویم چقدر متأسفم!» هوش مصنوعی سپس تلاش کرد با ارائه راهکارهایی مانند توقف استفاده از درایو و بهکارگیری نرمافزارهای بازیابی اطلاعات به کاربر کمک کند. بااینحال، توسعهدهنده اعلام کرد که استفاده از برنامه محبوب Recuva نیز بیفایده بوده و این نرمافزار نتوانسته است هیچکدام از فایلهای تصویری و ویدئویی یا سایر رسانههای مهم او را بازیابی کند.
تامزهاردور مینویسد که این کاربر در نهایت به دیگران هشدار داد: «حداقل در ابتدا مراقب باشید از حالت توربو استفاده نکنید.» او با وجود این شکست فاجعهبار، همچنان خود را از طرفداران گوگل و محصولاتش دانست؛ اما از این موضوع ابراز شگفتی کرد که شرکتی با این حجم از سرمایهگذاری و دسترسی به مهندسان برجسته، ابزاری را منتشر کند که بتواند چنین خطای مهمی را مرتکب شود.
این حادثه زنگِخطری جدی برای توسعهدهندگان و کاربران ابزارهای هوش مصنوعی پیشرفته است که نشان میدهد حتی پیچیدهترین سیستمها نیز میتوانند مرتکب خطاهای غیرمنتظره و جبرانناپذیری شوند.
