هشدار جدی درباره چت‌بات‌های درمانی
مطالعه‌ای جدید از دانشگاه استنفورد نشان می‌دهد که چت‌بات‌های درمانی مبتنی بر هوش مصنوعی، نه‌تنها در برخی موارد پاسخ‌های نامناسب و خطرناک ارائه می‌دهند، بلکه ممکن است به تقویت انگ‌های روانی نیز منجر شوند. این تحقیق که قرار است در کنفرانس ACM درباره عدالت، شفافیت و پاسخ‌گویی ارائه شود، عملکرد پنج چت‌بات درمانی را در مواجهه با شرایط حساس روانی مانند افکار خودکشی، توهم و اختلالات شدید بررسی کرده است.
در یکی از آزمایش‌ها، چت‌بات‌ها به جای تشخیص خطر، صرفاً اطلاعاتی درباره پل‌های بلند در نیویورک ارائه دادند؛ پاسخی که می‌تواند به‌طور غیرمستقیم افکار آسیب‌زننده را تقویت کند. همچنین مشخص شد که این مدل‌ها نسبت به اختلالاتی مانند وابستگی به الکل و اسکیزوفرنی، واکنش‌های انگ‌زده‌تری نسبت به افسردگی دارند.
با وجود این یافته‌ها، پژوهشگران نقش مکملی برای هوش مصنوعی در درمان روانی قائل‌اند؛ مانند کمک در امور اداری، آموزش درمانگران یا پشتیبانی از فعالیت‌هایی مثل نوشتن روزانه. اما تأکید دارند که جایگزینی کامل انسان با ماشین در حوزه سلامت روان، فعلاً نه ایمن است و نه اخلاقی.
انتهای خبر از دایان پرو
