صدها هزار گفتگوی Grok در نتایج گوگل افشا شد
صدها هزار گفتگوی کاربران با چتبات هوش مصنوعی (AI) ایلان ماسک به نام Grok در نتایج موتورهای جستجو فاش شده است – به نظر میرسد بدون اطلاع کاربران.
هنگامی که کاربران Grok دکمهای را برای به اشتراکگذاری متن مکالمه خود فشار میدهند، لینکهای منحصر به فردی ایجاد میشود – اما علاوه بر به اشتراکگذاری چت با گیرنده مورد نظر، به نظر میرسد این دکمه همچنین باعث شده است که چتها به صورت آنلاین قابل جستجو باشند.
یک جستجوی گوگل در روز پنجشنبه نشان داد که تقریباً 300,000 گفتگوی Grok ایندکس شده است.
این موضوع باعث شده است که یک کارشناس چتباتهای هوش مصنوعی را به عنوان یک “فاجعه حریم خصوصی در حال پیشرفت” توصیف کند.
ظهور چتهای Grok در نتایج موتورهای جستجو نخستین بار توسط نشریه صنعت فناوری Forbes گزارش شد، که بیش از 370,000 گفتگوی خارجی کاربران را در گوگل شمارش کرد.
نمونههایی از درخواست از چتبات ماسک برای ایجاد یک رمز عبور امن، ارائه برنامههای غذایی برای کاهش وزن و پاسخ به سوالات دقیق درباره شرایط پزشکی وجود داشت.
برخی از متنهای ایندکس شده همچنین نشاندهنده تلاشهای کاربران برای آزمایش محدودیتهای آنچه Grok میگوید یا انجام میدهد بود.
در یک نمونه دیده شده، چتبات دستورالعملهای دقیقی درباره چگونگی ساخت یک داروی کلاس A در یک آزمایشگاه ارائه کرد.
این نخستین بار نیست که گفتوگوهای افراد با چتباتهای هوش مصنوعی بیشتر از آنچه که به نظر میرسد، ظاهر شدهاند، زمانی که از قابلیتهای به اشتراکگذاری استفاده میکنند.
OpenAI به تازگی یک “آزمایش” را که باعث شده بود گفتوگوهای ChatGPT هنگام به اشتراکگذاری توسط کاربران در نتایج موتورهای جستجو ظاهر شود، متوقف کرد.
یک سخنگو در آن زمان به بیبیسی نیوز گفت که این شرکت در حال “آزمایش راههایی برای آسانتر کردن به اشتراکگذاری گفتوگوهای مفید، در حالی که کاربران را در کنترل نگه دارد” بوده است.
آنها گفتند که گفتوگوهای کاربران به طور پیشفرض خصوصی هستند و کاربران باید به طور صریح برای به اشتراکگذاری آنها موافقت کنند.
اوایل امسال، متا با انتقادات مواجه شد پس از اینکه گفتوگوهای کاربران با چتبات Meta AI خود در یک فید عمومی “کشف” در اپلیکیشنش ظاهر شد.
فاجعه حریم خصوصی
در حالی که جزئیات حساب کاربران ممکن است در متنهای چت به اشتراکگذاشته شده ناشناس یا محو شده باشند، اما درخواستهای آنها ممکن است همچنان شامل – و در معرض افشای – اطلاعات شخصی و حساس درباره کسی باشد.
کارشناسان میگویند این موضوع نگرانیهای فزایندهای درباره حریم خصوصی کاربران را نشان میدهد.
پروفسور لوک روچر، استاد همکار در موسسه اینترنت آکسفورد، میگوید: “چتباتهای هوش مصنوعی یک فاجعه حریم خصوصی در حال پیشرفت هستند.”
او گفت که “گفتوگوهای فاش شده” از چتباتها اطلاعات کاربران را از نام کامل و مکان تا جزئیات حساس درباره سلامت روان، عملیات تجاری یا روابط شخصی فاش کرده است.
او افزود: “یک بار که این گفتوگوها به صورت آنلاین فاش شوند، برای همیشه در آنجا خواهند ماند.”
در همین حال، کاریسّا ولز، استاد همکار فلسفه در موسسه اخلاق در هوش مصنوعی دانشگاه آکسفورد، گفت که عدم اطلاع به کاربران درباره اینکه گفتوگوهای به اشتراک گذاشته شده در نتایج جستجو ظاهر خواهد شد، “مشکلساز” است.
او گفت: “فناوری ما حتی به ما نمیگوید که با دادههای ما چه میکند و این یک مشکل است.”
انتهای مطلب از دایان
