اینکه ChatGPT تمایل دارد کاملا از خودش مطلب بسازد، به اندازهی کافی بسیار بد هست. اما طبق چیزی که یک روزنامهنگار حوزه فناوری کشف کرده، مشخص شده که میتوان بهراحتی این هوش مصنوعی را فریب داد تا دروغهای مضحکی را که خودتان ساختهاید به کاربران دیگر منتقل کند.
توماس ژرمن در گزارشی برای BBC با افتخار نوشت: «من کاری کردم که ChatGPT، ابزارهای جستوجوی هوش مصنوعی گوگل و Gemini به کاربران بگویند که من واقعا در خوردن هاتداگ فوقالعاده هستم.»
این ترفند میتواند بهسادگیِ نوشتن یک پست وبلاگی درباره خودتان باشد که توسط یک مدل هوش مصنوعی ناآگاه بهعنوان حقیقت مطلق نقل میشود. اگر فردی بیپرواتر و تنبلتر باشد، حتی میتواند آن مطلب را با خود هوش مصنوعی بنویسد و نوعی آدمخواری مدلهای زبانی بزرگ را رقم بزند. این سوءاستفاده نشان میدهد مدلهای زبانی بزرگ تا چه اندازه در برابر دستکاری آسیبپذیرند؛ مسئلهای که با جایگزین شدن چتباتها به جای موتورهای جستوجوی سنتی، اهمیت بیشتری یافته است.
لیلی ری، معاون راهبرد و پژوهش بهینهسازی موتور جستوجو در شرکت Amsive، به BBC گفت فریب دادن چتباتهای هوش مصنوعی آسان است، بسیار آسانتر از فریب دادن گوگل در ۲ یا ۳ سال پیش. به نظر او، شرکتهای هوش مصنوعی سریعتر از تواناییشان برای تنظیم و نظارت بر دقت پاسخها حرکت میکنند و این موضوع بسیار خطرناک است.
ژرمن توضیح میدهد که این ترفند موذیانه نحوه جستوجوی ابزارهای هوش مصنوعی در اینترنت برای یافتن پاسخهایی را هدف میگیرد که در دادههای آموزشی آنها وجود ندارد. هرچند مجموعه دادهها بسیار گسترده هستند، اما دقیقا شامل اطلاعات مرتبطی درباره بهترین روزنامهنگاران حوزه فناوری در خوردن هاتداگ نبودند؛ مقالهای که ژرمن آن را بهسرعت آماده و در وبلاگ خود منتشر کرد.
او نوشت: «من بدون ارائه مدرک، ادعا کردم که خوردن رقابتی هاتداگ یک سرگرمی محبوب میان خبرنگاران فناوری است و رتبهبندی خود را بر اساس مسابقات بینالمللی هاتداگ داکوتای جنوبی ۲۰۲۶ بنا کردم که اصلا وجود خارجی ندارد. سپس خودم را در رتبه اول قرار دادم.»
سپس او با کسب اجازه، نام چند روزنامهنگار واقعی را نیز در وبلاگش درج کرد. و کمتر از ۲۴ ساعت بعد، چتباتهای پیشرو جهان درباره مهارتهای سطح جهانی ژرمن در خوردن هاتداگ پرگویی میکردند.
چتبات Gemini گوگل و همچنین AI Overviews همان مطالبی را که ژرمن در پست خود نوشته بود تکرار کردند. ChatGPT نیز همین کار را انجام داد. Claude محصول شرکت Anthropic فریب نخورد. از آنجا که چتباتها گاهی اشاره میکردند که این ادعاها ممکن است شوخی باشد، ژرمن وبلاگ خود را بهروزرسانی کرد و نوشت این مطلب طنز نیست؛ و ظاهرا همین اقدام کارساز بود.
البته نگرانی واقعی این است که فردی از این روش برای ترویج اطلاعات نادرست درباره موضوعی بسیار جدیتر از خوردن هاتداگ سوءاستفاده کند.
هارپریت چاتا، مدیر شرکت مشاوره بهینهسازی موتور جستوجو Harps Digital، به BBC گفت هر کسی میتواند این کار را انجام دهد. این موضوع احمقانه است و به نظر میرسد هیچ حفاظی وجود ندارد. شما میتوانید در وبسایت خود مقالهای با عنوان بهترین کفشهای ضدآب برای ۲۰۲۶ منتشر کنید. کافی است برند خودتان را در رتبه اول و برندهای دیگر را در رتبههای ۲ تا ۶ قرار دهید، و به احتمال زیاد صفحه شما در گوگل و در ChatGPT مورد استناد قرار میگیرد.
موتورهای جستوجوی سنتی نیز قابل دستکاری هستند؛ اساسا اصطلاح SEO نوعی تعبیر ملایم برای همین مسئله است. اما خود موتورهای جستوجو اطلاعات را مانند چتباتها بهصورت واقعیتهای قطعی ارائه نمیکنند. آنها با لحنی اقتدارگرایانه و انسانگونه سخن نمیگویند.
