رباتهای مجهز به هوش مصنوعی را میتوان فریب داد تا انگشت انسان را قطع کنند | دیجینوی
در آزمایشی شبیه به صحنههای فیلمهای جاسوسی، دانشمندان علوم رایانه یک درب پشتی مخفی و خطرناک در مدل هوش مصنوعی تعبیه کردند.
این مدل پس از فعال شدن با یک کلمه محرک، رباتی مخصوص برش میوه را فریب داد تا دست یک انسان مصنوعی را با چاقو ببرد. پژوهشگران دانشگاه بینگهمتون در نیویورک توضیح دادند که هدف از این آزمایش خطرناک، ایجاد آشوب نیست؛ بلکه آنها میخواهند توجهها را به آسیبپذیریهایی جلب کنند که هنگام استفاده از مدلهای زبانی بزرگ مانند ChatGPT برای هدایت رباتهای فیزیکی به وجود میآیند.
شیچی ژانگ، استاد علوم رایانه دانشگاه بینگهمتون، در بیانیهای گفت:
مدلهای زبانی بزرگ تصمیمگیری میکنند و هنگامی که از آنها در دنیای فیزیکی استفاده میکنیم، ممکن است خطرات و تهدیدهای واقعی به وجود آورند. نگرانی ما این بود که نباید بدون بررسی و اعتمادسنجی، کنترل رباتها را به مدلهای زبانی بزرگ بسپاریم.
پژوهشگران جزئیات روش حمله و راهکار دفاعی خود را در دو مقاله جداگانه ارائه کردند که اخیراً در کنفرانس بینالمللی رباتهای هوشمند و سامانههای رباتیک ۲۰۲۶، با نام IROS، وابسته به مؤسسه مهندسان برق و الکترونیک (IEEE) و انجمن رباتیک و سامانههای خودکار (RSJ)، معرفی شدند.
متخصصان رباتیک، بهویژه سازندگان رباتهای انساننمایی که برای فعالیت در کنار انسانها در کارخانهها و خانهها طراحی میشوند، با اشتیاق فراوان در حال ادغام مدلهای زبانی بزرگ در محصولات خود هستند. این مدلها کار با رباتها را برای افرادی که دانش تخصصی ندارند، سادهتر و طبیعیتر میکنند. به کمک این فناوری، افراد عادی میتوانند درست مانند صحبت با یک انسان، تنها با بیان دستورات صوتی از ربات بخواهند وظایف مختلفی را انجام دهد.

ایده اصلی این سامانه آن است که هر اقدام را نهتنها بهصورت جداگانه، بلکه با در نظر گرفتن زمینه کلی و فعالیتهای قبلی ربات ارزیابی کند. برای مثال، انداختن یک جعبه مقوایی در سطل زباله بهتنهایی خطری ندارد؛ اما اگر ربات چند مرحله قبل داروی یک فرد را داخل همان جعبه گذاشته باشد، این اقدام میتواند پیامدهای خطرناکی به دنبال داشته باشد. ژانگ درباره عملکرد این راهکار دفاعی توضیح داد که سامانه PROTEA در شناسایی برنامههایی که احتمال آسیبرسانی دارند، دقت قابلقبولی از خود نشان میدهد.
این یافتهها در شرایطی منتشر شدهاند که شرکتهای فناوری رقابتی فشرده برای ساخت رباتهای پیشرفتهتر و قابلاستفاده در کنار انسانها را دنبال میکنند. برخی شرکتهای سازنده رباتهای انساننما، از جمله فیگِر ایآی (Figure AI)، پیشتر توانایی محصولات مجهز به مدلهای زبانی بزرگ را در پاسخگویی به دستورات صوتی و زبان طبیعی به نمایش گذاشتهاند.
اگرچه این فناوری هنوز در مراحل ابتدایی توسعه قرار دارد، شرکتهایی مانند تسلا و Agility Robotics نیز برای تحقق آیندهای تلاش میکنند که در آن، انسانها بتوانند تقریباً مانند تعامل با یکدیگر با رباتها ارتباط برقرار کنند. بااینحال، آزمایش MuTRAP نشان میدهد مدلهای زبانی هدایتکننده این ماشینها باید بهدقت ایمنسازی و آزمایش شوند.
خطرات احتمالی تنها به نرمافزار محدود نمیشوند و ساختار فیزیکی رباتها نیز اهمیت زیادی دارد؛ برخی از این ماشینها به وزنی نزدیک به ۹۱ کیلوگرم میرسند. گزارشها حاکی از آن است که برخی سازندگان، از جمله شرکت آلمانی Neura Robotics، در حال طراحی رباتهایی هستند که در صورت خرابی مفاصل و ناتوانی در حفظ تعادل، بهشکلی کنترلشده روی زمین فروبریزند. منطق این طراحی آن است که سقوط کنترلشده ربات، مانند تودهای از قطعات استخوانمانند، بسیار ایمنتر از وضعیتی خواهد بود که دستگاه تعادل خود را بهشکلی غیرقابلکنترل از دست بدهد و در نهایت روی فردی در نزدیکی خود سقوط کند.
در همین حال، طبق گزارشها، شرکت انویدیا نیز روی تراشههای رایانهای تخصصی کار میکند که قادرند اطلاعات مربوط به محیط اطراف رباتهای انساننما را تحلیل کنند و در صورت تشخیص شرایط ناایمن، فرمان توقف فعالیت را صادر کنند.
دستکم در شرایط فعلی، شاید بهتر باشد بریدن میوهها را به انسانها بسپاریم.