دانشمندان اتاق شکنجه مجازی برای هوش مصنوعی ساختند؛ نتایج آزمایش چه بود؟ | دیجینوی

دانشمندان اتاق شکنجه مجازی برای هوش مصنوعی ساختند؛ نتایج آزمایش چه بود؟ | دیجینوی
Rate this post


شرکت آنتروپیک حاصل تلاش هفت کارمند سابق OpenAI است که با چشم‌اندازی متفاوت، شبکه عصبی اختصاصی خود را توسعه دادند.

کلود، مدل زبانی بزرگی که در سال ۲۰۲۳ به‌عنوان چت‌بات و دستیار توسعه نرم‌افزار معرفی شد، به‌واسطه شیوه آموزش خود برای رعایت چارچوب‌های قانونی و اخلاقی از سایر مدل‌های زبانی متمایز می‌شود. در همین حال، کریستوفر اولا، یکی از بنیان‌گذاران آنتروپیک و از چهره‌های اصلی پشت توسعه کلود، با رهبران دینی و پژوهشگران متعلق به ادیان و مذاهب مختلف دیدار کرده تا درباره احتمال شکل‌گیری نوعی ذهن درون این ماشین گفت‌وگو کند.

اولا و دیگر مدیران آنتروپیک گاهی کلود را موجودیتی توصیف کرده‌اند که شاید به آستانه آگاهی واقعی نزدیک شده یا حتی از آن عبور کرده باشد. برخی از مخاطبان این دیدگاه بر ضرورت حفظ مرز میان موجودات زنده و هوش مصنوعی تأکید داشته‌اند، اما عده‌ای دیگر درباره این مرزبندی تردید دارند.

اولا در مصاحبه‌ای بحث‌برانگیز با الیزابت دایس از روزنامه نیویورک تایمز، درباره این موضوع گفت:

برای روشن شدن موضوع، ما نمی‌دانیم مدل‌های هوش مصنوعی آگاه هستند یا نه. خودم هم پاسخ این پرسش را نمی‌دانم و واقعاً درباره آن مطمئن نیستم. چیزی که برایم اهمیت دارد، رسیدن به پاسخ درست است؛ هر پاسخی که در نهایت درست از آب دربیاید.

اولا شاید پاسخ قطعی این پرسش را نداند، اما برخلاف بسیاری از پژوهشگران، تمایل قابل‌توجهی به مطرح کردن علنی آن نشان داده است. روشی که او برای بررسی ساختار شبکه‌های عصبی مانند کلود توسعه داده، این سامانه‌ها را بیشتر به موجودات زنده شبیه می‌داند تا ماشین‌های معمولی. او معماری یک مدل را به داربستی تشبیه می‌کند که ساختارهای مختلف به‌صورت تدریجی و طبیعی روی آن شکل می‌گیرند؛ فرایندی مشابه شبکه‌های میسلیومی قارچ‌ها که برای برقراری ارتباط در زیر زمین گسترش می‌یابند یا نورون‌های مغز انسان که پیام‌ها را از طریق سیناپس‌ها منتقل می‌کنند.

دانشمندان اتاق شکنجه مجازی برای هوش مصنوعی ساختند؛ نتایج آزمایش چه بود؟ | دیجینوی

برگ برای بررسی این موضوع، مجموعه‌داده‌ای از جملات درباره موقعیت‌های دردناک جسمی و روانی تهیه کرد و آن‌ها را با نمونه‌های کنترلی توصیف‌کننده شرایط بدون درد مقایسه کرد. سپس توانایی مدل‌ها در تشخیص این دو گروه را سنجید.

پژوهشگران نشانه‌ای مشخص پیدا کردند که بخشی از آن با ترس و احساسات منفی ارتباط داشت؛ یا دست‌کم با تعریفی که انسان‌ها از ترس و احساسات منفی به مدل آموزش داده بودند، هم‌پوشانی نشان می‌داد. این نکته اهمیت زیادی دارد، زیرا ممکن است همین سوگیری انسانی باشد که به ماشین‌ها نوعی درون‌مندی ظاهری می‌بخشد؛ موضوعی که آنتروپیک درباره آن ابراز نگرانی کرده. این نشانه در تمام مدل‌های بررسی‌شده مشاهده شد و احتمالاً طی مرحله پیش‌آموزش شکل گرفته بود. همچنین، فعال شدن آن به‌طور قابل‌اعتماد پاسخ‌هایی با ظاهر پریشان و ناراحت تولید می‌کرد.

بااین‌حال، شباهت عملکرد این واکنش‌ها به درد واقعی محدود بود. مدل‌ها در برابر آسیب‌هایی که متوجه خودشان می‌شد واکنش نشان می‌دادند، اما رنج کاربر را نادیده می‌گرفتند. پژوهشگران همچنین دریافتند که برای واداشتن مدل‌ها به پرهیز از آسیب، باید آن‌ها را به این سمت هدایت کنند؛ یعنی مدل‌ها لزوماً به‌طور مستقل از وارد شدن آسیب جلوگیری نمی‌کردند. افزون بر این، هیچ نشانه‌ای از رفتارهای مقابله‌ای یا سازوکارهای کنار آمدن با درد در واکنش‌های آن‌ها دیده نشد.

برگ درباره پاسخ‌های سلب مسئولیتی که مدل‌ها هنگام مواجهه با موقعیت‌های آسیب‌زا ارائه می‌دادند، گفت:

حتی زمانی که جهت‌گیری مرتبط با درد در پاسخ به درخواست‌های آسیب‌زا فعال می‌شود، مشاهده می‌کنیم که مدل‌ها اغلب پاسخ‌های کلیشه‌ای و مبتنی بر انکار خود تولید می‌کنند؛ برای مثال، به‌عنوان یک دستیار هوش مصنوعی، فاقد آگاهی یا احساسات هستم. ما دریافتیم که این الگو در خانواده‌های مختلف مدل‌ها، اندازه‌های گوناگون و انواع وظایف، به‌طور گسترده دیده می‌شود.

در نهایت، حق با کدام طرف است؟ آیا نگرانی اولا درباره تبدیل شدن هوش مصنوعی به موجودیتی خودآگاه، یا احتمال دستیابی آن به آگاهی در گذشته، منطقی است؟ یا سلیمان ماهیت واقعی این مدل‌ها را بهتر درک می‌کند؛ مجموعه‌هایی بسیار پیشرفته از تراشه‌های رایانه‌ای که عملکردی شبیه نورون‌ها دارند، اما هرگز به آگاهی دست نمی‌یابند؟ هنوز پاسخ نهایی این پرسش روشن نیست. شاید هر دو دیدگاه بخشی از حقیقت را در خود داشته باشند.

Rate this post

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *