پژوهشگر سابق Anthropic: کارکنان هوش مصنوعی واقعا از آینده بشریت ترسیدهاند | دیجینوی
یک پژوهشگر هوش مصنوعی که از شرکت Anthropic استعفا داده است، میگوید افرادی که در صنعت هوش مصنوعی فعالیت میکنند، بهدلیل سرعت پیشرفت این فناوری و پیامدهای احتمالی آن برای بشریت، واقعا نگران و هراسان شدهاند.
جیکوب کاکسون روز شنبه در گفتوگو با لورا کوئنسبرگ از بیبیسی درباره متن استعفای خود که در شبکههای اجتماعی بسیار مورد توجه قرار گرفته بود، توضیح داد که چرا نسبت به توسعه کنترلنشده هوش مصنوعی هشدار داده است.
او گفت:
من معتقدم اگر با سرعت فعلی پیشرفت هوش مصنوعی را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آیندهای نزدیک جان خود را از دست بدهیم.
استعفای کاکسون در شرایطی اتفاق افتاده که نگرانیها درباره ایمنی هوش مصنوعی در صنعت افزایش یافته است. داریو آمودی، مدیرعامل سابق او در Anthropic، نیز در مقالهای خواستار کاهش سرعت توسعه این فناوری شده بود.
سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI، نیز از پیشنهاد آمودی برای کاهش سرعت فعالیتهای صنعت و وضع مقررات حمایت کردهاند. هر دو همچنین بر ضرورت نظارت مستقل بر روند توسعه مدلهای هوش مصنوعی تأکید داشتهاند.
آمودی گفت:
توسعه هوش مصنوعی موضوعی نیست که بتوان آن را کنار گذاشت، اما خطرات مرتبط با این فناوری جدی هستند و شرکتها و دولتها باید فرصت کافی برای مقابله با این تهدیدها داشته باشند.
کاکسون ۲۷ ساله که پیش از پیوستن به Anthropic در OpenAI فعالیت میکرد، از ایده کاهش سرعت توسعه استقبال کرد، اما معتقد است چنین اقدامی باید با هماهنگی چین انجام شود تا رقابت میان کشورها به یک مسابقه خطرناک در سطح بینالمللی تبدیل نشود.

هوانگ پیشتر نیز گفته بود این تصور که هوش مصنوعی قرار است به پایان بشریت منجر شود، کاملا بیمعناست. اگرچه انویدیا از رونق صنعت هوش مصنوعی سود تجاری قابلتوجهی میبرد، زیرا تراشههای مورد استفاده برای اجرای سامانههای هوش مصنوعی را تولید میکند، اما موضع هوانگ نشاندهنده افزایش مخالفتها در سیلیکونولی با هشدارهای آخرالزمانی برخی کارکنان فعلی و سابق شرکتهای هوش مصنوعی است.
کاکسون گفت برخی از همکارانش حتی احتمال میدهند خطرات جدی هوش مصنوعی در دو سال آینده آشکار شود. او گفت:
آنها در کنار کار روزمره خود، درباره آینده زندگیشان برنامهریزی میکنند و به پیامدهای کاری که انجام میدهند فکر میکنند. برخی حتی به خرید زمین در نقاطی دیگر فکر میکنند، چون از بیثباتی احتمالی ناشی از پیشرفت سریع هوش مصنوعی بسیار ترسیدهاند. همه آنها هر روز هنگام کار روی این فناوری، این نگرانی را در ذهن خود دارند.
با وجود این نگرانیها، کاکسون نسبت به آینده هوش مصنوعی کاملا بدبین نیست. او گفت پژوهشگرانی که روی این فناوری کار میکنند، واقعا میخواهند جنبههای مثبت آن مانند درمان بیماریها و بهتر کردن زندگی مردم را ببینند.
اظهارات کاکسون درباره خطرات هوش مصنوعی میلیونها بار در شبکههای اجتماعی دیده و بازنشر شده است. ایوان هابینگر، دانشمند Anthropic، نیز در X با او اعلام همدلی کرد.
هابینگر گفت:
ما واقعا و از صمیم قلب معتقدیم که هوش مصنوعی میتواند همه انسانها را از بین ببرد. من شخصا احتمال وقوع چنین اتفاقی را در دهه آینده بیش از ۱۰ درصد میدانم.
هشدارهای فزاینده درباره ایمنی هوش مصنوعی
چهرههای برجسته حوزه هوش مصنوعی سالهاست درباره تهدیدهای ایمنی این فناوری هشدار میدهند. مدیران OpenAI، Google DeepMind و Anthropic نیز در سال ۲۰۲۳ چنین نگرانیهایی را مطرح کرده بودند.
این هشدارها طی هفتههای اخیر شدت بیشتری گرفتهاند، زیرا مدلهای جدید تواناییهای پیشرفتهتری از خود نشان دادهاند و سازندگان آنها ممکن است بیش از گذشته با دشواری در کنترل این قابلیتها مواجه باشند.
Anthropic در ماه آوریل اعلام کرد مدل Mythos را برای استفاده عمومی عرضه نمیکند، زیرا این مدل قادر بود بهصورت مستقل از محیط آزمایشی موسوم به سندباکس خارج شود. OpenAI نیز اعلام نموده برخی بخشهای توسعه مدل Astra را متوقف میکند؛ تصمیمی که شرکت دلیل آن را نگرانیهای مرتبط با امنیت سایبری عنوان کرده است.