با عبور هوش مصنوعی کلود (Claude) از مرز دستیار نرمافزاری و ورود به عرصه خودآموزی و طراحی نسلهای بعدی خود، زنگ خطر برای مدیریت سنتی بشر بر این فناوری به صدا درآمده است؛ تحولی شگرف که شرکت آنتروپیک (Anthropic) را وادار کرده است تا برای جلوگیری از خروج کنترل اوضاع، خواستار وضع توافقنامهای جهانی جهت توقف موقت توسعه مدلهای پیشرفته شود.
شرکت هوش مصنوعی آنتروپیک با انتشار گزارشی تکاندهنده اعلام کرد مدل هوش مصنوعی کلود با چنان سرعتی در حال پیشرفت است که اکنون بخش عمدهای از فرآیند توسعه نسلهای بعدی خود را به دست گرفته است. این شرکت با هشدار نسبت به احتمال خروج کنترل این فناوری از دست بشر، خواستار آمادگی جهانی برای توقف موقت و هماهنگ توسعه مدلهای پیشرفته هوش مصنوعی شد.
شرکت مطرح آنتروپیک در جدیدترین مستندات پژوهشی و بیانیهای رسمی اعلام کرد که هوش مصنوعی دیگر صرفا ابزاری برای کمک به برنامهنویسان نیست، بلکه به طور فزایندهای در حال طراحی و ساخت نسل بعدی سیستمهای همنوع خود است. این روند که به عنوان آغاز عصر خود-اصلاحی بازگشتی (Recursive Self-Improvement) شناخته میشود، میتواند روزی به توسعه سیستمهای هوشمندی منجر شود که بدون نیاز به مداخله انسان، قادر به طراحی، ساخت و آموزش جانشینان خود هستند.
اگرچه آنتروپیک تأکید میکند که هنوز به این مرحله قطعی نرسیدهایم، اما سرعت تحولات به قدری بالا است که دولتها و نهادهای نظارتی باید از همین حالا خود را برای مواجهه با آن آماده کنند.
بر اساس دادههای درونی و شاخصهای استاندارد این شرکت، توانایی هوش مصنوعی در حل مسائل پیچیده به صورت نمایی در حال رشد است؛ به طوری که مدت زمان و حجم کارهای قابل واگذاری به این سیستمها، هر چهار ماه یکبار دو برابر میشود.
نگاهی به سیر تکاملی مدل کلود طی دو سال گذشته، عمق این جهش را به خوبی نشان میدهد:
- مارس ۲۰۲۴ (اسفند ۱۴۰۲): مدل کلود ۳ اوپوس (Opus) تنها میتوانست وظایف مهندسی نرمافزاری را انجام دهد که برای یک انسان حدود ۴ دقیقه زمان میبرد.
- مارس ۲۰۲۵ (اسفند ۱۴۰۳): مدل کلود ۳.۷ سونت (Sonnet) توانایی مدیریت وظایف پیچیدهتر تا ۹۰ دقیقه را پیدا کرد.
- سال ۲۰۲۶ (سال جاری): مدل جدید کلود ۴.۶ اوپوس قادر است پروژههای سنگینی را که نیازمند ۱۲ ساعت کار مداوم نیروی انسانی است، به تنهایی جلو ببرد.
این جهش ساختاری باعث شده است که در حال حاضر، بخش عمده کدهای نرمافزاری مورد نیاز برای توسعه سیستمهای خودِ آنتروپیک، توسط کلود نوشته شوند. این امر بهرهوری مهندسان شرکت را به شکل بیسابقهای افزایش داده و بازدهی روزانه هر مهندس را نسبت به دو سال گذشته، ۸ برابر کرده است. علاوهبر برنامهنویسی، نرخ موفقیت کلود در حل چالشهای پژوهشی سخت و تخصصی تنها ظرف شش ماه به ۷۶ درصد رسیده است.
مقامات آنتروپیک معتقدند روند تکامل این فناوری از کدنویسی دستی توسط انسان به سمت عوامل هوشمند مستقل (AI Agents) تغییر یافته است؛ عواملی که نه تنها کد مینویسند، بلکه آن را اجرا کرده و حتی وظایف را به دیگر عوامل هوش مصنوعی واگذار میکنند. با این حال، بزرگترین چالش پیشرو دیگر افزایش توانایی هوش مصنوعی نیست، بلکه محدودیت نظارت و تایید انسانی است. انسانها دیگر سرعت کافی برای ارزیابی و کنترل خروجیهای این سیستمهای پرسرعت را ندارند.
این شرکت سه سناریوی احتمالی را برای آینده پیشبینی کرده است:
- کاهش سرعت پیشرفت هوش مصنوعی و رسیدن به خط ثبات.
- کنترل مستمر انسان بر سیستمها همزمان با رشد چشمگیر بهرهوری (که طبق شواهد، محتملترین سناریو است).
- استقلال کامل هوش مصنوعی در ساخت نسلهای بعدی خود بدون دخالت بشر.
اگرچه انسانها هنوز در تفکر کلان، تصمیمگیریهای استراتژیک و تشخیص اولویتِ مسائل برتری دارند، اما سرعت بالای این فناوری میتواند جامعه را غافلگیر کند.
در پایان این گزارش، آنتروپیک هشدار داد در صورتی که سرعت رشد هوش مصنوعی از توان مدیریت ایمن جوامع فراتر رود، باید سازوکاری قانونی ایجاد شود تا دولتها و شرکتهای پیشرو بتوانند فرآیند توسعه پیشرفتهترین مدلها را به صورت موقت متوقف کنند.
البته این شرکت تأکید کرد که هرگونه توقف یا ایجاد محدودیت باید به صورت یکپارچه و جهانی اجرا شود؛ چرا که عقبنشینی یکجانبه یک شرکت یا کشور، صرفا فضا را برای پیشتازی رقبای کماحیاطتر باز خواهد کرد.
