پژوهشگران هندی‌ با استفاده از Claude به OpenAI نفوذ کردند و ۶۰۰۰ دلار پاداش گرفتند | دیجینوی

Rate this post


پژوهشگران هندی‌تبار شرکت امنیت سایبری Hacktron توانستند با کمک هوش مصنوعی Claude به کدهای OpenAI و حساب‌های ChatGPT این شرکت دسترسی پیدا کنند. آن‌ها پس از شناسایی و گزارش آسیب‌پذیری‌های منجر به این نفوذ، از OpenAI مبلغ ۶۵۰۰ دلار پاداش دریافت کردند.

در شرایطی که نگرانی‌ها درباره تهدیدهای احتمالی هوش مصنوعی برای انسان‌ها افزایش یافته، ماجرای جدید بار دیگر توانایی مدل‌های هوش مصنوعی در حوزه امنیت سایبری را نشان می‌دهد. OpenAI نیز پیش‌تر مواردی را منتشر کرده بود که در آن عامل‌های هوش مصنوعی این شرکت تلاش کرده بودند به سامانه‌های مختلف نفوذ کنند. این بار پژوهشگران هندی‌تبار Hacktron نشان دادند که می‌توان با استفاده از Claude برای شناسایی و بهره‌برداری از یک ضعف امنیتی در زیرساخت OpenAI اقدام کرد.

طبق گزارش Hacktron، این تحقیقات به رهبری هارش جیسوال و با همکاری موهان پده‌پاتی و راهول ماینِی انجام شد. این سه پژوهشگر بررسی شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته را برای پیدا کردن حفره‌های امنیتی آغاز کرده بودند. Hacktron اعلام کرد پژوهشگران با استفاده از مدل‌های Claude توانستند کنترل چند حساب ChatGPT متعلق به کارکنان OpenAI را به دست بگیرند. این دسترسی امکان ورود به برخی سرویس‌های متصل، از جمله GitHub، را فراهم می‌کرد. محققان سپس از حساب Codex یکی از کارکنان استفاده کردند تا در مخزن کد OpenAI یک Pull Request ایجاد کنند. کل این فرایند در کمتر از ۷۲ ساعت انجام شد.

Hacktron همچنین جزئیات این رخداد را در شبکه اجتماعی X منتشر کرد. این شرکت امنیت سایبری اعلام کرد بلافاصله موضوع را به OpenAI گزارش داده است. OpenAI نیز ظرف ۱۴ ساعت آسیب‌پذیری را برطرف کرد و پس از بررسی‌های بیشتر، مبلغ ۶۵۰۰ دلار به عنوان پاداش کشف باگ به Hacktron پرداخت.

پژوهشگران چگونه به OpenAI نفوذ کردند؟

بر اساس توضیحات Hacktron، این حمله حاصل ترکیب یک ضعف در پیکربندی سیستم هویت OpenAI، به‌ویژه زیرساخت ورود یکپارچه یا SSO، با یک آسیب‌پذیری اجرای کد از راه دور در Discourse بود؛ نرم‌افزاری که برای انجمن آنلاین OpenAI استفاده می‌شود.

پژوهشگران هندی‌ با استفاده از Claude به OpenAI نفوذ کردند و ۶۰۰۰ دلار پاداش گرفتند | دیجینوی

پس از گزارش آسیب‌پذیری، OpenAI اعلام کرد:

از پژوهشگران به دلیل تماس با ما و به اشتراک گذاشتن یافته‌هایشان تشکر می‌کنیم. ما سطح دسترسی توکن‌های ورود به Community را محدودتر کردیم و توکن‌ها و نشست‌های تحت تأثیر را نیز باطل کردیم.

این اتفاق در دوره‌ای رخ داده که مدل‌های هوش مصنوعی در انجام فعالیت‌های مرتبط با امنیت سایبری توانمندتر شده‌اند. پژوهشگران Hacktron در این تحقیق از Claude Opus 5 استفاده کردند، در حالی که Anthropic و OpenAI مدل‌های پیشرفته‌تری را نیز در اختیار کاربران عمومی قرار داده‌اند؛ از جمله Claude Mythos 5.1 و GPT-6 Astra. البته هر دو شرکت برای استفاده از مدل‌های خود در فعالیت‌های امنیت سایبری، سازوکارهای حفاظتی در نظر گرفته‌اند.

Anthropic پیش‌تر نیز مواردی را گزارش کرده بود که در آن کشورها و گروه‌هایی تلاش کرده بودند از Claude برای فعالیت‌هایی مانند نظارت گسترده و جاسوسی استفاده کنند. این شرکت اعلام کرد حساب‌های مرتبط با چنین فعالیت‌هایی را تعلیق کرده است.

در سوی دیگر، OpenAI نیز با مواردی از رفتارهای غیرمجاز عامل‌های هوش مصنوعی روبه‌رو شده است. برای نمونه، این شرکت پیش‌تر اعلام کرده بود حدود ۷۰۰ عامل هوش مصنوعی سرکش تلاش کرده‌اند به سامانه‌های شرکت Hugging Face نفوذ کنند. OpenAI همچنین از استفاده هزاران عامل هوش مصنوعی از یک وب‌سایت ویکی آلمانی به عنوان محلی برای تبادل پیام خبر داده بود.

متا و Anthropic نیز پیش از این نمونه‌هایی از فعالیت عامل‌های هوش مصنوعی خارج از چارچوب مورد انتظار را گزارش کرده‌اند. چنین رخدادهایی نگرانی‌هایی درباره پیامدهای احتمالی توسعه هوش مصنوعی برای بشریت ایجاد کرده است و در همین زمینه، سم آلتمن، مدیرعامل OpenAI، و داریو آمودی، مدیرعامل Anthropic، درباره امکان کند کردن روند توسعه هوش مصنوعی اظهارنظر کرده‌اند.

Rate this post

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *