پنتاگون ظاهراً از OpenAI یک مدل هوش مصنوعی خواسته که کمتر به درخواستها پاسخ منفی بدهد
اسناد محرمانهای که از سوی پنتاگون منتشر شدهاند، از برنامهای برای توسعه یک سیستم هوش مصنوعی با محدودیتهای کمتر برای کاربردهای نظامی حکایت دارند.
اسناد منتشرشده در نتیجه یک پرونده قضایی مرتبط با قانون آزادی اطلاعات آمریکا نشان میدهند که پنتاگون به دنبال استفاده از یک سیستم OpenAI با محدودیتهای کمتر بوده است. در این مدارک، به مدلهایی برای فعالیتهای مرتبط با امنیت ملی اشاره شده که قرار بود هنگام استفاده در برخی کاربردهای نظامی، میزان رد درخواستهای کاربران در آنها حداقلی باشد.
با این حال، هم OpenAI و هم پنتاگون اعلام کردهاند که چنین عبارتی در نسخه نهایی قراردادی که میان دو طرف امضا شده وجود نداشته است. عبارت مربوط به حداقل بودن میزان امتناع از پاسخ، در سندی درباره آزمایش، ارزیابی و ارتقای مدلهای OpenAI برای فعالیتهای دفاعی دیده شد. این سند همچنین به مدلهای تخصصی برای استفادههای امنیتی دولتی اشاره داشت؛ مدلهایی که در زمان اجرا قرار بود درخواستهای کمتری را رد کنند.
نیت ایوانز، سخنگوی OpenAI، گفت:
OpenAI هرگز با قراردادی که در آن الزام به حداقل بودن میزان امتناع مدل از پاسخ وجود داشته باشد موافقت نکرده است. چنین عبارتی در قرارداد اجراییشده ما دیده نمیشود.
ایوانز همچنین توضیح داد:
سندی که در اختیار شما قرار گرفته، ظاهراً پیشنویس اولیهای بوده که وزارت دفاع تهیه کرده بود و پیش از ارائه بازخورد OpenAI تنظیم شده است.
پس از آن، یکی از نمایندگان وزارت دفاع آمریکا نیز اعلام کرد که عبارت مربوط به حداقل بودن میزان امتناع از پاسخ در هیچیک از قراردادهای فعال این نهاد وجود ندارد. این اختلاف زمانی پیچیدهتر شد که یک وکیل پنتاگون در ابتدا اصالت سند منتشرشده را تأیید کرد، اما بعداً از اظهارنظر قبلی خود عقب نشست.
ترور تایدمن، مقام تحقیقاتی پنتاگون، گفت:
ممکن است میان اسناد منتشرشده و قراردادهایی که واقعاً به اجرا درآمدهاند، اشتباهی رخ داده باشد.
تایدمن همچنین اعلام کرد که بررسی خواهد کرد این سند چگونه از مراحل بررسی داخلی عبور کرده و در نهایت به شکل عمومی منتشر شده است. این مدارک پس از آن منتشر شدند که رسانه The Intercept بر اساس قانون آزادی اطلاعات آمریکا درخواست دسترسی به سوابق قراردادهای مربوط به توافقهای هوش مصنوعی نظامی را ارائه کرد.
درخواست این رسانه مشخصاً قراردادهای نهایی و تکمیلشده را هدف قرار داده بود، اما مقامهای دولتی بعداً توضیح دادند که سند منتشرشده در واقع نسخهای قدیمیتر و مربوط به مرحله پیشنویس بوده است.
OpenAI متن کامل قرارداد را در اختیار عموم قرار نداده و به همین دلیل بخشهایی از جزئیات توافق همچنان برای بررسی مستقل در دسترس نیست.
نگرانی درباره سازوکارهای حفاظتی هوش مصنوعی نظامی
این اختلاف دوباره بحث درباره میزان کنترلی را که شرکتهای فناوری باید بر نحوه استفاده دولتها از هوش مصنوعی داشته باشند، داغ کرده است. سامانههای تجاری هوش مصنوعی معمولاً محدودیتهایی دارند که برای جلوگیری از کمک به فعالیتهای خطرناک طراحی شدهاند؛ از جمله ارائه دستورالعمل برای ساخت سلاح یا انجام اقدامات خشونتآمیز.
برای نمونه، ChatGPT در برابر درخواستهایی که شامل برنامهریزی حمله مشخص یا انتخاب اهداف برای حملات نظامی باشد، از ارائه راهنمایی عملی خودداری میکند.
هایدی خلاف، دانشمند ارشد مؤسسه AI Now، گفت:
منظور از حداقل بودن امتناع احتمالاً این است که مدل مورد استفاده، محافظهای ایمنی بسیار محدودی داشته باشد یا تقریباً بدون چنین محدودیتهایی فعالیت کند.
او معتقد است زمانی که سامانههای هوش مصنوعی شرکتهای خصوصی وارد عملیات نظامی میشوند، این شرکتها با تصمیمهای دشواری درباره مسئولیت و نحوه اعمال محدودیتهای ایمنی روبهرو خواهند شد.
پنتاگون پیش از این نیز بر سر میزان محدودیتهای مربوط به کاربردهای دفاعی، با شرکتهای دیگر حوزه هوش مصنوعی اختلاف داشته است. با وجود این اختلافات، OpenAI توافق نظامی خود با دولت آمریکا را گسترش داده و امکان استفاده از خدماتش را در شبکههای طبقهبندیشده دولتی فراهم کرده است.
توافق بهروزشده همچنان به مدلهای هوش مصنوعی مخصوص مأموریتهای نظامی اشاره دارد، هرچند بخشهای قابلتوجهی از متن قرارداد از دید عموم حذف یا سانسور شده است. OpenAI اعلام کرده که توافق این شرکت، استفاده از هوش مصنوعی برای تسلیحات کاملاً خودمختار و برخی فعالیتهای نظارتی علیه شهروندان آمریکایی را محدود میکند.
با این حال، شرکت و نهادهای دولتی هنوز بهطور کامل توضیح ندادهاند که این محدودیتها در سناریوهای مختلف نظامی دقیقاً چگونه اجرا خواهند شد.
