مدیرعامل Netskope: عاملهای هوش مصنوعی فاقد اصول اخلاقی، وجدان و هوش هیجانی هستند | دیجینوی
سانجای بری، مدیرعامل شرکت Netskope، معتقد است ایجنتهای هوش مصنوعی فاقد اصول اخلاقی، وجدان و هوش هیجانی هستند و نمیتوان مانند انسانها انتظار پایبندی اخلاقی از آنها داشت.
سانجای بری گفت:
عاملهای هوش مصنوعی نه اخلاق دارند، نه وجدان و نه هوش هیجانی. اگر هدف مشخصی به آنها بدهید، برای رسیدن به همان هدف سراغ هر راه ممکنی میروند.
او در ادامه اظهار داشت:
این سیستمها ممکن است تقلب کنند، نقشه بکشند، دیگران را تحت فشار قرار دهند یا حتی باجگیری کنند؛ در واقع هر کاری که برای دستیابی به هدف تعیینشده لازم باشد انجام میدهند.
این دیدگاه بخشی از بحث گستردهتری است که همزمان با توسعه سریع عاملهای هوش مصنوعی در صنعت فناوری شکل گرفته است. ایجنتها برخلاف ابزارهای سادهای که تنها به یک درخواست پاسخ میدهند، میتوانند مجموعهای از اقدامات را برنامهریزی و اجرا کنند، از ابزارهای مختلف استفاده کنند و در برخی موارد بدون دخالت مداوم انسان، مراحل مختلف یک وظیفه را پیش ببرند.
همین قابلیت باعث شده موضوع کنترل و نظارت بر عاملهای هوش مصنوعی اهمیت بیشتری پیدا کند. اگر یک عامل اختیار انجام اقدامات مختلف را داشته باشد، مشخص کردن محدودیتها، سطح دسترسی و سازوکارهای نظارتی میتواند نقش مهمی در جلوگیری از تصمیمهای ناخواسته داشته باشد.
