برخی از مدیران مشهور و چهره‌های شناخته‌شده دنیای فناوری اطلاعات با انتشار نامه‌ای سرگشاده درباره «خطر شدید هوش مصنوعی برای جامعه» هشدار داده و خواستار توقف دست کم ۶ ماهه پروژه‌های فوق پیشرفته در این زمینه شده اند تا فرصتی برای ایجاد یک نظام کنترل مبتنی بر اخلاق حرفه‌ای به وجود آید.
ایلان ماسک، مالک توییتر و مدیر عامل شرکت تسلا، و استیو وزنیاک، از بنیان‌گذاران شرکت اپل، که از امضاکنندگان این نامه هستند، هشدار داده‌اند توسعه و پیشرفت فناوری‌های موسوم به «هوش مصنوعی» در سطح فوق پیشرفته که یک نمونه آن طی چند روز گذشته وارد عرصه عمومی شده نیازمند مقررات و معیارهای ضمانتی است.
اخیرا یک آزمایشگاه تحقیقاتی در آمریکا پیشرفته‌ترین سامانه هوش مصنوعی موجود را رونمایی کرد.
شرکت اوپن ای‌آی (OpenAI) که پروژه «چت بی‌پی‌تی» را در دست اجرا دارد، دو هفته پیش از یک فناروی فوق هوشمند تحت عنوان جی‌پی‌تی -۴ رونمایی کرد که ناظران این عرصه را با توانایی خود درپاسخ دادن به سوالاتی از مشخصات و اشیاء داخل تصاویر، حیرت‌زده کرده است.
نامه امروز - چهارشنبه ۲۸ مارس - که موسسه آینده زندگی (Future of Life Institute) آن را تهیه و به امضای بسیاری از جمله چهرهای شناخته شده دنیای فناوری رسانده، واکنشی به پروژه‌های جی پی تی - ۴ و فراتر از آن است و در آن نسبت به «ریسک» پیامدهای ورود چنین فناوری‌هایی برای زندگی بشر هشدار داده شده است.
در این نامه آمده: «سیستم‌های هوش مصنوعی که قابلیت رقابت با هوش انسانی دارند، می‌توانند خطرات بسیار جدی را متوجه انسانیت و جوامع کنند».
انستیتو آینده زندگی یک سازمان غیرانتفاعی است که می‌گوید هدفش «حفظ فناوری‌های متحول‌کننده از خطرات بزرگ و افراطی و هدایت آنها به سوی فوایدشان برای زندگی بشر است».
امضاکنندگان نامه اظهار نگرانی کرده‌اند که پیشرفت‌های اخیر باید در جهت تغییرات مثبت و مضرات آنها قابل مدیریت باشند.
نگرانی از این که پیشرفت بدون حد و معیار فناوری‌های موسوم به «هوش مصنوعی» بشر را بتدریج به فاجعه سوق دهد، موضوع جدیدی نیست اما اخیرا با ظهور فناوری‌های فوق پیشرفته در زمینه هوش مصنوعی، این نگرانی‌ها اوج گرفته هر چند کارشناسان بخشی از این نگرانی‌ها را «فراتر از واقعیت» ارزیابی می‌کنند و می‌گویند بخش از آن ناشی از «ترس تاریخی ما» از تغییرات بزرگ است که همراه با بیم از بیکاری، اضمحلال بشریت و تسلط ماشین (کامپیوتر) بر انسان است.
ایلان ماسک، مالک توییتر و مدیرعامل شرکت خودروسازی تسلا، مشاور بیرونی موسسه آینده زندگی (Future of Life Institute) است هر چند پیش‌تر یکی از موسسان شرکت اوپن ای‌آی بود اما استعفاء داد.
در نامه موسسه آینده زندگی آمده فناوری‌های پیشرفته هوش مصنوعی باید با ملاحظه توسعه یابد و این در حالی است که «در ماه های اخیر شاهد آنیم که آزمایشگاه های هوش مصنوعی حتی وارد یک مسابقه غیرقابل کنترل برای پیش‌برد و ارایه «ذهن‌های دیجیتال» بسیار قدرتمند رفته‌اند که هیچ‌کس - حتی سازندگان آنها - قادر به درک کامل آنها، پیش‌بینی عمل بعدی آنها و کنترل مطمئن آنها، نیستند».
در این نامه هشدار داده شده که محصولات هوش مصنوعی قادر است اینترنت و فضای مجازی را پر کند از اطلاعات غلطی که تشخیص نادرستی آنها بسیار دشوار و شاید غیرممکن باشد و همچنین این قابلیت را دارد که شغل چندین میلیون نفر را از آنها بگیرد.
این نامه همچنین در پی گزارشی است که شرکت سرمایه‌گذاری گلدمن سکز در آن هشدار داده بود که با به بازار آمدن فناوری‌های پیشرفته ممکن است هوش مصنوعی جایگزین میلیون‌ها شغل انسانی شود.
با وجود این، کارشناسان فناوری می‌گویند پیش‌بینی اثرات هوش مصنوعی بروی بازار اشتغال بسیار دشوار است.