رشد انفجاری هوش مصنوعی در سال های اخیر، نگرانی‌های جدی را در مورد آینده‌ی بشریت برانگیخته است. برخی از متخصصان، از جمله رومن یامپولسکی، مدیر آزمایشگاه امنیت سایبری دانشگاه لوئیزویل، احتمال نابودی بشر توسط هوش مصنوعی را بسیار بالا ارزیابی می‌کنند. در این میان، ویتالیک بوترین، بنیان‌گذار اتریوم، با طرح پیشنهاد جنجالی «دکمه توقف نرم جهانی»، راهکاری را برای مهار این فناوری قدرتمند ارائه کرده است.
بوترین معتقد است که برای جلوگیری از عواقب ناخواسته‌ی پیشرفت سریع هوش مصنوعی، باید توان محاسباتی جهانی در این حوزه را به طور موقت کاهش دهیم. او پیشنهاد می‌کند که با ایجاد یک مکانیزم جهانی، توان محاسباتی هوش مصنوعی را به مدت یک تا دو سال به میزان ۹۰ تا ۹۹ درصد کاهش دهیم. این کار به بشر فرصت می‌دهد تا بر روی توسعه‌ی فناوری های کنترل کند. همچنین با نظارت بر هوش مصنوعی، از بروز خطرات احتمالی جلوگیری نماید.
این پیشنهاد با واکنش های متفاوتی از سوی جامعه‌ی فناوری روبرو شده است. سم آلتمن، مدیرعامل OpenAI، معتقد است که هوش مصنوعی قادر خواهد بود خود را کنترل کند و نیازی به مداخله‌ی انسان نیست. او بر این باور است که نگرانی‌های ایمنی در مورد هوش مصنوعی اغراق‌آمیز بوده و این فناوری به تدریج و با تأثیر اجتماعی اندکی توسعه خواهد یافت.
اختلاف نظر بین بوترین و آلتمن نشان دهنده‌ی دو دیدگاه متفاوت در مورد آینده‌ی هوش مصنوعی است. بوترین رویکردی محتاطانه و پیشگیرانه را ترجیح می‌دهد، در حالی که آلتمن به توانایی خودتنظیمی هوش مصنوعی امیدوار است.
با توجه به اهمیت موضوع، بحث در مورد آینده‌ی هوش مصنوعی و چگونگی کنترل آن همچنان ادامه دارد. تصمیم‌گیری در مورد بهترین راهکار برای مدیریت این فناوری قدرتمند، نیازمند بررسی دقیق جوانب مختلف و همکاری بین‌المللی است.