به گزارش سلام نو آنطور که پیوست نوشته است احتمال انقراض بشریت در اثر سیستم‌های پیشرفته هوش مصنوعی را به عنوان یک سناریوی محتمل مطرح می‌کند و خواستار اقدامات فوری و بی‌سابقه برای جلوگیری از این فاجعه می‌شود.
هوش مصنوعی، تهدیدی برای امنیت ملی و بقای بشریت
این گزارش ۲۴۷ صفحه‌ای که با عنوان "برنامه اقدام برای افزایش ایمنی و امنیت هوش مصنوعی پیشرفته" منتشر شده است، هشدار می‌دهد که روند فعلی توسعه هوش مصنوعی، خطرات فوری و روزافزونی برای امنیت ملی و حتی بقای بشریت به دنبال دارد.
در بدترین حالت، هوش مصنوعی می‌تواند نسل بشر را با خطر انقراض مواجه کند.
راهکارهای پیشنهادی برای مهار هوش مصنوعی
مولفان گزارش، پیشنهادات متعددی برای مقابله با خطرات هوش مصنوعی ارائه می‌کنند. برخی از این پیشنهادات عبارتند از:
- تصویب قوانین جدید توسط کنگره ایالات متحده برای محدود کردن استفاده از قدرت رایانشی در آموزش مدل‌های هوش مصنوعی
- لزوم اخذ مجوز از دولت قبل از آموزش مدل‌های هوش مصنوعی قدرتمند
- جرم‌انگاری انتشار متن‌باز اجزای اصلی و بخش‌های داخلی سیستم‌های هوش مصنوعی
- محدود کردن صادرات چیپ‌های پیشرفته هوش مصنوعی
- تخصیص بودجه به تحقیق در حوزه امنیت هوش مصنوعی
دو حوزه خطر اصلی
گزارش مذکور، دو حوزه را به عنوان خطرات اصلی هوش مصنوعی معرفی می‌کند:
- استفاده جنگ‌افزاری از هوش مصنوعی: احتمال حملات شیمیایی، بیولوژیکی یا سایبری با استفاده از سیستم‌های هوش مصنوعی
- نابودی قدرت: رشد چشمگیر هوش مصنوعی پیشرفته و تضاد منافع آن با بشریت
رقابت خطرناک در صنعت هوش مصنوعی
مولفان گزارش، صنعت هوش مصنوعی را به دلیل تمرکز بر توسعه سریع و عدم توجه به مسائل امنیتی، تشدیدکننده خطرات هوش مصنوعی می‌دانند.
ضرورت اقدامات فوری برای تضمین آینده بشریت
با وجود تند بودن برخی از پیشنهادات گزارش، مولفان آن بر ضرورت اقدامات فوری برای جلوگیری از بدترین سناریوها و تضمین توسعه امن هوش مصنوعی برای نفع بشریت تاکید می‌کنند.
این گزارش، زنگ خطری برای جامعه بشریت است. بی‌توجهی به خطرات هوش مصنوعی، می‌تواند عواقب جبران‌ناپذیری برای آینده بشر به دنبال داشته باشد.
نظر شما