جنگ هوش مصنوعی و انسان ها چگونه شروع میشود و چگونه به پایان میرسد؟
آیا پیشرفت هوش مصنوعی میتواند باعث بروز یک جنگ بزرگ با انسانها شود؟
برخی میگویند نیازی به نگرانی درباره رباتها نیست. ما هر زمانی که بخواهیم میتوانیم این آدم برقیها را از برق بکشیم؛ درسته! … درسته؟! آنها میگویند امروز موضوع جنگ بین هوش مصنوعی و انسانها بیشتر از اینکه یک نگرانی واقعی باشد، ایده فیلمهای علمی تخیلی محسوب میشود!
بهطور مثال، فیلم علمی تخیلی جدید The Creator آیندهای را تصور میکند که در آن بشریت درحال جنگ با هوش مصنوعی (AI) است. اما فراتر از این فیلم، آیا از کار انداختن هوش مصنوعی در مواقع حیاتی به همان راحتی است که آنها میگویند؟ در این مقاله قصد داریم به این سوال و سوالات مشابه پاسخ دهیم.
اگر پیگیر اخبار هوش مصنوعی در نیونیوز1 باشید، میدانید که در چند ماه گذشته هشدارهای متعددی در مورد تهدید ناشی از توسعه هوش مصنوعی صادر شده است. زیرا نه تنها روزی میتواند متن این خبر را بهتر از من بنویسد، بلکه میتواند وارد جنگهای بزرگ شود و حتی از کنترل خارج شده و با ما انسانها بجنگد!
بارزترین نگرانی، از آیندهای است که در آن هوش مصنوعی به طور مستقل، خود از سلاحها برای جنگ و مقابله با انسانها استفاده میکند. بیایید به سراغ آقای پل شار معاون اجرایی و مدیر مطالعات مرکز امنیت نو آمریکا (CNAS) برویم. او چندین کتاب در زمینه هوش مصنوعی و جنگ نوشته و در سال 2023 توسط مجله TIME به عنوان یکی از 100 فرد تأثیرگذار در زمینه هوش مصنوعی معرفی شد.
جنگ هوش مصنوعی با انسان: کدامیک پیروز است؟
آقای پل شار، نویسنده کتاب Four Battlegrounds: Power in the Age of Artificial Intelligence، برای ذکر یک نمونه، چالش اخیر آژانس پروژههای تحقیقاتی پیشرفته دفاعی آمریکا را ذکر میکند. این چالش یک شبیه سازی از تقابل هوایی میان یک خلبان انسانی در مقابل خلبانی از جنس هوش مصنوعی بود.
آقای شار میگوید: “هوش مصنوعی نه تنها خلبان زبده ما را 15 به 0 درهم کوبید، بلکه حرکاتی انجام داد که انسان اصلاً نمیتواند انجام دهد!” او به طور خاص، از تیراندازی هوش مصنوعی با دقت بسیار بالا و در کسری از ثانیه حرف میزند که انجام آن از توان انسانها خارج است. داستان جایی ترسناکتر میشود که قدرتهای جهانی درحال آماده شدن برای استفاده از هوش مصنوعی در جنگها هستند.
با تمام این پیشرفتها و وجود شواهد، آیا فرصت دادن به هوش مصنوعی برای تصمیمگیری در مورد زندگی یا مرگ انسانها سؤالات ناراحت کنندهای ایجاد نمیکند؟ به عنوان مثال، اگر یک هوش مصنوعی اشتباه کند و به طور تصادفی یک غیرنظامی را بکشد، چه اتفاقی خواهد افتاد؟ آقای شار میگوید: “این یک جنایت جنگی است. اما مشکل بزرگتر اینجاست که ممکن است به بهانه اشتباه هوش مصنوعی، حتی کسی پاسخگوی آن نباشد!”
البته حداقل میدانیم که در آینده نزدیک، محتملترین استفاده از هوش مصنوعی در جنگ، صرفاً در ارائه تاکتیکها و تحلیلها خواهد بود. هوش مصنوعی میتواند به پردازش بهتر اطلاعات و کارآمدتر کردن ارتشها کمک کند. بنابراین ارتشها احتمالاً مجبور خواهند شد تصمیمگیریهای بیشتری را به هوش مصنوعی بسپارند. هوش مصنوعی احساسات و اشتباهات انسانی را در محیط خشن جنگ ندارد. بنابراین اگر دشمن شما این مزیت را بپذیرد و شما آنرا نادیده بگیرید، در ضرر بزرگی هستید. آقای شار میگوید: “این موضوع میتواند به یک مسابقه تسلیحاتی بزرگ از جنس هوش مصنوعی، مشابه مسابقه تسلیحات هستهای منجر شود!”
هوش مصنوعی کنترل نبرد های آینده را در دست خواهد گرفت!
آقای پل شار میگوید: “هماکنون برخی از محققان چینی در مورد یکتایی هوش مصنوعی در جنگها و میدان نبرد فرضیههایی را مطرح کردهاند. زمانیکه سرعت تصمیمگیری مبتنیبر هوش مصنوعی، سرعت توانایی انسان برای درک و پاسخگویی را تحتالشعاع قرار میدهد. بنابراین انسانها به طور موثر در آینده کلید سیستمهای جنگی را برای تصمیمگیری در میدان نبرد، به دست هوش مصنوعی خواهند سپرد.”
این نقطه، شروع تمام دردسرهای احتمالی است. در سناریو اول درحالیکه ما به دلیل مهارت هوش مصنوعی کار را به او واگذار کردهایم، او به صورت بیرحمانهای در یک سوی نبرد خواهد ایستاد و سوی دیگر را قتل عام میکند. در سناریو دوم که بدترین سناریو است، ما کنترل هوش مصنوعی در جنگ را به کلی از دست خواهیم داد و او علیه تمام ما انسانها اقدام خواهد کرد!
آقای شار میگوید: “اگر بدترین سناریو اتفاق بیفتد و یک هوش مصنوعی به ما اعلام جنگ کند، ما شانس زیادی نخواهیم داشت.”
شاید منظور او به نوعی این است که آیا شامپانزهها میتوانند در جنگ علیه انسان پیروز شوند؟ بله این سوال اصلاً خندهدار است! شاید روزی یک هوش مصنوعی به همنوع خود بگوید همه چیز خیلی سریع اتفاق افتاد! آنها در یک لحظه منقرض شدند!
پنج سال پیش کمتر کسی به پیشرفت هوش مصنوعی تا این حد فکر میکرد. اکنون نیز ماجرا همین است. ما درحال ساختن سیستمهای هوش مصنوعی قویتر هستیم که نمیفهمیم تا چه حد قدرت خواهند یافت و شاید روزی نتوانیم آنها را کنترل کنیم. من فکر میکنم اگر واقعاً بتوانیم ماشینهایی بسازیم که هوشمندتر از خودمان هستند، در آینده مشکلات زیادی منتظر ما خواهد بود.
رهبران فناوری بدنبال توقف هوش مصنوعی: خطر پایان دنیا توسط هوش مصنوعی!
شما توسعه هوش مصنوعی را یک تهدید بزرگ میبینید یا یک فرصت بزرگ؟ شاید هم هردو! نظر شما چیست؟
منبع: sciencefocus