روباتهای قاتل، مصداق سلاحهای کشتار جمعی
رویداد۲۴-هوش مصنوعی(AI) و روباتها با توجه به قابلیتهای بالا برای ابعاد مختلف زندگی بشر طراحی و برنامهریزی میشوند ولی با وجود همه این ظرفیتها، بیم و هراسهایی نیز برای مردم به همراه داشتهاند تا جایی که بسیاری از فعالان حوزه هوش مصنوعی و علوم روباتیک با توجه به بالا رفتن هوش روباتها بویژه در زمینه سلاحهای خودکار، ابراز نگرانی کرده و تلاش داشتهاند جهانیان را متوجه این خطر یا بمب ساعتی بکنند. با توجه به اهمیت این موضوع، نخستین اجلاس سازمان ملل درباره روباتهای قاتل با مدیریت گروهی از کارشناسان سلاحهای کشتار جمعی، از دوشنبه 20 نوامبر در ژنو مقر سازمان ملل آغاز به کار کرده و دیروز جمعه 24نوامبر(3 آذر) به کار خود پایان داد.
فعالان عرصه فناوری نگران از هوش مصنوعی
در این اجلاس 5روزه که به میزبانی کمپین «روباتهای قاتل را متوقف کنید»، برپا شده و نخستین گام برای محدودسازی کامل سلاحهای روباتیک و خودکار محسوب میشود، بیش از 70 کشور حضور داشتند تا جهان را با مخاطرات این تکنولوژی آشنا کنند. البته باید گفت که ماجرای برگزاری این اجلاس به تلاش فعالان عرصه فناوری بازمیگردد. در ماه آگوست بیش از 100فعال حوزه هوش مصنوعی به رهبری «ایلان ماسک» مدیرعامل و بنیانگذار کمپانی تسلا، سازمان ملل را وادار به برگزاری این اجلاس کرده و اعلام کردند که تکنولوژی هوش مصنوعی پیشرفت کرده و سازمانهای حقوق بشر، سران نظامی، قانونگذاران و مهندسین حوزه فناوری نگرانیهای خود را از پیشرفت و توسعه سریع و روزافزون هوش مصنوعی و سلاحهای خودکار بیان کردهاند. ایلان ماسک و سایر فعالان عرصه تکنولوژی، پیش از این در نامهای سرگشاده از سازمان ملل درخواست کرده بودند سلاحهای خودکار را که درواقع همان روباتهای قاتل محسوب میشوند ممنوع اعلام کند. این افراد در نامه خود روباتها را نسل سوم جنگافزارها عنوان کردند.
همچنین بیش از 200 فعال حوزه فناوری کانادایی و 100 دانشمند استرالیایی نیز در نامههایی جداگانه و سرگشاده به رؤسای جمهوری این کشورها، خواستار مقابله با روباتهای نابودگر شدند. این افراد اعتقاد دارند هرچند اکنون به نظر نمیرسد خطری متوجه انسانها باشد ولی اگر وضع به همین منوال پیش برود در آیندهای نزدیک، این روباتها و سلاحهای خودکار میتوانند بلای جان انسانها شوند.در همین راستا اجلاس سازمان ملل برگزار شد و در آن به بحث و گفتو گو درباره سلاحهای خودکار و مجهز به هوش مصنوعی ازجمله تانکها و اسلحهها و تفنگهای خودکار، پهپادها، روباتهای قاتل و... پرداخته شد؛ وسایلی که ممکن است توسط تروریستها مورد سوءاستفاده قرار بگیرد یا هکرها آن را به گونهای به کار بگیرند که در خدمت آنها باشد و در این میان، جان انسانهای بیگناه به خطر بیفتد و شاهد خرابی شهر و.. باشیم. به اعتقاد فعالان این عرصه، همان طور که هوش مصنوعی میتواند میادین جنگی را به محلی امنتر برای ارتش هر کشوری تبدیل کند ، سوءاستفاده از آن هم میتواند این میادین را به صحنههایی دردناک تبدیل کند و اگر چنین اتفاقی رخ دهد مقابله با آن تقریباً غیرممکن خواهد بود.
فیلم کوتاه از پهپادهای مرگآور
در این اجلاس که بسیاری از فعالان عرصه فناوری و هوش مصنوعی حضور داشتند، البته شاهد اظهارنظرهای متفاوتی بودیم. بهعنوان مثال«آماندیپ گیل» سفیر خلع سلاح هند در اجلاس سازمان ملل با قرار گرفتن در جایگاه گفت: خانمها و آقایان، خبری برایتان دارم: روباتها هرگز دنیا را فتح نخواهند کرد و انسانها همچنان بر روباتها برتری خواهند داشت. این موضوعی است که درباره سلاحهای خودکار نیز صدق میکند و فکر میکنم با این موضوع نباید چندان احساسی برخورد کنیم.این گفته وی، صدای بسیاری از افراد حاضر در این اجلاس ازجمله پروفسور استوارت راسل کارشناس هوش مصنوعی و استاد دانشگاه برکلی که با نظر وی کاملاً مخالف بود را درآورد. راسل بیان کرد: زمان مقابله با روباتهای قاتل که خود مصداق سلاحهای کشتار جمعی محسوب میشوند فرارسیده است. وی در این اجلاس با نمایش یک فیلم کوتاه به بررسی موضوع و در پایان به تجزیه و تحلیل پرداخت؛ فیلمی که حمله تعدادی از پهپادهای بدون سرنشین بسیار کوچک به یک دانشگاه را نشان میداد و پهپادها به صورت کاملاً هدفدار تعدادی از دانشجویان را به قتل رساندند.
پس از نمایش فیلم، راسل اظهار داشت: این فیلم چیزی فراتر از حدس و گمان است و نتایج نظامیسازی تکنولوژیهایی را که قبلاً داشتهایم نشان میدهد. وی با در دست گرفتن یکی از این پهپادهای کوچک در مشت خود عنوان کرد: این پهپاد با اسباب بازی کودکان تفاوت دارد چون کاملاً هوشمند است و میتواند 100 برابر زودتر از انسان موضوعها و شرایط را آنالیز کند، تصمیم بگیرد و واکنش نشان دهد. این پهپاد دارای سنسور، دوربین، اپ و فناوری تشخیص چهره است و با 3گرم ماده منفجره میتواند چند هدف را در یک لحظه از بین ببرد چون توانایی عبور از جمجمه، در، دیوار و... را دارد. این درحالی است که در میادین جنگی، انسانها احساساتی هستند و ممکن است گاه از فرمانده خود اطاعت نکنند بنابراین استفاده بیش ازحد از هوش مصنوعی، جای تأمل دارد. وی یادآور شد: سلاحهای هوشمند دیتا مصرف میکنند و به این ترتیب دشمنان خود یا چیزی را که برنامهریزی شده است حتی از طریق یک هشتگ نیز میتوانند پیدا کنند.
لزوم پرهیز از اتوماسیون روباتها
استادان دانشگاه هم با حضور در ژنو از سازمان ملل خواستند که قبل از اینکه دیر شود، این سازمان به عرصه روباتها و هوش مصنوعی وارد شود. در همین راستا «توبی والش» از دانشگاه ولز جنوبی، روباتهای قاتل را مصداق بارز سلاحهای کشتار جمعی دانست و افزود: اطمینان دارم که سرانجام مشمول قانون سلاحهای بیولوژیک و... خواهد شد ولی تنها نگرانی من این است که کشورها بسرعت متقاعد نشوند که در این صورت باید منتظر مرگ بسیاری از مردم باشیم. وی میافزاید: به هرحال هر تکنولوژی را میتوان تیغی دولبه دانست که مزایا و معایبی دارد و هوش مصنوعی نیز از این امر مستثنی نیست. نوئل شارکی از کمیته بینالمللی کنترل روباتها نیز در اجلاس سازمان ملل درباره روباتهای قاتل گفت: باید از تجهیز روباتها به اتوماسیون برای عملکردها و وظایف حیاتی، انتخاب اهداف و نیز حمله بدون کنترل انسانی آنها اجتناب کرد.«مکس تگمارک» یکی از پروفسورهای دانشگاه MIT نیز بهعنوان یکی از افراد حاضر در این اجلاس با اشاره به تصمیمهای تاریخی برای ممنوعیت استفاده از سلاحهای بیولوژیکی و شیمیایی، خواستار اعمال این قانون برای سلاحهای خودکار و روباتهای قاتل شد و گفت: ممنوعیت سلاحهای کشتارجمعی بسیار موفقیتآمیز بوده است و هرچند همچنان در سطح جهان در پارهای موارد شاهد شیطنتهایی هستیم ولی امروزه هیچ ترور بیولوژیکی گستردهای انجام نمیشود و تقریباً همه یافتههای بیوتکنولوژی در خدمت شهروندان قرار گرفته است.
از دیگر افرادی که در اجلاس روباتهای قاتل به بیان نظر خود پرداخت، «مری وارهام» از سازمان دیدهبان حقوق بشر است. وی دراین باره گفت: کشورها وقتی برای تلف کردن ندارند پس نباید فقط به حرف زدن در اینباره بسنده کنند، خطر نزدیک است و باید به این موضوع بیش از پیش توجه شود. وی ادامه داد: ارتش در سراسر دنیا و کمپانیهای فعال در عرصه دفاع، مقدار قابل توجهی بودجه در زمینه تکنولوژی روباتها و سلاحهای خودکار هزینه کردهاند و شاید به راحتی نتوان انتظار داشت که به طور کامل این سلاحها را کنار بگذارند ولی واقعیت این است که اگر به این موضوع توجه نکنیم احتمالاً روزی میرسد که بدون کنترل انسان، این روباتها میتوانند تصمیم بگیرند یا اینکه یک نفر کنترل آنها و عملاً ارتش یک کشور یا یک منطقه را در دست میگیرد که در این صورت میتوان درباره حرف «ایلان ماسک» که هوش مصنوعی، جنگ جهانی سوم را کلید میزند بیشتر فکر کرد.
در میان بحثهای مختلف در این اجلاس سازمان ملل، برزیل، عراق و اوگاندا به لیست 22نفره کشورهایی که برای ممنوعیت کامل سلاحهای مرگبار مورد توجه قرار داشتند اضافه شدند. لازم به ذکر است که بیشتر این کشورها بودجه نظامی کمتر داشتند و تکنولوژی کمتری هم در کشورشان دیده میشد. البته برخی کشورهای پیشرفتهتر که هزینه بالایی در زمینه هوش مصنوعی و بودجه نظامی خود داشتهاند چندان به این موضوع روی خوش نشان ندادند. بهعنوان مثال امریکا با این موضوع مشکلات اساسی داشت و نماینده این کشور گفت: ما از هوش مصنوعی و سلاحهای خودکار برای بهبود وضعیت فرماندهی موشکها و بمبها علیه اهداف نظامی استفاده میکنیم و کنترل کامل بر آن داریم تا هک نشده و احیاناً مورد سوءاستفاده قرار نگیرد پس دلیلی برای محدودسازی آن نمیبینیم.
هرچند در اجلاس روباتهای قاتل حرف و حدیث های فراوانی وجود داشت ولی صحبتهای مورد اشاره در اجلاس سازمان ملل متحد بسرعت مورد حمایت جهانی قرار گرفت و 80 کشور نیز با موارد مختلف آن، اعلام موافقت کردند. کشورهای حاضر در این اجلاس معتقدند سال آینده نیز باید در یک اجلاس دو هفتهای به موضوعهایی نظیر اینکه سلاحهای خودکار چگونه کار میکنند و چگونه باید آنها را کنترل کرد، پرداخت. البته نتیجه این اجلاس نشان داد که بسیاری از کشورها خواستار قانونگذاری مشخص درباره روباتهای قاتل و سلاحهای خودکار هستند و معتقدند این تکنولوژی حتماً باید با کنترل بشر همراه باشد.
