تسلیحاتهوش مصنوعی

سلاح های کاملا خودمختار چیست؟

سلاح های کاملاً خودمختار بر اساس «هوش مصنوعی» عمل می کنند. هوش مصنوعی اساساً با محاسبات حسابی و برنامه نویسی ربات ایجاد می شود.

 فاقد هر ویژگی هوش انسانی و قضاوت انسانی است که انسان را تابع قوانین و هنجارها می کند.

 استفاده از هوش مصنوعی در درگیری‌های مسلحانه یک چالش اساسی برای حفاظت از غیرنظامیان و رعایت حقوق بشر بین‌المللی و قوانین بشردوستانه است.

سلاح‌های کاملاً خودمختار از سیستم‌های تسلیحاتی کنترل از راه دور مانند هواپیماهای بدون سرنشین متمایز هستند – این سلاح‌ها توسط انسان از راه دور هدایت می‌شوند، در حالی که سلاح‌های کاملاً خودمختار پس از برنامه‌ریزی هیچ هدایت انسانی ندارند.

 اگرچه سلاح‌هایی با استقلال کامل کشنده هنوز به کار گرفته نشده‌اند، پیش‌سازهایی با درجات مختلف استقلال و کشندگی  در حال حاضر استفاده می‌شوند .

 چندین کشور از فعالیت هایی با هدف توسعه و تحقیق در مورد تسلیحات کاملاً خودمختار حمایت و سرمایه گذاری می کنند. از جمله چین،  آلمان ، هند،  اسرائیل ، جمهوری کره،  روسیه ، جمهوری اسلامی ایران و  بریتانیا هستند .

 سیستم های رباتیک با درجات مختلف استقلال و کشندگی  قبلاً توسط ایالات متحده، بریتانیا، اسرائیل و جمهوری کره مستقر شده اند. 

سلاح های کاملا خودمختار چیست؟

سوالات مهمی که با توسعه سلاح های کاملا خودمختار مطرح می شود

تحقیق و توسعه مداوم در زمینه سلاح‌های کاملاً خودمختار به مرحله حساسی رسیده است که نیاز به تأمل عمیق در مورد توسعه فنی بیشتر چنین سیستم‌های تسلیحاتی دارد.

 بحث در مورد سلاح های کاملاً خودمختار سؤالات اخلاقی و اصولی زیر را مطرح می کند:

  • آیا تصمیم گیری در مورد مرگ و زندگی را می توان به یک ماشین واگذار کرد؟
  • آیا سلاح‌های کاملاً خودمختار می‌توانند از نظر اخلاقی «درست» عمل کنند؟
  • آیا ماشین ها می توانند مطابق با قوانین بین المللی بشردوستانه (IHL) یا قوانین بین المللی حقوق بشر (IHRL) عمل کنند؟
  • آیا این سیستم‌های تسلیحاتی می‌توانند بین رزمندگان از یک طرف و افراد بی‌دفاع و/یا غیر درگیر از طرف دیگر تمایز قائل شوند؟
  • آیا چنین سیستم هایی می توانند تناسب حملات را ارزیابی کنند؟
  • چه کسی می تواند پاسخگو باشد؟

این موضوعات زیر سوال می‌برند که آیا توانایی‌های انسانی، مانند ارزیابی اصول حقوق بشردوستانه بین‌المللی در مورد تناسب، ضرورت نظامی، و توانایی ایجاد تمایز بین غیرنظامیان و رزمندگان، می‌تواند به یک ماشین منتقل شود یا خیر.

مسائل دیگر عبارتند از: 

حفاظت از غیرنظامیان:  این جای سوال است که چگونه یک روبات می تواند به طور موثر برنامه ریزی شود تا از تلفات غیرنظامیان جلوگیری کند، در حالی که خود انسان ها فاقد توانایی ایجاد تمایز در محیط های درگیری بین ایالتی امروزی بدون مرزهای مشخص بین انواع گروه های مسلح و غیرنظامیان هستند.

 تمایز یک رزمنده فعال از یک غیرنظامی یا یک سرباز مجروح یا تسلیم شده به چیزی بیش از قابلیت های حسی و پردازشی پیشرفته نیاز دارد و برای یک ربات بسیار دشوار است که نیت انسان را بر اساس تفسیر سرنخ های ظریفی مانند لحن صدا یا صدا اندازه گیری کند. زبان بدن 

تناسب:  در شرایط خاص، حملات نظامی به دلیل خطر ایجاد خسارات غیرنظامی به طور نامتناسب انجام نمی شود. این تردید وجود دارد که یک سیستم روباتیک قادر به اتخاذ چنین تصمیماتی باشد. 

مسئولیت پذیری:  با یک سیستم تسلیحاتی خودمختار، هیچ انسانی نمی تواند در قبال اقدامات خود در یک درگیری مسلحانه پاسخگو باشد.

 در عوض، مسئولیت بین یک گروه بزرگتر و احتمالاً غیرقابل شناسایی از افراد، از جمله برنامه نویس یا سازنده ربات توزیع می شود.

افزایش خطر جنگ:  همانطور که  گزارشگر ویژه سازمان ملل در مورد اعدام های غیرقانونی، خلاصه یا خودسرانه  در گزارش خود به شورای حقوق بشر اشاره کرد، حذف انسان ها از انتخاب و اجرای حملات به اهداف، لحظه ای حساس در فناوری جدید است.

که به عنوان «انقلاب در جنگ مدرن» تلقی می شود. وی از کشورها خواست تا با دقت در مورد پیامدهای چنین سیستم های تسلیحاتی فکر کنند و خاطرنشان کرد که چنین فناوری به دلیل کاهش احتمال تلفات نظامی، خطر شرکت در درگیری های مسلحانه را افزایش می دهد.

 سلاح‌های کاملاً خودمختار می‌توانند آستانه جنگ را کاهش دهند، به ویژه در شرایطی که طرف مقابل سیستم‌های مشابهی برای استقرار در پاسخ ندارد. 

ماشین حساب های جالب یا ابزار سرکوب؟  حامیان سلاح‌های کاملاً خودمختار استدلال می‌کنند که این سیستم‌ها به غلبه بر احساسات انسانی مانند وحشت، ترس یا خشم کمک می‌کنند که منجر به قضاوت نادرست و انتخاب‌های نادرست در موقعیت‌های استرس‌زا می‌شود.

 با این حال، مخالفان توسعه این سیستم های تسلیحاتی اشاره می کنند که این به اصطلاح مزیت می تواند به خطری بزرگ برای افرادی که در سیستم های دولتی سرکوبگر زندگی می کنند تبدیل شود.

 سلاح های کاملاً خودمختار می توانند برای سرکوب مخالفان بدون ترس از اعتراض، مخالفت وجدانی یا شورش در نیروهای امنیتی دولتی استفاده شوند.

 غیرانسانی کردن اهداف با غیرانسانی کردن حملات مطابقت دارد. الگوریتم‌ها یک ماشین کشتار بی‌نقص ایجاد می‌کنند، عاری از همدلی، وجدان یا احساساتی که ممکن است یک سرباز انسانی را عقب نگه دارد.
همچنین نگرانی های گسترده ای در مورد برنامه ریزی سوگیری انسان  در این ماشین ها وجود دارد .

 یک ماشین می تواند با تعصب بر اساس نژاد، جنسیت، هویت جنسیتی، گرایش جنسی، وضعیت اجتماعی-اقتصادی یا توانایی برنامه ریزی شده باشد.  

گسترش سلاح‌های هسته‌ای:  در نهایت، نگرانی‌هایی بیان شده است که سیستم‌های تسلیحاتی کاملاً خودمختار ممکن است به دست افراد غیرمجاز بیفتند.

سلاح های کاملا خودمختار چیست؟

جنسیت و سلاح های کاملا خودمختار

جنسیت و سلاح های کاملا خودمختار
جنسیت و سلاح های کاملا خودمختار

در طول تاریخ شاهد بوده ایم که سلاح ها نماد قدرت هستند. ارتباط سلاح ها با قدرت از درک بسیار خاص و بسیار مسلط از مردانگی ناشی می شود.

 این مردانگی است که در آن ایده هایی مانند قدرت، شجاعت و محافظت با خشونت برابر می شود.

 این یک مردانگی است که در آن ظرفیت و تمایل به استفاده از سلاح، شرکت در جنگ و کشتن سایر انسان‌ها   برای «یک مرد واقعی» ضروری تلقی می‌شود.

سلاح های کاملاً خودمختار در چارچوب هنجارهای جنسیت و قدرت ذکر شده در حال توسعه هستند. محققان جنسیت و فناوری مدت‌هاست که استدلال کرده‌اند که روابط جنسیتی «در فناوری مادی‌شده» است.

 یعنی معنا و خصوصیت (هنجارهای) مردانگی و زنانگی در ماشین‌ها «جاسازی» شده است. این محققان استدلال می کنند که محصولات فناورانه نشان خالق خود را دارند.

 اگر فناوری عمدتاً توسط مردانی که در چارچوبی از مردانگی خشونت آمیز عمل می کنند توسعه یافته و مورد استفاده قرار گیرد، خلاقیت آنها با آن چارچوب فکر، دانش، زبان و تفسیر القا می شود.

سلاح‌های کاملاً خودمختار، به‌عنوان ابزار خشونت و جنگ، احتمالاً دارای ویژگی‌های خاصی هستند که ممکن است به طور همزمان هنجارهای جنسیتی هژمونیک را تقویت کرده و تضعیف کنند.

 استفاده از سلاح های کاملا خودمختار می تواند منجر به خشونت جنسیتی علیه مردان شود.

 در درگیری، مردان غیرنظامی اغلب به عنوان ستیزه جو مورد هدف قرار می گیرند – یا در ضبط تلفات به حساب می آیند – فقط به این دلیل که مردانی در سن خاصی هستند.

 در حالی که مردان لزوما تنها به دلیل مرد بودن مورد هدف قرار نمی گیرند، اما در نظر گرفتن رابطه جنسی به عنوان یک دال اصلی به عنوان هویت و آسیب رساندن بر این اساس خشونت مبتنی بر جنسیت را تشکیل می دهد.

 به این معنا که اگر کسی از رابطه جنسی به عنوان مبنایی برای ارزیابی اینکه آیا یک فرد هدف قرار گرفته است یا نه، یا اینکه آیا حمله مجاز است (فقط مردان حضور دارند؟) یا برای تعیین تأثیر حمله بعدا (یعنی در حین ثبت مصدومیت) استفاده کند.

سپس آنها از جنسیت آن شخص نه به عنوان انگیزه حمله بلکه به عنوان نماینده ای برای شناسایی شبه نظامیان یا “اهداف قابل قبول” استفاده می کنند.

 این خشونت مبتنی بر جنسیت است . این امر حفاظتی را که باید از غیرنظامیان در درگیری ها ارائه شود را از بین می برد و بسیاری از حقوق بشر از جمله حق زندگی و دادرسی را نقض می کند.

همچنین پیامدهای گسترده تری در تقویت هنجارهای جنسیتی از جمله مردانگی خشن دارد. فرض اینکه همه مردان در سن نظامی، ستیزه جویان یا مبارزان بالقوه یا بالفعل باشند، این ایده را تثبیت می کند که مردان خشن و در نتیجه قابل هدف هستند.

 این امر ارزش زندگی مردانه را بی ارزش می کند – نشان می دهد که مردان نسبتاً مصرف پذیرتر از زنان هستند. این امر  آسیب پذیری مردان را افزایش می دهد و خطرات دیگری مانند استخدام اجباری، بازداشت خودسرانه و اعدام اجباری را تشدید می کند.

فرهنگ جنسیتی مردانه‌های خشونت‌آمیز که توسعه سلاح‌های خودمختار را احاطه کرده و احتمالاً در فناوری و استفاده از آن تعبیه شده است، چالش‌های جدیدی را برای جلوگیری از خشونت، محافظت از غیرنظامیان، و شکستن ذات‌گرایی یا تبعیض جنسیتی ایجاد خواهد کرد.

 درک اینکه چگونه سلاح‌های خودمختار احتمالاً توسط توسعه‌دهندگان، اپراتورها و قربانیان آن‌ها به شیوه‌ای جنسیتی درک می‌شوند، برای توسعه سیاست‌هایی که می‌توانند به شکستن چرخه خشونت کمک کنند، بسیار مهم است.

 این می‌تواند شامل درک این موضوع باشد که عملیات سلاح‌ها بدون کنترل معنی‌دار انسانی، سلاح‌هایی که برای هدف‌گیری و کشتن بر اساس الگوریتم‌های از پیش برنامه‌ریزی‌شده برای اینکه چه کسی تهدید محسوب می‌شود، برنامه‌ریزی شده است، بدون رضایت در سرزمین‌های خارجی یا در خیابان‌های شهرهای محلی استفاده می‌شود.

منجر به تلفات غیرنظامی، آسیب روانی و تخریب زیرساخت های غیرنظامی خواهد شد. که این به نوبه خود منجر به واکنش خشونت آمیز مردانه از سوی جوامع آسیب دیده، تقویت نابرابری و ستم جنسیتی می شود. 

سلاح های کاملا خودمختار چیست؟

چه تلاش هایی برای رسیدگی به توسعه و استفاده از سلاح های کاملاً خودمختار انجام شده است؟

چه تلاش هایی برای رسیدگی به توسعه و استفاده از سلاح های کاملاً خودمختار انجام شده است؟
چه تلاش هایی برای رسیدگی به توسعه و استفاده از سلاح های کاملاً خودمختار انجام شده است؟

در جلسه شورای حقوق بشر در آوریل 2013، 24 کشور در ارائه گزارش گزارشگر  ویژه در مورد اعدام های غیرقانونی، اجمالی یا خودسرانه ، کریستف هینس، شرکت کردند و در مورد موضوع سلاح های خودمختار بحث کردند.

 کشورهای شرکت کننده در مورد استفاده از تسلیحات کاملاً خودمختار ابراز نگرانی کردند و علاقه مندی خود را به ادامه گفتگوها نشان دادند.

در نشست کشورهای عضو کنوانسیون  برخی سلاح‌های متعارف  (CCW) در نوامبر 2013، دولت‌ها  تصمیم گرفتند  یک نشست چهار روزه از کارشناسان را در مورد سلاح‌های کاملاً خودمختار تشکیل دهند. CCW که در سال 1980 تصویب شد، سلاح هایی را که از منابع شیمیایی، هسته ای یا بیولوژیکی مشتق نشده اند، تنظیم می کند.

از سال 2014، کشورهای عضو CCW درباره چگونگی مقابله با تهدید روبات‌های قاتل بحث کرده‌اند.

 در سال 2016، پنجمین کنفرانس بازبینی CCW  تصمیم گرفت تا  در سال 2017 یک فرآیند رسمی را برای بحث در مورد سیستم های تسلیحاتی خودگردان آغاز کند.

 از آن زمان، جلسات بر ایجاد یک درک مشترک در مورد معنای کنترل انسانی و خطرات سلاح های کاملاً خودمختار متمرکز شده است.

 اکثر دولت‌ها، همراه با  کمیته بین‌المللی صلیب سرخ  (ICRC)،  دبیرکل سازمان ملل، آنتونیو گوترش،  و  کمپین توقف ربات‌های قاتل ، به این نتیجه رسیده‌اند که انسان‌ها باید کنترل برنامه‌ریزی، توسعه، فعال‌سازی و/یا را حفظ کنند. مراحل عملیاتی یک سیستم تسلیحاتی 

تعداد فزاینده ای از ایالت ها خواستار ممنوعیت پیشگیرانه روبات های قاتل هستند ( در حال حاضر 28 ایالت ). علاوه بر این،  جنبش غیرمتعهدها ، بزرگترین بلوک کشورهای فعال در سازمان ملل، خواستار یک سند الزام آور قانونی شده است که ممنوعیت ها و مقررات مربوط به چنین سلاح هایی را تعیین می کند.

 اتریش، برزیل و شیلی  از مذاکره درباره “یک ابزار الزام آور قانونی برای اطمینان از کنترل معنادار انسانی بر عملکردهای حیاتی” سیستم تسلیحاتی حمایت می کنند.

 چند نفر دیگر علاقه خود را به مکانیسم های غیر الزام آور قانونی، مانند اعلامیه سیاسی پیشنهاد شده توسط  فرانسه و آلمان ابراز کرده اند .

هزاران  دانشمند و متخصص هوش مصنوعی نیز از یک ممنوعیت حمایت بیشتری کرده اند .

 در جولای 2018، آنها متعهد شدند که  در توسعه یا استفاده از تسلیحات کاملاً خودمختار کمکی نخواهند کرد.

 این به دنبال فعالیت گسترده‌تر جامعه علمی و فناوری علیه استفاده نادرست از فناوری است.

 به عنوان مثال، اخیراً 4000 کارمند گوگل نامه ای را امضا کردند و از شرکت آنها خواستند  قرارداد Project Maven خود  با پنتاگون را لغو کند، قراردادی که در جهت “بهبود” حملات هواپیماهای بدون سرنشین  از طریق هوش مصنوعی بود .

 1200 نفر از دانشگاهیان  حمایت خود را از کارکنان فناوری اعلام کردند. در پاسخ، گوگل  از کار خود در پروژه Maven صرف نظر کرد .  علاوه بر این، بیش از  160 رهبر مذهبی  و بیش از  20 برنده جایزه صلح نوبل  از این ممنوعیت حمایت کردند. 

با این حال، تعداد کمی از کشورها با پاسخ های قانونی الزام آور یا سیاسی به تهدیدات ناشی از سلاح های خودمختار مخالف هستند.

 ایالات متحده  استدلال کرده است  که دولت‌ها و جامعه مدنی نباید «تکنولوژی‌های جدید را انگ بزنند» یا استانداردهای بین‌المللی جدیدی وضع کنند، بلکه در عوض برای اطمینان از «استفاده مسئولانه از سلاح‌ها» تلاش کنند.

 به همراه استرالیا، اسرائیل، روسیه و کره جنوبی، ایالات متحده  در آگوست 2018 جلسه CCW را  با این استدلال که هرگونه اقدام ملموسی ” پیش از موعد ” است برگزار کرد و از CCW خواست که سال آینده را صرف بررسی ” مزایای ” بالقوه سیستم های تسلیحاتی خودگردان کند.

 CCW بر اساس اجماع عمل می کند که به اتفاق آرا تفسیر می شود. این بدان معناست که این پنج کشور توانستند جلوی هرگونه حرکتی را برای توقف توسعه این سلاح ها بگیرند.

علیرغم توافق اکثریت قریب به اتفاق ایالت ها، کارشناسان هوش مصنوعی، دانشگاهیان و فعالان مبنی بر اینکه سیستم های تسلیحاتی کاملاً خودمختار هرگز نباید توسعه یابند یا مورد استفاده قرار گیرند، نشست  CCW 2018 طرف های عالی متعاهد ، که در نوامبر برگزار شد،  صرفاً تصمیم گرفت  بحث ها را در قالب دو مجزا ادامه دهد. جلسات GGE در سال 2019. 

سلاح های کاملا خودمختار چیست؟

کمپین توقف ربات های قاتل

سلاح‌های کاملاً خودمختار، سیستم‌های تسلیحاتی هستند که می‌توانند به تنهایی و بدون دخالت انسانی، اهداف را انتخاب کرده و به سمت آنها شلیک کنند. سلاح‌های کاملاً خودمختار می‌توانند برای ارزیابی شرایط موقعیت در میدان نبرد و تصمیم‌گیری در مورد حمله مورد نیاز با توجه به اطلاعات پردازش شده فعال شوند.
سلاح‌های کاملاً خودمختار، سیستم‌های تسلیحاتی هستند که می‌توانند به تنهایی و بدون دخالت انسانی، اهداف را انتخاب کرده و به سمت آنها شلیک کنند. سلاح‌های کاملاً خودمختار می‌توانند برای ارزیابی شرایط موقعیت در میدان نبرد و تصمیم‌گیری در مورد حمله مورد نیاز با توجه به اطلاعات پردازش شده فعال شوند.

در آوریل 2013، گروهی از سازمان های غیردولتی از جمله WILPF  کمپین توقف ربات های قاتل را  در لندن راه اندازی کردند.

 این کمپین یک فراخوان هماهنگ جامعه مدنی برای ممنوعیت توسعه، تولید و استفاده از سیستم‌های تسلیحاتی کاملاً خودمختار ایجاد کرده است و به دنبال رسیدگی به چالش‌های غیرنظامیان و قوانین بین‌المللی ناشی از این سلاح‌ها است.

 این کمپین مبتنی بر تجربیات قبلی از تلاش‌ها برای ممنوعیت مین‌های زمینی، مهمات خوشه‌ای و لیزرهای کورکننده است.

این کمپین بر پیامدهای اخلاقی توانمندسازی ماشین‌ها برای تصمیم‌گیری بین مرگ و زندگی انسان‌ها تاکید می‌کند.

 این دولت ها را ترغیب می کند که درباره معاهده ای مذاکره کنند که پیشگیرانه توسعه بیشتر و استفاده از سلاح های کاملاً خودمختار را ممنوع می کند.

 چنین معاهده ای شامل ممنوعیت توسعه، تولید و استقرار سلاح های کاملاً خودمختار خواهد بود. کمپین تاکید می کند که این موضوع باید به عنوان یک نگرانی فوری به ویژه از منظر بشردوستانه در نظر گرفته شود.

علاوه بر ممنوعیت از طریق یک معاهده بین المللی، کمپین همچنین خواستار ممنوعیت در سطح ملی از طریق قوانین ملی و سایر اقدامات سیاسی است. 

این کمپین به بیش از  100 سازمان عضو  تبدیل شده است که خواستار ممنوعیت سیستم‌های تسلیحاتی کاملاً خودمختار هستند و  تعداد روزافزونی از مردم را برای پیوستن به تلاش‌های کمپین برای حفظ کنترل انسانی بر خشونت  بسیج می‌کند. 

سلاح های کاملا خودمختار چیست؟

مهندس حمید تدینی: نویسنده و وبلاگ نویس مشهور، متخصص در زبان برنامه نویسی و هوش مصنوعی و ساکن آلمان است. مقالات روشنگر او به پیچیدگی های این زمینه ها می پردازد و به خوانندگان درک عمیقی از مفاهیم پیچیده فناوری ارائه می دهد. کار او به دلیل وضوح و دقت مشهور است. مهندس حمید تدینی: نویسنده و وبلاگ نویس مشهور، متخصص در زبان برنامه نویسی و هوش مصنوعی و ساکن آلمان است. مقالات روشنگر او به پیچیدگی های این زمینه ها می پردازد و به خوانندگان درک عمیقی از مفاهیم پیچیده فناوری ارائه می دهد. کار او به دلیل وضوح و دقت مشهور است.
نمایش بیشتر

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا