نوع مقاله : نقطه نظر
جنگ رمضان و مسائل حقوق بینالملل بشردوستانه
رضا موسیزاده*
مقدمه
در دهههای اخیر، ماهیت مخاصمات مسلحانه با ورود فناوریهای نوین، بهویژه هوش مصنوعی، دستخوش تحولات بنیادین شده است. در چنین شرایطی، نخستین و مهمترین قربانی، قواعد و هنجارهای حقوق بشردوستانه است. برای تحلیل حقوقی هر مخاصمهای، تفکیک میان دو حوزة مفهومی در حقوق بینالملل ضروری است: نخست، «حق بر جنگ»[1] که به مشروعیت توسل به زور میپردازد و دوم، «حق در جنگ»[2] که قواعد حاکم بر رفتار طرفین در حین مخاصمه را تنظیم میکند. سخنرانی حاضر با رویکردی تحلیلی، به ارزیابی تأثیرات بهکارگیری هوش مصنوعی بر هر دو حوزه، با تمرکز بر مخاصمات اخیر و مطالعة موردی فاجعة مدرسة میناب میپردازد.
1. بررسی مشروعیت توسل به زور (حق بر جنگ)
بر اساس تحلیل حقوقی، اقدام نظامی ایالات متحدة آمریکا و اسرائیل علیه تمامیت ارضی ایران، که در میانة مذاکرات دیپلماتیک و بدون مجوز شورای امنیت سازمان ملل متحد صورت گرفت، مصداق بارز «تجاوز»[3] است. در نظام حقوق بینالملل معاصر، تجاوز نظامی بهعنوان یکی از بزرگترین جنایات بینالمللی شناخته میشود که خود زمینهساز و بستر وقوع سایر جنایات جنگی میشود. از این منظر، زمانی که اقدام اولیه در توسل به زور، فاقد مشروعیت قانونی باشد، کلیة عملیات نظامی متعاقب آن، حتی اگر علیه اهداف مشروع نظامی صورت گیرد، از بنیان، غیرقانونی تلقی میشود. در چنین شرایطی، حمله به اهداف و اماکن غیرنظامی، مانند مدارس و مناطق مسکونی، نقض مضاعف و آشکار قواعد بنیادین حقوق بینالملل محسوب میشود.
2. فناوریهای نوین و قواعد حقوق بشردوستانه: تقابل هنجار و ابزار
مخاصمة اخیر که از آن با عنوان «جنگ رمضان» یاد میشود، میدانی برای آزمون گسترده و بیسابقة هوش مصنوعی در عملیات نظامی شده است. گسترة این کاربرد به حدی است که به اذعان کارشناسان، از تجارب پیشین در جنگهای اوکراین و غزه فراتر رفته است. چالش اصلی در این زمینه، شکاف عمیق میان «توسعة ابزاری» و «توسعة هنجاری» ارادة بشری است. به عبارت دیگر، پیشرفتهای فناوری در عرصة نظامی با سرعتی سرسامآور در حال وقوع است، در حالی که توسعة قواعد حقوقی و اخلاقی برای مهار و تنظیم این فناوریها، فرآیندی کند و متأخر است. این عدم توازن، زمینه را برای نقض گستردة حقوق بشردوستانه فراهم میآورد. اظهارات مقامات ارشد نظامی ایالات متحده مبنی بر اینکه «مشاوران حقوقی مانع عملیات نظامی هستند»، گواهی بر غلبة رویکرد مبتنی بر قدرت خام نظامی و نادیدهگرفتن اصول بنیادین حقوق بشردوستانه مانند انسانیت، تناسب و ضرورت نظامی است.
3. گونهشناسی سامانههای هوشمند در مخاصمات مسلحانه
میتوان سامانههای هوشمند بهکاررفته در جنگهای مدرن را در دو دستة اصلی طبقهبندی کرد که هر یک چالشهای خاص خود را به همراه دارند:
3-1. سامانههای تصمیمساز و پردازش اطلاعات
این سامانهها که با همکاری غولهای فناوری جهان توسعه یافتهاند، نقش «مغز متفکر» هدایت عملیات را بر عهده دارند. آنها قادرند حجم عظیمی از دادهها را در کسری از ثانیه تحلیل کرده و اهداف را شناسایی، اولویتبندی و برای حمله پیشنهاد دهند. سرعت بالای این فرآیند (که منجر به اجرای بیش از 1000 حمله در 24 ساعت ابتدایی جنگ شد) عملاً فرصت نظارت و ارزیابی دقیق انسانی را سلب و پرسشهای جدی در مورد دقت و قابلیت اتکای الگوریتمها در شرایط پیچیده و پویای میدان نبرد مطرح میکند.
3-2. سامانههای هماهنگکنندة عملیات (اجرایی)
این دسته شامل سامانههای تسلیحاتی کشندة خودران و نیمهخودران، بهویژه پهپادها و موشکهای هوشمند میشود. خطر نقض حقوق بشردوستانه در این سامانهها بهمراتب بیشتر است زیرا در این سیستمها، عامل انسانی که قادر به قضاوت اخلاقی و وجدانی است، از چرخة تصمیمگیری نهایی حذف یا به حاشیه رانده میشود. برخلاف خلبان که ممکن است در آخرین لحظه از اجرای فرمان غیرقانونی یا غیراخلاقی امتناع ورزد، ماشین خودکار فاقد چنین درک و قابلیتی است.
4. تحلیل حقوقی واقعة مدرسة میناب در پرتو اصول حقوق بشردوستانه
حمله به مدرسة میناب با استفاده از موشکهای تاماهاک که شناسایی آن توسط ابزارهای هوش مصنوعی صورت گرفت، نمونهای غمانگیز از ناکارآمدی این فناوریها در پایبندی به اصول بنیادین حقوق بشردوستانه است. خود مقامات آمریکایی نیز این رخداد را ناشی از «ضعف در شناسایی» دانستهاند. تحلیل دقیقتر این واقعه مستلزم بررسی سه اصل اساسی زیر است:
4-1. اصل تفکیک[4]
بر اساس ماده 48 پروتکل اول الحاقی به کنوانسیونهای ژنو، طرفین مخاصمه موظفاند همواره میان اهداف نظامی و اماکن غیرنظامی تفکیک قائل شوند. حمله به مدرسة میناب نشان داد که الگوریتمهای هوش مصنوعی در برابر پدیدههایی چون «شکنندگی الگوریتم»[5] و «فساد دادهها»[6] آسیبپذیر هستند. سیستم مذکور بر اساس دادههای قدیمی عمل کرده و به دلیل عدم بهروزرسانی اطلاعات، قادر به تشخیص تغییر کاربری و شناسایی ماهیت پویای محیط نبوده است. این ناتوانی در درک زمینه و پویایی واقعیت میدانی، اصل تفکیک را بهطور کامل بیاثر میکند.
4-2. اصل احتیاط در حمله[7]
مطابق با ماده 57 پروتکل اول الحاقی، طرف مهاجم ملزم است پیش از هرگونه حمله، تمامی اقدامات احتیاطی ممکن (ازجمله راستیآزمایی اهداف و انتخاب ابزار مناسب) را برای جلوگیری از تلفات و خسارات جانبی به غیرنظامیان اتخاذ کند. در جنگهای مبتنی بر هوش مصنوعی، به دلیل سرعت بسیار بالای عملیات، پدیدهای به نام «فشردگی تصمیم»[8] رخ میدهد. این امر منجر به «برونسپاری شناختی»[9] میشود؛ به این معنا که فرماندة انسانی به دلیل کمبود زمان، فرصت راستیآزمایی اطلاعات را از دست داده و اجرای اقدامات احتیاطی را کاملاً به خروجی ماشین واگذار میکند. در واقعة میناب، فقدان همین فرصت برای احتیاط و بازبینی انسانی، منجر به شلیک به یک هدف غیرنظامی شد.
4-3. اصل تناسب[10]
بر اساس ماده 51 پروتکل اول الحاقی، حملهای که در آن میزان تلفات و خسارات جانبی غیرنظامیان نسبت به «مزیت نظامی ملموس و مستقیم» مورد انتظار بیش از حد باشد، ممنوع است. چالش بنیادین هوش مصنوعی در این حوزه، ابتلا به «تقلیلگرایی کمی»[11] است. ماشینها و الگوریتمها تنها قادر به پردازش و محاسبة متغیرهای کمی و ریاضی هستند، اما سنجش اصل تناسب نیازمند قضاوت عمیقاً کیفی، اخلاقی و هنجاری است. هوش مصنوعی فاقد شعور و وجدان، نمیتواند ارزش جان کودکان مدرسه را در برابر ارزش انهدام یک هدف نظامی وزنکشی کند. از این رو ارزیابی تناسب که هستة مرکزی حقوق بشردوستانه است، توسط ماشینها مخدوش و غیرممکن میشود.
5. سطوح «کنترل معنادار انسانی» در جنگهای نوین
در مواجهه با چالشهای ناشی از ورود هوش مصنوعی به عرصة مخاصمات مسلحانه و پدیدة «برونسپاری شناختی»، حقوقدانان بینالمللی مفهوم بنیادین «کنترل معنادار انسانی»[12] را بهعنوان معیار ضروری مطرح کردهاند. برای تحلیل دقیقتر این مفهوم، تعامل میان انسان و ماشین در سامانههای تسلیحاتی در قالب طیف پنجمرحلهای (حلقههای تصمیمگیری) دستهبندی میشود:
1. درون حلقة تصمیمگیری:[13] در این سطح، کنترل کامل و مستقیم انسانی وجود دارد. بدون تأیید نهایی و دخالت مستقیم فرماندة انسانی، سامانه هیچگونه اقدام عملیاتی یا شلیکی انجام نمیدهد.
۲. ناظر بر حلقه:[14] ماشین در این وضعیت قابلیت اقدام نیمهخودکار دارد، اما انسان بر عملکرد آن نظارت لحظهای داشته و میتواند در صورت لزوم، فرآیند را متوقف کرده یا مداخله کند (مانند لغو حمله پیش از اصابت موشک یا هدایت پهپاد).
3. فراتر از حلقه:[15] نظارت انسان در این سطح، تنها بهصورت راهبردی و کلان است. انسان در جزئیات دقیق عملیات مداخلهای اعمال نمیکند و ماشین در انتخاب اهداف خرد دارای استقلال نسبی است.
4. همراه حلقه / همراستا:[16] در این وضعیت، فرآیند تعاملی و دوسویه میان انسان و ماشین برقرار است؛ به گونهای که تصمیمگیری نهایی حاصل همافزایی پردازش هوش مصنوعی و تحلیل انسانی است.
5. خارج از حلقه:[17] سامانه بهصورت کاملاً خودکار[18] عمل میکند. ماشین اهداف را شناسایی و ارزیابی میکند و بدون هیچگونه نیاز به تأیید یا نظارت انسان، تصمیم به شلیک و اجرای حمله میگیرد.
با توجه به روند پرشتاب توسعة فناوریهای نظامی، سامانههای تسلیحاتی همواره میل به استقلال بیشتر دارند و در نهایت به سوی وضعیت پنجم (خارج از حلقه) سوق پیدا میکنند. در اینجا پرسش اساسی حقوق بشردوستانه این است که آیا میتوان قواعد حقوقی را از محدودة مراحل دوم و سوم فراتر برد و اجازه داد سامانه بهصورت کاملاً مستقل تصمیم به کشتن بگیرد؟ پاسخ غالب حقوقدانان به این چالش، قاطعانه منفی است. حرکت به سمت استقلال کامل ماشین در تصمیمگیری برای کشتن، با اصول بنیادین حقوق بشر و کرامت انسانی در تضاد آشکار است. بر اساس مبانی حقوق بینالملل، گرفتن جان انسانها تصمیم کاملاً کیفی، هنجاری و اخلاقی است که نمیتواند و نباید به الگوریتمهای کمیتگرا تقلیل یابد. بسیاری از صاحبنظران معتقدند که مسئولیت مرگ و زندگی انسان نباید هرگز به الگوریتم فاقد شعور، شفقت و وجدان اخلاقی واگذار شود. از این رو حفظ سطحی از کنترل معنادار انسانی برای اجرای صحیح اصول تفکیک، احتیاط و تناسب، ضرورت گریزناپذیر حقوقی و اخلاقی در جنگهای نوین به شمار میآید.
نتیجه
فاجعة مدرسة میناب صرفاً خطای فنی یا حادثة منفرد نیست، بلکه هشداری عمیق برای تمدن بشری و نمادی از ورود بشر به عصر تاریک «جنگهای خودکار» است. تاریخ معاصر ایران، از جنگ تحمیلی تا تحریمهای یکجانبه، همواره آزمونگاهی برای سنجش کارآیی و عدالت در نظام حقوق بینالملل بوده است. واقعة میناب باید به نقطه عطفی برای بیداری وجدان جمعی بینالمللی تبدیل شود تا از تکرار چنین فجایعی جلوگیری شود. جامعة جهانی موظف است بدون فوت وقت، نسبت به تدوین نقشة راه حقوقی و اخلاقی برای تنظیم و محدودسازی توسعه و بهکارگیری سیستمهای تسلیحاتی خودران اقدام کند. ترمیم توسل به اخلاق جنگ و بازنگری در قواعد حقوق بشردوستانه، ضرورتی انکارناپذیر برای حفاظت از آیندة بشریت در برابر خشونتهای الگوریتمی و غیرانسانی است.
* استاد دانشکده روابط بینالملل وزارت امور خارجه، تهران، ایران r.mousazadeh88@gmail.com
[1] .Jus ad Bellum
[2]. Jus in Bello
[3]. Aggression
[4] .Principle of Distinction
[5]. Algorithm Fragility
[6]. Data Corruption
[7]. Principle of Precaution
[8]. Decision Compression
[9]. Cognitive Offloading
[10]. Principle of Proportionality
[11]. Quantitative Reductionism
[12]. Meaningful Human Control
[13]. Human in the Loop
[14]. Human on the Loop
[15]. Human over the Loop
[16]. Human with the Loop
[17]. Human out of the Loop
[18]. Autonomous
