آنتروپیک — شرکتی که Claude را میسازد — سیاست استفادهای دارد که بهصراحت کاربردهای نظامی کشنده را ممنوع میکند. پاپ فرانسیس در آخرین نامههای پاپی خود از «الگوریتمهای مرگ» سخن گفته است. در همین حال، رقبای آنتروپیک — گوگل، مایکروسافت و پالانتیر — میلیاردها دلار قرارداد با وزارت دفاع دارند. این شکاف نشاندهنده یکی از عمیقترین جنگهای درونی در تاریخ سیلیکونولی است: تعریف آیندهای که در آن فناوری با جنگ تلاقی پیدا میکند.
۱. سیاست آنتروپیک: آنچه AUP واقعاً میگوید
سیاست استفاده قابلقبول آنتروپیک (Acceptable Use Policy) صریحترین ممنوعیت نظامی در میان شرکتهای هوش مصنوعی پیشرو است. بخش پنجم این سیاست تحت عنوان «Activities That Endanger Safety» چند کاربرد را بهطور مستقیم ممنوع اعلام کرده است:
- سلاحهای کشنده مستقل (LAWS): استفاده از Claude در هر سیستمی که بدون نظارت انسانی معنادار تصمیم کشتن میگیرد.
- هدفگذاری نظامی: کمک به شناسایی، ردیابی یا هدفگیری افراد یا گروهها برای اقدامات خشونتآمیز.
- تسلیحات کشتارجمعی: هرگونه کمک در توسعه سلاحهای بیولوژیک، شیمیایی، هستهای یا رادیولوژیک.
- جنگ اطلاعاتی: کمپینهای تأثیرگذاری پنهان یا عملیات روانشناختی علیه جمعیتهای غیرنظامی.
اما همین سیاست در حوزههای خاکستری مبهم است. «تحلیل اطلاعاتی دفاعی» بهصراحت ممنوع نشده است. کمک به «برنامهریزی لجستیکی نظامی غیرکشنده» نیز در منطقه ابهام قرار دارد. آنتروپیک به برخی قراردادهای دولتی از طریق بستر Amazon Bedrock دسترسی میدهد — جایی که کنترل مستقیم بر کاربرد نهایی کمتر است.
«ما بر این باوریم که توسعه هوش مصنوعی ایمن و سودمند برای بشریت، مستلزم اجتناب از کاربردهایی است که میتوانند به نرمالسازی خشونت خودکار بدون نظارت انسانی منجر شوند.» — سیاست استفاده قابلقبول Anthropic، نسخه ۲.۴، ژانویه ۲۰۲۶
۲. پاپ و الگوریتمهای مرگ: موضع واتیکان
در بهمن ۱۴۰۴، واتیکان سندی منتشر کرد که اگرچه به اندازه رسانههای فناوری دیده نشد، اما از نظر تاریخی اهمیت فوقالعادهای دارد. این سند — که بهعنوان ادامه منطقی Laudato Si (نامه پاپی ۲۰۱۵ درباره محیطزیست) و Laudate Deum (۲۰۲۳) شناخته میشود — برای اولین بار موضع رسمی کلیسای کاتولیک را درباره هوش مصنوعی در جنگ بیان میکند.
مهمترین مفهوم معرفیشده در این سند، «Algorithmic Warfare and Human Dignity» است. این سند استدلال میکند که تفویض تصمیم کشتن به الگوریتم — حتی اگر انسانی در حلقه باشد — با کرامت ذاتی انسانی ناسازگار است، زیرا «مسئولیت اخلاقی را در دود منطق ماشین میپوشاند».
پاپ فرانسیس بهطور ویژه از «تلهگذاری الگوریتمی» سخن گفته — مفهومی که به سیستمهایی اشاره دارد که در آنها هوش مصنوعی شرایطی را میسازد که انسانها را عملاً مجبور به تأیید دستورات نظامی میکند، حتی اگر نظارت رسمی حفظ شده باشد. این مستقیماً به سیستمهایی مانند AEGIS Navy یا Iron Dome اشاره دارد که در آنها سرعت عمل سیستم، تصمیمگیری انسانی واقعی را عملاً غیرممکن میکند.
۳. طرف مقابل: گوگل، مایکروسافت و روایت «دفاع مسئولانه»
شرکتهایی که قراردادهای نظامی دارند، روایت متفاوتی ارائه میدهند. گوگل پس از Project Maven (۲۰۱۸) که منجر به خروج هزاران کارمند اعتراضی شد، سیاست هوش مصنوعی برای اهداف نظامی را محدودتر کرد. اما بعداً قراردادهای Project Nimbus با ارتش اسرائیل را امضا کرد — قراردادهایی که دوباره موج اعتراضات داخلی را برانگیخت.
مایکروسافت صریحتر عمل کرده است. Brad Smith، رئیس این شرکت، استدلال میکند که «دموکراسیها باید ابزار بهتری نسبت به اقتدارگرایان داشته باشند» و کمک به ارتشهای دموکراتیک را بهعنوان وظیفه اخلاقی میشناسد. مایکروسافت قراردادهایی با ناتو، ارتش آمریکا، و سرویسهای اطلاعاتی چندین کشور دارد. نسخههای خاص Azure OpenAI برای محیطهای نظامی تأییدیه امنیتی دارند.
Palantir — شرکتی که هویتش کاملاً با قراردادهای دفاعی و اطلاعاتی گره خورده — موضعی بازتر دارد. Alex Karp، مدیرعامل Palantir، بهصراحت گفته که «اگر ارزشهای غربی ارزش دفاع دارند، باید ابزارهای دفاع از آنها را بسازیم». پلتفرم Maven Smart System این شرکت در حال حاضر توسط ارتش آمریکا برای تحلیل میدان جنگ استفاده میشود.
«این دیدگاه که شرکتهای فناوری میتوانند از اعمال ریاستجمهوری و دموکراسی سر باز زنند، نه تنها سادهانگارانه است، بلکه خطرناک است.» — Alex Karp، مدیرعامل Palantir، مصاحبه با Financial Times، ۲۰۲۵
۴. شکاف درونی سیلیکونولی: دو نسل، دو فلسفه
پشت این بحث عمومی، یک انشقاق نسلی واقعی در صنعت فناوری وجود دارد. نسل اول سیلیکونولی — که بسیاری از آنها در دوران جنگ سرد بزرگ شدند و شرکتهایشان با قراردادهای دفاعی DARPA آغاز شد — هیچگونه تناقضی بین فناوری و دفاع ملی نمیبینند.
اما بسیاری از بنیانگذاران نسل جدید — از جمله Dario Amodei (آنتروپیک)، Ilya Sutskever (SSI) و گروههای تحقیقاتی مثل Redwood Research — با دیدگاهی کاملاً متفاوت رشد کردهاند. برای آنها، خطر اصلی نه یک دشمن خارجی مشخص، بلکه «خطر کاتاستروفیک هوش مصنوعی» است — سناریویی که در آن سیستمهای هوش مصنوعی قدرتمند، خواه توسط دموکراسیها یا اقتدارگرایان کنترل شوند، میتوانند به بیثباتی بنیادین جهان منجر شوند.
این تفاوت فلسفی بهطور مستقیم بر استراتژی تجاری تأثیر میگذارد. آنتروپیک در سال ۲۰۲۴ تأمین مالی ۴ میلیارد دلاری از Amazon دریافت کرد — اما حتی در متن این توافق نیز سعی شد محدودیتهایی برای کاربردهای نظامی مستقیم حفظ شود. این رویکرد «رشد پایدار با حفظ خطوط قرمز اخلاقی» برای برخی سرمایهگذاران جذاب و برای برخی دیگر آزاردهنده است.
۵. آیا بیطرفی ممکن است؟ تحلیل فلسفی
سؤال اساسی این است: آیا یک شرکت هوش مصنوعی میتواند واقعاً «بیطرف» بماند؟ چند استدلال مخالف وجود دارد:
استدلال اول — بیطرفی بهعنوان انتخاب: عدم فروش به نظامی خود یک انتخاب سیاسی است، نه بیطرفی. اگر آنتروپیک از فروش به ارتش آمریکا امتناع کند اما رقبایش این کار را انجام دهند، نتیجه این است که ابزارهای نظامی آمریکا از Claude محروم میشوند، نه اینکه هوش مصنوعی از جنگ حذف میشود.
استدلال دوم — مشکل اعمال: حتی اگر آنتروپیک API خود را به شرکتهای دفاعی نفروشد، مدلهای متنباز مشابه میتوانند برای اهداف نظامی Fine-tune شوند. Llama 3 Meta بدون هیچ محدودیتی قابل دانلود است. این یعنی ممنوعیت آنتروپیک تنها «پاک ماندن دستان خود» را ممکن میکند، نه جلوگیری از استفاده نظامی از هوش مصنوعی.
استدلال سوم — مزیت دموکراسی: آنچه Karp و Smith میگویند را نمیتوان بهراحتی رد کرد. اگر ارتشهای دموکراتیک ابزارهای هوش مصنوعی بهتری داشته باشند، آیا این به کاهش جنگها و حفاظت از غیرنظامیان کمک نمیکند؟ سیستمهای هوش مصنوعی که دقت را افزایش میدهند و آسیب جانبی را کاهش میدهند، میتوانند از این منظر اخلاقاً توجیهپذیر باشند.
آنتروپیک در پاسخ به این استدلالها موضعی دوگانه دارد. از یک طرف، اعتراف میکند که بیطرفی کامل ممکن نیست. از طرف دیگر، معتقد است که «باید خط قرمزهای عملیاتی داشت، حتی اگر ناقص باشند» — چون بدون این خطوط، سرمایه فکری لازم برای کار روی ایمنی هوش مصنوعی بلندمدت از بین میرود.
مقایسه موضع شرکتهای فناوری درباره هوش مصنوعی نظامی
سه رویکرد اساسی در صنعت فناوری برای سؤال آیا باید در توسعه سلاحهای خودکار کمک کنیم وجود دارد. این جدول نشاندهنده اختلافهای عمیق فلسفی بین آنتروپیک و رقبایانش است — اختلافی که نه صرفاً درباره تجارت، بلکه درباره تعریف مسئولیت است.
نشانهگذاری خطوط قرمز در آنتروپیک منحصر به فرد است. این شرکت تنهاای است که بهصراحت سیاستی دارد که کاربردهای نظامی کشنده را ممنوع میکند — نه بهخاطر محدودیتهای فنی، بلکه بهخاطر انتخاب اخلاقی.
| شرکت | موضع از نظامیشدن | فلسفه حاکم | قراردادهای دفاعی |
|---|---|---|---|
| آنتروپیک | ممنوع | ایمنی و اخلاق هوش مصنوعی | عدم وجود |
| گوگل | محدود (Project Nimbus) | کار دموکراتیک | میلیاردها دلار |
| مایکروسافت | مجاز برای دموکراسیها | دفاع غربی | میلیاردها دلار |
| پالانتیر | توجیهشده | حمایت از ارزشهای غربی | بسیار گسترده |
| پاپ فرانسیس | ممنوع | کرامت انسانی | موضع بینالمللی |
این جدول نشان میدهد که تنها نقاط اتفاق بین آنتروپیک و پاپ وجود دارد: هر دوی آنها بر این باورند که سلاحهای خودکار کشنده باید ممنوع شوند. اما دستورالعمل آنها برای صنعت بسیار متفاوت است.
نتیجهگیری: آیا این شکاف دائمی است؟
شکاف بین شرکتهای «دفاعمحور» مانند Palantir و Microsoft، و شرکتهای «ایمنیمحور» مانند Anthropic و Redwood Research، احتمالاً دائمی نیست — بلکه مرحلهای گذار در رسیدن صنعت به یک تعادل جدید است.
پاپ، با تمام تفاوتهای فلسفی با دانشمندان ایمنی هوش مصنوعی، روی یک نکته اتفاق نظر دارد: سرعت توسعه از ظرفیت اخلاقی بشر برای هضم آن پیشی گرفته است. در این نقطه، صداهای متفاوت — از واتیکان تا سانفرانسیسکو — یک پیام مشترک دارند: نیاز به توقف، تفکر، و تعریف خطوطی که نباید از آنها عبور کرد.
اما تا زمانی که این مرزها در قوانین بینالمللی تثبیت نشوند، هر شرکت منفرداً تعریف میکند که «مسئولیت» به چه معناست. و در این وضعیت، موضع آنتروپیک — هر چقدر هم که ناقص و قابل انتقاد باشد — حداقل این مزیت را دارد که یک پرسش اساسی را زنده نگه میدارد: آیا باید هر قدرت فنی را که میتوانیم بسازیم، بسازیم؟
پرسشهای پرتکرار
آنتروپیک چرا کاربردهای نظامی را ممنوع میکند؟
آنتروپیک بر این باور است که سلاحهای کشنده خودکار با کرامت انسانی ناسازگار است. شرکت معتقد است باید خطوط قرمز اخلاقی حفظ شود تا محیط فکری برای کار روی ایمنی هوش مصنوعی بلندمدت حفوظ بماند، حتی اگر این ممنوعیت کامل نباشد.
تفاوت موضع آنتروپیک و مایکروسافت درباره هوش مصنوعی نظامی چیست؟
مایکروسافت استدلال میکند که دموکراسیها باید ابزارهای بهتری نسبت به اقتدارگرایان داشته باشند. آنتروپیک درمقابل میگوید حتی در دموکراسیها، واگذاری کشتن به الگوریتم خطرناک است و باید ممنوع شود.
پاپ فرانسیس درباره هوش مصنوعی نظامی چه موضعی دارد؟
واتیکان در سند ۲۰۲۶ استدلال میکند که تفویض کشتن به الگوریتم، حتی با نظارت انسانی، با کرامت انسانی ناسازگار است. پاپ از تلهگذاری الگوریتمی سخن گفت که سرعت سیستم تصمیمگیری انسانی را عملاً غیرممکن میکند.
آیا موضع آنتروپیک مؤثر است اگر رقبایش قراردادهای دفاعی قبول کنند؟
منتقدان میگویند ممنوعیت آنتروپیک تنها پاک ماندن دستان خود را ممکن میکند. اما آنتروپیک معتقد است بدون خطوط قرمز، سرمایه فکری برای ایمنی هوش مصنوعی از بین میرود.