یادداشت مهمان، امین اله داد: به این تصویر نگاه کنید. چهار افسر که در حال ادای سوگند پیوستن به ارتش امریکا هستند را میشناسید؟ از راست به چپ، کوین ویل(مدیر ارشد محصول OpenAI)، شیام سنکر(مدیر ارشد فناوری Palantir)، باب مکگرو(مدیر ارشد سابق تحقیق و توسعه OpenAI) و اندرو باسورث(مدیر ارشد فناوری Meta) با درجهی سرهنگی وارد ارتش ایالات متحده امریکا شدند.
شاید اگر ۱۰ یا ۱۵ سال قبل از هر یک از این چهار نفر یا سایر مدیران فناوری سیلیکون ولی در خصوص پیوستنشان به ارتش ایالات متحده میپرسیدند، هیچ ایدهای در این باره نداشتند. شاید از نگاه هر کدام از آنها دولت جایی بسیار خسته کننده بود و ترجیح میدادند که با فضای سرخوش و پر از هیجانهای کسب و کاری سیلیکون ولی مشغول باشند. سوال این است که از نقطهی شروع، تا تبدیل شدن که به یک شریک در عملیاتهای نظامی و امنیتی ارتش و سازمانهای جاسوسی امریکایی، دقیقاً چه مسیری طی شده است؟ از کدام تصمیم، برنامهی توسعه هوش مصنوعی برای بهبود کیفیت زندگی نسل بشر، به برنامهی پشتیبان اطلاعات ترور و کشتار تبدیل میشود؟ کسی میداند نقطه شروع مسیر انتخاب بین این «بهشت» و «جهنم» دقیقاً کجاست؟
واقعیت تلخ این است که استارت آپهای در مسیر موفقیت قربانیِ همان چیزهایی میشوند که آنها را بزرگ کرده است: داده، سرمایه، و گرسنگی برای بقا.
بیایید قصه تسلیحاتی شدن را نه از زبان ژنرالهای پنتاگون، که از زبان خود استارت آپهای سیلیکون ولی روایت کنیم.
مرحله اول: سرخوشی داده
هر استارت آپی برای بقا به دو چیز نیاز دارد: کاربر و داده. در ماههای اول، همه چیز ساده است. سیستم عامل تلفن همراه میگوید: «اگر حوصلهی تایپ کلمه عبور را نداری میتوانم قفل گوشی را با چهره یا اثر انگشتت باز کنم.» اپلیکیشن مسیریاب میگوید: «اجازه دسترسی به موقعیت مکانیتان را بدهید تا ترافیک را به شما نشان دهم.» اپلیکیشن فروشگاهی میگوید: «اجازه بدهید ببینیم چه خریدهاید تا پیشنهاد بهتری بدهیم.» اپلیکیشن شبکه اجتماعی میگوید «اجازه بدهید به گالری دسترسی پیدا کنیم که راحتتر عکس انتخاب کنید» و کاربر هم معمولاً اجازه میدهد. چرا؟ چون راحت است! چون زندگی را آسان میکند.
معمولاً استارت آپهای جوان در این مرحله هنوز نمیدانند روی چه گنجی نشسته اند. فقط میدانند که مجموعه داده بزرگی از «رفتار انسانها» دارند: کجا میروند، چه میخرند، چه ساعتی بیدار میشوند، چه مسیری را ترجیح میدهند.
مرحله دوم: شکار شدن توسط بازیگر بزرگ
اینجا جایی است که پایان خوش قدیمیها تمام میشود. یک سازمان بزرگ - گاهی دولتی، گاهی نظامی، گاهی امنیتی – معمولاً از طریق واسطههای خوشنام به درِ استارت آپ میزند.
نه با لباس سربازی! با لباس یک «همکار تجاری»!
پیشنهادش ساده است: «ما به دیتای شما برای بهینهسازی یک پروژه بزرگ نیاز داریم. پول خوبی هم میدهیم.»
استارت آپ چه پاسخی میدهد؟ سه جواب محتمل وجود دارد:
جواب اول (واقعبینانه) : «باشه، ما نیاز به درآمد داریم.» (در این حالت، بدون اینکه بداند، گره اول را زده است.)
جواب دوم (ترسیده) : «نه! ولی اگر نه بگویم، مجوزهایم را میبندند. پس مجبورم بله بگویم.»
جواب سوم (سادهلوحانه) : «این پروژه به مردم کمک میکند. فرقی نمیکند کارفرما کیست.»
در هر سه حالت، خط قرمز رد شده است. آن دادههای بیگناه و غیرتهاجمی، حالا در اختیار سامانهای قرار گرفته که میتواند از آن برای مقاصد دیگری غیر از «پیشنهاد خرید» استفاده کند.
مرحله سوم: عادی شدن زشتی
یک سال بعد، همان بنیانگذاری که «هیچ ایدهای در خصوص همکاری با ارتش و سازمان جاسوسی نداشت»، حالا در یک جلسه رسمی نشسته و با افتخار میگوید: «ما با سازمانهای بزرگ همکاری میکنیم.» تیمش بزرگتر شده، حقوقها بیشتر شده، و دیگر هیچ کس سوال «چرا؟» را نمیپرسد.
تسلیحاتی شدن فناوری، فرآیندی تدریجی و خزنده است، نه یک انفجار ناگهانی. یک شب، کسی تصمیم نمیگیرد «گوگل مپس را تبدیل به سیستم ناوبری موشک کند». بلکه قدمقدم، تصمیمات کوچک، اخلاقیات را فرسایش میدهند.
اما تقصیر کیست؟ استارت آپ یا سیستم؟
جواب سیاهوسفید نیست. استارت آپها حتی اگر در شرایط بقا کار نکنند هم به قوانین کشور میزبان خود متعهدند. وقتی قوانین این حوزه عمداً شفاف نیست، وقتی مرز میان «همکاری مفید» و «تسلیحاتی شدن» در هیچ قراردادی مشخص نشده و وقتی تنها ارزش مقدس یک زیستبوم «رشد به هر قیمت» باشد، طبیعی است که قربانی شوند.
اما از طرف دیگر، «نمیدانستم» هم دیگر دفاع قابل قبولی نیست. فناوری در قرن بیستویکم، مانند آب، برق و بنزین، یک «کالای استراتژیک» است. نمیتوان آن را ساخت و بعد ادعا کرد «نمیدانستم به کجا ختم میشود».
مثال عینی؛ در سال ۲۰۱۸، شرکت «گوگل» با وزارت دفاع آمریکا قرارداد پروژهی MAVEN را امضا کرد. هدف ظاهری پروژه بهبود دقت پهپادها با کمک هوش مصنوعی بود. بعد از اعتراضهای گسترده کارمندان، گوگل مجبور به لغو قرارداد شد. ۴۰۰۰ نفر از کارمندانش در اعتراض استعفا دادند. آنها میدانستند «خط قرمز» کجاست.
آیا همه کارکنان همه استارت آپها چنین جسارتی دارند؟ آیا همین کار در سال ۲۰۲۶ مجدداً در گوگل امکانپذیر است؟ آیا قانونی وجود دارد که به همبنیانگذاران استارت آپ اجازهی «نه گفتن» بدهد؟ آیا زیستبومی که «رشد افسارگسیخته» را تشویق میکند، ابزار تشخیص مرزها را هم در اختیارش میگذارد؟
پیش از پایان این یادداشت، از شما میخواهم یک بار دیگر به چهرهی آن چهار افسر رده بالای ارتش امریکا نگاه کنید و کمی دربارهی آنها در وب جستجو کنید. آنچه درباره آنها میخوانید و میبینید را کنار صدای انفجارهای تهران و اصفهان و تبریز و بندرعباس قرار دهید. باور مشارکت این چهرهها در جنایتی مثل مدرسه میناب در گام اول خیلی سخت است.
شاید وقتش رسیده که ما ساده نباشیم...