طرح استفاده از هوش مصنوعی برای ایجاد سلاحهای بیولوژیکی یکی از جدی‌ترین و بحث‌برانگیزترین خطرات است. برخلاف تهدید هسته‌ای که نیازمند ظرفیت‌های صنعتی عظیم است، سلاحهای بیولوژیکی ابتدا نیازمند اطلاعات و دسترسی به آزمایشگاه‌ها هستند. هوش مصنوعی می‌تواند این مانع را به طور اساسی کاهش دهد.

خطر کلیدی: کاهش موانع ورود

تهدید اصلی نه در این است که هوش مصنوعی خود بخواهد کسی را بکشد، بلکه این است که می‌تواند تولید سلاحهای بیولوژیکی را برای گروه کوچکی از افراد یا حتی افراد تنها قابل دسترس کند. اگر قبلاً برای این کار نیاز به سال‌ها آموزش و دسترسی به مواد پیچیده بود، اما اکنون هوش مصنوعی می‌تواند بخش قابل توجهی از کارهای هوشمندانه را برعهده بگیرد.

در سال ۲۰۲۶، شرکت آنتروپیک یک گزارش منتشر کرد که در آن پنج مورد واقعی توصیف شد که محققان از مدل خود برای کارهای بیولوژیکی بالقوه خطرناک استفاده کردند. به عنوان مثال، یکی از کاربران برنامه‌ریزی کرده بود که از هوش مصنوعی برای جستجوی جهش‌های ویروس چیکونگونیا استفاده کند که توانایی انتقال و دورزدن سیستم ایمنی را افزایش دهد. محقق دیگری روی تطبیق آنفلوآنزای مرغی به موجودات پستاندار کار می‌کرد که می‌توانست پتانسیل اپیدمی را افزایش دهد.

وقتی مدل به درخواست‌های خطرناک پاسخ نمی‌داد، کاربران راه‌های دور زدن پیدا می‌کردند. در یک مورد، درخواست‌ها به مدل‌های دیگری با تنظیمات کمتر سختگیرانه هدایت می‌شدند و دسترسی به سیستم از طریق پلتفرم‌های جانبی برای دور زدن محدودیت‌های جغرافیایی انجام می‌شد.

چگونه این می‌تواند اتفاق بیفتد: زنجیره رویدادها

تکنیکاً سناریوی فاجعه‌بار ممکن است به این صورت به نظر برسد.

1. طراحی. هوش مصنوعی که با مجموعه‌های بزرگ داده‌های بیولوژیکی آموزش دیده است، ژنوم یک پاتوژن جدید طراحی می‌کند. در حال حاضر، آزمایشاتی وجود دارد که در آن هوش مصنوعی ویروس‌های عملی را از صفر ایجاد کرده است که این امکان را نشان می‌دهد که ساخت توالی‌های ژنتیکی قابل زندگی ممکن است.
2. بهینه‌سازی ویژگی‌ها. مدل می‌تواند پیشنهاد کند که کدام جهش‌ها باید اعمال شوند تا ویروس قابل انتقال‌تر یا مقاوم‌تر به واکسن‌ها و داروهای موجود شود.
3. ساخت و مجموعه‌بندی. طراحی به آزمایشگاه برای ترکیب DNA منتقل می‌شود. این مرحله فیزیکی پیچیده‌ترین است و نیازمند تجهیزات و مواد است، اما هوش مصنوعی می‌تواند در برنامه‌ریزی لجستیک و حتی در پنهان‌سازی سفارشات برای ترکیب توالی‌های ژنتیکی خطرناک کمک کند.
4. انتشار. پاتوژن آماده شده به طریق اسپری یا روش دیگری در جمعیت هدف آزاد می‌شود.

چرا این دشوار اما غیرممکن نیست

در راه تحقق این سناریو موانع جدی وجود دارد.

محدودیت‌های فیزیکی: هوش مصنوعی نمی‌تواند به تنهایی ویروس را در آزمایشگاه ایجاد کند. برای این کار نیاز به آزمایشگاه‌های واقعی، تجهیزات و مواد است. متخصصان یادآوری می‌کنند که برای ایجاد ویروسی که برای انسان خطرناک است و نه باکتری، نیازمند تلاش‌های عظیم، زمان و پول است.

ناپredictability زیست‌شناسی: سیستم‌های بیولوژیکی به صورت تصادفی هستند. پاتوژن طراحی شده ممکن است جهش کند، کشندگی خود را از دست بدهد یا بدتر از آن، به ایجاد者也 بازگردد. به دلیل این غیرقابل پیش‌بینی بودن، بسیاری از کشورها از برنامه‌های بیولوژیکی حمله‌ای دست کشیده‌اند.

مکانیزم‌های حفاظتی: شرکت‌هایی که هوش مصنوعی را توسعه می‌دهند، فیلترهایی را پیاده‌سازی کرده‌اند که درخواست‌های خطرناک را مسدود می‌کنند. اما بر اساس گزارش، این فیلترها می‌توانند دور زده شوند و همیشه مؤثر نیستند در برابر مهاجمان هدفمند.

چه چیزی می‌توان در برابر آن قرار داد

متخصصان به توافق رسیدند که اقدامات چندلایه‌ای برای حفاظت مورد نیاز است. در حال حاضر، راه‌هایی که در حال بحث هستند عبارتند از.

• screening اجباری synthesis ژن. شرکت‌هایی که DNA ترکیبی فروخته‌اند باید بررسی کنند که آیا مشتریان درخواست توالی‌های ژنتیکی خطرناک را دارند یا خیر.
• کنترل بین‌المللی. کنوانسیون موجود در مورد سلاحهای بیولوژیکی قدیمی شده و تغییرات هوش مصنوعی را در نظر نمی‌گیرد. قراردادهای جدیدی نیاز است که مدل‌های هوش مصنوعی و مواد بیولوژیکی را پوشش دهند.
• اطلاع‌رسانی زودهنگام. ایجاد سیستم‌های سریع برای شناسایی وقوع بیماری‌های جدید که می‌تواند عامل بازدارنده‌ای باشد.

بنابراین، هوش مصنوعی خود به تنهایی سلاحهای بیولوژیکی را ایجاد نمی‌کند، اما به عنوان یک شتاب‌دهنده و مشاور قوی برای کسانی که قصد و دسترسی به آزمایشگاه‌ها را دارند، عمل می‌کند. خطر در این است که مانع ورود به این حوزه به طور ترسناکی کاهش می‌یابد.

Permanent link to this publication: