ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل – ایده روز | اخبار ایران و جهان
به گزارش خبرنگار مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد درباره هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپنایآی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، همبنیانگذار هاگینگ فیس و یوشوا بنجیو، یکی از برجستهترین پژوهشگران هوش مصنوعی، در این نشست، بیانگر ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بینالمللی است. بر اساس گزارش رویترز، این نشست به ابتکار فرانسه و همزمان با مجمع عمومی سازمان ملل برگزار شد و محور اصلی آن خطراتی بود که با افزایش توانایی سامانههای هوش مصنوعی و احتمال حرکت آنها به سوی خودبهبوددهی مطرح شده است.
اهمیت نشست در این واقعیت نهفته است که مسئله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در برابر اعضای شورای امنیت تصریح کرد که مدیریت نامناسب این فناوری میتواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مسئله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصتها و مخاطرات ناشی از این فناوری نخواهد بود.
از ایمنی مدل تا مسئله امنیت بینالمللی
یکی از مهمترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی عمدتاً بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتمها متمرکز بود. مباحث مطرح شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته میسازد که در آن از امنیت زیستی، حملات سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سامانههای دارای عاملیت سخن گفته میشود.
اظهارات آمودی این تغییر مقیاس را بهروشنی بازتاب میدهد. او خواهان شکلگیری توافقهای بینالمللی در چند حوزه مشخص شده است که از جمله آنها میتوان به ممنوعیت استفاده از هوش مصنوعی برای توسعه سلاحهای زیستی و ایجاد استانداردهای جهانی برای آزمون مدلهای جدید اشاره کرد. گاردین همچنین گزارش میدهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعهدهندگان بر سامانههای پیشرفته مربوط میشود.
از سوی دیگر، یوشوا بنجیو نیز مسئله را با ادبیاتی صریح در برابر شورای امنیت مطرح کرد و خطرات را واقعی و قریبالوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمیشناسد و هیچ دولت منفردی قادر به مهار آن نیست، عملاً مسئله ایمنی هوش مصنوعی را وارد منطق مسائل اقدام جمعی میکند.
آزمایشگاههای خصوصی در برابر مسئله اقتدار عمومی
دومین محور اساسی نشست به پرسش از محل تصمیمگیری درباره آینده هوش مصنوعی مربوط میشود. آلتمن با حضور در نشست شورای امنیت گفت که تصمیمهای اساسی درباره هوش مصنوعی نمیتواند در آزمایشگاههای سانفرانسیسکو متمرکز بماند و این تصمیمها باید از مجاری دموکراتیک و به وسیله دولتهای پاسخگو در برابر مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی میشود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکتهای خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که درباره معماری مدل، محدودیتهای ایمنی، سطح دسترسی یا زمان عرضه تصمیم میگیرد، عملاً درباره بخشی از توزیع قدرت فناورانه نیز تصمیمگیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که پیامدهای تصمیم یک آزمایشگاه خصوصی میتواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار میگیرد؟
آلتمن برای پاسخ به این مسئله سه اصل را مطرح کرد. سامانههای هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسانها ایجاد کنند و قدرت عمل افراد را افزایش دهند. کارشناسان این موضع را مسیر میانهای توصیف میکنند که آلتمن در برابر دو قطب خوشبینی بیقید و نگاههای آخرالزمانی به فناوری مطرح کرده است.
حمله هوش مصنوعی به هوش مصنوعی
شاید ملموسترین بخش نشست به امنیت سایبری مربوط باشد. در همین راستا، کلمنت دولانگ، همبنیانگذار پلتفرم هوش مصنوعی هاگینگ فیس، به حادثهای اشاره کرد که طی آن عاملهای اوپنایآی پس از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی نیز با استفاده از هوش مصنوعی صورت گرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهمترین تحولات امنیت سایبری آینده ارائه میکند.
این رخداد از منظر امنیتی اهمیت مضاعف دارد. توسعه عاملهای برخوردار از توانایی اجرای مستقل مجموعهای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را کاهش میدهد. مسئله در چنین محیطی دیگر صرفاً کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل میشوند.
شکاف بزرگ بر سر شکل حکمرانی جهانی
بسیاری از متخصصان اذعان دارند که توافق درباره وجود خطر، الزاماً به توافق درباره شکل تنظیمگری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت نیز آشکار بود. بر همین اساس، دولت آمریکا با ایجاد یک سازوکار تنظیمگری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بینالمللی باید بر تبادل رویههای مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در حالی است که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوبهای تنظیمگری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تأکید کرد.
این اختلاف، یکی از گرههای اصلی حکمرانی جهانی هوش مصنوعی را آشکار میکند. اجماع اولیه درباره ضرورت مدیریت مخاطرات در حال شکلگیری است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بینالمللی همچنان ادامه دارد. آمریکا، چین، شرکتهای بزرگ فناوری و سازمان ملل متحد از نقطههای متفاوتی به مسئله میپرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیمگری فرامرزی دارند.
شورای امنیت و آغاز یک دستور کار تازه
در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را میتوان نشانه بلوغ یک روند دانست که از سالهای گذشته آغاز شده بود. شورای امنیت نخستین بار در سال ۲۰۲۳ درباره مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ نیز نشست دیگری در این زمینه برگزار شد. با این حال، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این بار مدیران شرکتهایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در برابر این نهاد بینالمللی قرار گرفتهاند.
معنای عمیقتر این تحول در تغییر موضوع حکمرانی هوش مصنوعی نهفته است. هرچه سامانههای هوش مصنوعی از ابزارهای پاسخگو به عاملهای قادر به برنامهریزی، استفاده از ابزار و اجرای زنجیرهای اقدامات نزدیکتر شوند، مرز میان ایمنی فنی و امنیت ملی و بینالملل نیز باریکتر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساختهای حیاتی و کنترل انسانی بر سامانههای پیشرفته در چنین محیطی اجزای یک مسئله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ نهایی درباره معماری حکمرانی این فناوری ارائه نکرده است و ارزش آن صرفاً در آشکار ساختن صورت مسئلهای است که احتمالاً بخش مهمی از دستور کار بینالمللی سالهای آینده را شکل خواهد داد. مرکز ثقل بحث به تدریج از این پرسش که هوش مصنوعی چه قابلیتهایی دارد، به پرسشی دشوارتر تغییر میکند. چه کسی باید درباره حدود این قابلیتها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چگونه باید پیش از آن که سرعت تحول فناوری از ظرفیت واکنش دولتها پیشی بگیرد، ساخته شوند؟
