استفاده از هوش مصنوعی در امنیت باید با احتیاط و طراحی داخلی انجام شود – خبرگزاری مهر | اخبار ایران و جهان

محمود سلماسی‌زاده رئیس انجمن رمز ایران در گفتگو با خبرنگار مهر در خصوص امنیت داده‌ها در فضای مجازی به دنبال شکل‌گیری این فضا با هوش مصنوعی گفت: کاربردهای هوش مصنوعی در تأمین امنیت می‌تواند گسترده و مفید باشد اما هشدارها درباره جهت‌گیری مدل‌ها، حفاظت از داده‌های داخلی و خطرات استفاده از ابزارهای خارجی نشان می‌دهد که به‌کارگیری این فناوری باید با احتیاط، مدیریت و طراحی داخلی صورت گیرد تا استقلال دیجیتال و حریم خصوصی تهدید نشود.

وی توضیح داد: این فناوری در حوزه امنیت هم کاربردهای وسیعی می‌تواند داشته باشد. از هوش مصنوعی می‌توان برای ایجاد امنیت استفاده کرد.

این فعال حوزه امنیت سایبری اظهار کرد: باید ببینیم خود هوش مصنوعی چقدر اهمیت دارد، جهت‌گیری تصمیم‌گیری‌هایش چگونه است و مدل‌هایش چقدر امن هستند. دو یا سه ماه پیش بود یک مدل هوش مصنوعی که ایلان ماسک شرکتش را ساخته بود، از هیتلر ستایش کرد و بعد از اعتراض کاربران اعلام شد که مدل را تغییر می‌دهند؛ یعنی این مدل‌ها هدفدار و جهت‌دار هم هستند.

سلماسی در ادامه توضیح داد: استفاده از هوش مصنوعی در امنیت یک کارزار مهم است، اما موضوع این است که همه مسائل ما را نمی‌تواند حل کند و در کاربرد آن باید هوشیار بود. به ویژه داده‌های داخلی نباید به این سیستم‌های هوش مصنوعی پمپاژ شود با این کار اولاً پاسخ‌های هدفدار به آن‌ها داده می‌شود، دوماً وقتی داده ارسال شود دیگر قابل بازپس‌گیری نیست؛ مثل یک جنگ فیزیکی نیست که پس از مدتی بتوان آن را بازگرداند.

وی تاکید کرد: استقلال و حفظ استقلال دیجیتال بسیار مشکل‌تر از دیگر موارد است و قابل پس‌گیری نیست.

رئیس انجمن رمز ایران در انتها به اقدامات مهم کنفرانس انجمن رمز در زمینه هوش مصنوعی اشاره کرد و گفت: این موضوع یکی از محورهای کنفرانس ما بوده است. اکنون فراخوان برای شماره ویژه هم در مجله انگلیسی‌زبان و هم در مجله فارسی‌زبان درباره امنیت و هوش مصنوعی منتشر شده تا به توجه ایجادشده در کشور پاسخ داده شود و جوانان علاقه‌مند بتوانند فعال شوند. هدف آن است که به شکل علمی بررسی کنیم کجاها می‌توانیم از هوش مصنوعی استفاده کنیم و کجاها استفاده از هوش مصنوعی حریم خصوصی افراد یا حتی آمار ملی کشور را به خطر می‌اندازد.