محقق آنتروپیک از ترس هوش مصنوعی استعفا داد – ایده روز | اخبار ایران و جهان

به گزارش ایده روز به نقل از مانی وایز، «جیکوب کاکسون» سه سال صرف ساخت مدل های هوش مصنوعی در اوپن ای آی و آنتروپیک کرده است. او روز هشتم سپتامبر از آنتروپیک استعفا داد و این صنعت را ترک کرد. او در شبکه اجتماعی ایکس نوشت: هیچ یک از دو شرکت مسئولانه رفتار نمی کنند. آنها برای بهبود ابرهوش مصنوعی خود و قمار با زندگی ما با یکدیگر رقابت می کنند.

کاکسون 27 ساله در اوایل سال به دلیل شهرت آنتروپیک در زمینه ایمنی، به این شرکت پیوست. او در مصاحبه ای با وال استریت ژورنال گفت اقدامات ایمنی واقعی است اما رقابت سبب می شود تعارض ها اجتناب ناپذیر شوند.

او در این باره گفت: ما در مسیر تحقق بسیاری از بدبینانه‌ترین سناریوها قرار داریم، به‌طوری‌که تا پایان سال آینده، اوضاع ممکن است از کنترل خارج شده باشد.

وی همچنین درباره افزود: افرادی که هوش مصنوعی را می سازند، صادقانه معتقدند این فناوری ممکن است تا پایان دهه جاری ما را بکشد.

به گفته کاکسون دست اندرکاران این صنعت در سکوت نگران این وضعیت هستند. البته او تنها کسی در آنتروپیک نیست که بحث انقراض انسان توسط هوش مصنوعی را مطرح کرده است. «اون هوبینگر»مسئول بخش هم‌راستاسازی (Alignment) این شرکت، نیز در اظهارنظری جداگانه گفت احتمال وقوع چنین رویدادی را بیش از ۱۰ درصد می‌داند.

ابر هوش مصنوعی مصنوعی به معنای سیستمی است که تقریبا در همه چیز از انسان ها باهوش تر است. خودبهینه سازی نیز یکی از وجوه نگران کننده این صنعت زیرا سیستمی را توصیف می کند که به طورخودکار کدهای خود را اصلاح می کند تا هوشش را بیشتر کند، مانند انسان.

در نتیجه این سیستم ها می توانند مقدار انبوهی دانش را به طور مستقل به دست بیاورند و احتمالا به زیرساخت های موسسات بزرگ نفوذ کنند.

کاکسون در این باره نیز می گوید: قدرت این فناوری را دست کم نگیرید. به زودی سیستم های ابر انسان که می توانند همه چیز را هک کنند، یک شبه هر حوزه یا متحول می کنند و به قدرت واقعی و منابع دست می یابند. ما همه شاهد پیشرفت در این حوزه ها بوده ایم و این فرایند کند تر نمی شود.