کناره گیری هشدارآمیز پدرخوانده هوش مصنوعی از گوگل/ جفری هینتون: خطرات ربات‌های هوش مصنوعی خیلی ترسناک است
رویداد۲۴ جفری هینتون که از سوی بسیاری پدرخوانده هوش مصنوعی (اِی آی) شناخته می‌شود شغل خود در این رشته را ترک کرده و درباره خطرات فزاینده تحولات تازه در این زمینه هشدار داده است.
او به بی‌بی‌سی گفت برخی از خطرات «بات‌های مکالمه» (چت بات) هوش مصنوعی «خیلی ترسناک است.»
«تا جایی که من می‌دانم آن‌ها درحال حاضر از ما باهوش‌تر نیستند. اما فکر می‌کنم ممکن است به زودی چنین شود.»
تحقیقات ممتاز دکتر هینتون در زمینه یادگیری عمیق و شبکه‌های عصبی راه را برای توسعه سیستم‌های کنونی مثل «چت جی‌پی‌تی» هموار کرده است.
اما این متخصص ذهن‌شناسی و دانشمند علوم کامپیوتر گفت که توانایی «بات مکالمه» ممکن است به زودی از حجم اطلاعاتی که ذهن انسان ظرفیت نگهداری آن را دارد فراتر برود.
«درحال حاضر ما شاهدیم که پدیده‌ای مثل جی‌پی‌تی-۴ در زمینه حجم دانش عمومی از انسان جلو می‌زند، آن هم با فاصله زیاد. از نظر استدلال، آن قدرت را ندارد، اما همین حالا هم استدلال‌های ساده انجام می‌دهد.»
«و با توجه به سرعت پیشرفت، انتظار داریم که این فناوری با سرعت زیادی قوی‌تر شود؛ بنابراین جای نگرانی هست.»
دکتر هینتون در مقاله نیویورک تایمز به «بازیگران بد» که سعی خواهند کرد از هوش مصنوعی برای «مقاصد شرورانه» استفاده کنند اشاره می‌کند.
او در پاسخ به بی‌بی‌سی برای توضیح بیشتر گفت: «شاید این بدترین سناریوی ممکن باشد، یک کابوس.»
بیشتر بخوانید: آیا باید نگران هوش مصنوعی باشیم؟
«برای مثال می‌توانید تصور کنید که یک بازیگر بد مثل پوتین (رهبر روسیه) تصمیم بگیرد که توانایی ایجاد اهدافی فرعی را به ربات‌ها بدهد.»
او هشدار می‌دهد که این نهایتا ممکن است «باعث ایجاد اهدافی مثل 'من قدرت بیشتری می‌خواهم' شود.»
او می‌افزاید: «به این نتیجه رسیده‌ام که نوعِ هوشی که درحال توسعه آن هستیم خیلی متفاوت از هوشی است که ما داریم.»
«ما سیستم‌های بیولوژیکی هستیم و این‌ها سیستم‌های دیجیتال هستند. فرق بزرگ در مورد سیستم‌های دیجیتال این است که می‌توانید کپی‌های زیادی از یک سیستم با توانایی یکسان داشته باشید.»
«و همه این کپی‌ها می‌توانند به طور جداگانه آموزش ببینند و فورا دانش خود را با همدیگر به اشتراک بگذارند. مثل این است که ده هزار نفر باشند و وقتی یکی از آن‌ها یک چیز را آموخت، بقیه هم فورا همان چیز را فراگیرند. به این شکل است که این بات‌های مکالمه می‌توانند دانشی خیلی بیش از انسان داشته باشند.»
دکتر هینتون همچنین گفت که دلایل دیگری برای ترک شغل خود دارد.
«یکی اینکه ۷۵ سال دارم. پس وقت بازنشستگی است؛ و دلیل دیگر این است که حرف‌های مثبتی دارم که درباره گوگل بزنم؛ و وقتی برای گوگل کار نمی‌کنید، اعتبار این حرف‌ها بیشتر می‌شود.»
او تاکید کرد که نمی‌خواهد از گوگل انتقاد کند و این شرکت عظیم فناوری «خیلی مسئولانه عمل کرده است.»
