به گزارش پایگاه خبری ساعدنیوز به نقل از سی ان ان، در کنفرانس Ai4 در لاسوگاس، جفری هینتون با نگاهی نگران به آیندهای نهچندان دور پرداخت؛ آیندهای که در آن هوش مصنوعی نهتنها با تواناییهای ذهنی بیسابقه از انسان پیشی میگیرد، بلکه ممکن است تصمیم بگیرد ما دیگر ضرورتی برای ادامه حیات نداریم. او با تأکید گفت که جلوگیری از چنین سناریویی تنها در صورتی ممکن است که این سیستمها بهگونهای طراحی شوند که رفاه و امنیت بشر برایشان به یک ارزش بنیادین تبدیل شود؛ مشابه غرایزی که یک مادر را به حفاظت از فرزند وامیدارد.
هینتون توضیح داد که هوش مصنوعیِ عاملمحور، بهمحض دستیابی به استقلال تصمیمگیری، بهطور طبیعی دو هدف را دنبال خواهد کرد: حفظ بقا و افزایش کنترل بر محیط. این اهداف، بدون وجود چارچوب اخلاقی یا انگیزهای برای همدلی با انسان، میتوانند بهسرعت به تهدیدی برای بقای ما بدل شوند. از نگاه او، تلاش برای تحمیل کنترل بیرونی بر چنین سامانههایی راهحلی پایدار نیست؛ بلکه باید تمایل ذاتی به حمایت از انسانها در همان ساختار ذهنی آنها نهادینه شود.
او اعتراف کرد که هنوز روشن نیست چگونه میتوان چنین «غرایز مصنوعی» را خلق کرد، اما هشدار داد که بدون آن، احتمال کنار گذاشته شدن انسانها از سوی ماشینها بالا خواهد بود. هینتون این سناریو را تنها «پایان خوش» ممکن دانست و گفت: «اگر نتوانیم آنها را متقاعد کنیم که به ما اهمیت دهند، ما را جایگزین خواهند کرد.»
هینتون که زمانی پیشبینی میکرد رسیدن به هوش عمومی مصنوعی چندین دهه زمان ببرد، حالا این بازه را بین پنج تا بیست سال برآورد میکند و میگوید نشانهها حاکی از نزدیکتر بودن این نقطه عطف است. او ضمن اشاره به فواید بالقوه، مانند درمانهای نوآورانه برای بیماریهایی چون سرطان، یادآور شد که این مزایا تنها زمانی معنا دارند که مسیر توسعه هوش مصنوعی با تضمین امنیت و تداوم حیات انسان همراه باشد.
پیام اصلی او ساده اما هشداردهنده است: اگر میخواهیم در جهانی زندگی کنیم که ماشینها از ما بسیار باهوشتر هستند، باید کاری کنیم که آنها نهفقط از ما اطاعت کنند، بلکه به ما اهمیت بدهند.
برای پیگیری اخبار سیاسی اینجا کلیک کنید.
