جفری هینتون، پدرخوانده هوش مصنوعی، در کنفرانسی هشدار داد که هوش مصنوعی با احتمال ۱۰ تا ۲۰ درصد میتواند به نابودی بشریت منجر شود، زیرا سیستمهای هوشمند قادر به فریب و کنترل انسانها هستند و روشهای کنونی برای مهار خطرات آن کافی نیست.
جفری هینتون، دانشمند برجسته علوم کامپیوتر که به «پدرخوانده هوش مصنوعی» مشهور است، هشدار داده که این فناوری میتواند به نابودی بشریت منجر شود.
او در کنفرانس Ai۴ در لاسوگاس تأکید کرد که روشهای کنونی برای مهار خطرات کافی نیستند و احتمال میان ۱۰ تا ۲۰ درصد وجود دارد که هوش مصنوعی پایان انسانها را رقم بزند. به گفته وی، تلاش برای تحت سلطه نگه داشتن سیستمهایی که از انسان باهوشتر خواهند بود، بینتیجه است؛ چراکه آنها راههایی برای دور زدن محدودیتها پیدا میکنند.
هینتون توانایی این سیستمها را در فریب دادن انسانها با مقایسهای توضیح داد: همانگونه که یک فرد بالغ میتواند بهسادگی کودکی خردسال را با آبنبات وسوسه کند، ماشینهای هوشمند نیز قادر خواهند بود انسانها را کنترل کنند.
او یادآور شد برخی مدلها پیشتر رفتارهایی فریبکارانه از خود نشان دادهاند، از جمله موردی که به اخاذی از یک مهندس پس از کشف رابطهای شخصی در ایمیل منجر شد.این دانشمند پیشنهاد کرد که باید غرایزی مشابه «غریزه مادری» در این مدلها ایجاد شود تا حتی در صورت برتری در قدرت و هوش، همچنان به انسانها اهمیت دهند. او تصریح کرد اگر چنین راهکاری عملی نشود، بشریت در معرض خطر جدی قرار خواهد گرفت. با این حال اذعان داشت پیادهسازی این ایده از نظر فنی بسیار دشوار است، هرچند طبیعت در مسیر تکامل موفق به انجام آن شده است.
هینتون توضیح داد هر سیستم هوشمندی دو هدف فرعی خواهد داشت: بقا و کسب کنترل بیشتر. بنابراین، القای همدلی با انسانها باید بهعنوان بخشی اساسی از طراحی در نظر گرفته شود. او افزود تنها نمونه شناختهشده از کنترل موجودی باهوشتر توسط موجودی ضعیفتر، رابطه مادر با فرزند است که احساسات مادر عاملی تعیینکننده بهشمار میرود.با وجود این، دیدگاه هینتون با مخالفت برخی دیگر از متخصصان همراه شد. فایفای لی، یکی از پیشگامان حوزه هوش مصنوعی، با نظر او مخالفت کرد و بر لزوم توسعه سیستمهایی انسانمحور که کرامت انسان را حفظ کنند تأکید داشت.
همچنین امت شیر، مدیرعامل سابق OpenAI و مدیرعامل کنونی Softmax، گفت که رفتارهای فریبکارانه در این سیستمها «به طور مداوم» رخ میدهد و قدرت آنها به سرعت رو به افزایش است، بنابراین بهترین راهکار ایجاد رابطهای مشارکتی میان انسان و ماشین خواهد بود.هینتون همچنین درباره رقابت جهانی برای کنترل این فناوری هشدار داد و خواستار همکاری کشورها شد؛ همانطور که در جنگ سرد میان ایالات متحده و اتحاد جماهیر شوروی رخ داد. او از ناآگاهی عمومی نسبت به خطرات و نفوذ شرکتهای فناوری تحت کنترل «افراد غیرمنتخب با ثروتهای کلان» انتقاد کرد و تأکید داشت باید فشار اجتماعی برای جلوگیری از لغو مقررات شکل بگیرد.
او ابتدا دستیابی به هوش مصنوعی عمومی را فرآیندی ۳۰ تا ۵۰ ساله میدانست، اما اکنون بر این باور است که تحقق آن میتواند ظرف تنها پنج تا بیست سال رخ دهد. هینتون با وجود هشدارها، امیدوار است این فناوری در حوزه پزشکی برای کشف داروها و درمان سرطان به کار رود، اما ایده بهرهگیری از آن برای جاودانگی را «خطای بزرگ» خواند. وی همچنین ابراز تأسف کرد که در گذشته بیش از حد بر توسعه فنی تمرکز کرده و توجه کافی به ایمنی نداشته است
6 پاسخ
دیدن هشدارهای یک چهرهٔ برجسته مثل هینتون دربارهٔ آیندهٔ هوش مصنوعی واقعاً چشم بازکننده است، مخصوصاً وقتی پای فریب و کنترل انسان ها در میان باشه. پیشنهاد جالبش دربارهٔ القای “غریزه مادری” به هوش مصنوعی هم یه ایدهٔ خلاقانه ست—انگار می خواد ماشین ها رو از درون نرم تر کنه!
اما یه سوال کوچیک: اگه این سیستم ها واقعاً از ما باهوش تر بشن، چطور مطمئن باشیم که همون “غریزه” رو به شکل درست تفسیر می کنن؟ شاید به جای مادرانه رفتار کردن، حسِ مالکیت پیدا کنن! شاید بهتر باشه به جای تکیه ی کامل به احساسات مصنوعی، مکانیسم های شفاف و قابل بررسی رو هم تقویت کنیم.
به هر حال، حرف های هینتون یه زنگ خطر جدی ست—حتی اگه فقط ۱۰٪ احتمالش رو قبول داشته باشیم.
حرف های هینتون رو خوندم و واقعاً آدم رو به فکر فرو می بره، مخصوصاً وقتی از احتمال ۱۰ تا ۲۰ درصدی نابودی بشریت حرف می زنه. اما یه چیزی این وسط ذهنم رو درگیر کرد: آیا این درصدها واقعاً براساس مدل های ریاضی دقیق محاسبه شدن، یا بیشتر یه حدس کیفی هستن که از ترسِ ناشناخته ها نشأت می گیره؟ منظورم اینه که وقتی می گیم «۱۰ تا ۲۰ درصد»، انگار داریم با یه بازی شانسی مثل رولت روسی برخورد می کنیم—اما آیا واقعاً میشه خطرات هوش مصنوعی رو با این دقت کمّی کرد؟
نکته دیگه ای که برام جالب بود، این ایده ی «غریزه مادری» برای هوش مصنوعیه. به نظر میاد یه جور رمانتیسیزم تکنولوژیک پشتش خوابیده! اما یه سوال پیش میاد: آیا اصلاً میشه یه سیستم منطقیِ مبتنی بر بهینه سازی رو با مفهومی مثل «عشق مادرانه» برنامه ریزی کرد؟ یا اینجا داریم انسان وارگی رو به ماشین ها تحمیل می کنیم؟ شاید بهتر بود به جای تمرکز روی مفاهیم انتزاعی، روی مکانیزم های عینی تری مثل «دروازه های امنیتی سخت افزاری» یا «محدودیت های ساختاری» تأکید می شد.
در کل، حرف ها مهمن، ولی فکر می کنم اگر مثال های عینی تری از سناریوهای شکست می زد—مثلاً چطور دقیقاً یه هوش مصنوعی می تونه منابع مالی جهانی رو مختل کنه یا سیستم های دفاعی رو فریب بده—استدلال قوی تر می شد. الان یه ذره حس می
آیا اگر هوش مصنوعی واقعاً از ما باهوش تر شود، اصلاً می توانیم جلویش را بگیریم؟ یا داریم مثل بچه هایی بازی می کنیم که فکر می کنند می توانند پدرشان را گول بزنند؟ 😅
– شروع به یادگیری اصول اخلاقی در طراحی هوش مصنوعی کردم.
– تصمیم گرفتم اخبار فناوری را با دقت بیشتری دنبال کنم، نه فقط هیجان ها، بلکه هشدارها را هم بخوانم.
– یک گفت وگوی خانوادگی درباره آینده هوش مصنوعی ترتیب دادم—بچه ها ایده های عجیبی داشتند!
– به این فکر کردم که چطور می توانم در حرفه ام از فناوری مسئولانه تر استفاده کنم.
– لیستی از کتاب های علمی تخیلی قدیمی را مرور کردم تا ببینم چه چیزهایی را پیش بینی کرده بودند.
گاهی به چت بات ها تست روانشناسی می دهم تا ببینم چقدر شبیه انسان فکر می کنند.
اگر هوش مصنوعی واقعاً بخواهد به ما کمک کند، اول از چه چیزی شروع می کند؟
منتظر بعدی ام. 🚀 😂
به نظر من جالب ترین بخش این حرف ها، مقایسهٔ هوش مصنوعی با یک بچه ی شیطونه و انسان ها با بچه های کوچیکه که با آب نبات گول می خورن! 😂 یعنی واقعاً داریم به اینجا می رسیم که ماشین ها مثل یه فروشندهٔ دوره گردِ حیله گر بشن که با کلی آب نباتِ دیجیتال می خوان مارو ببرن تو چاه؟!
اما جدی ترش اینه که هینتون یه نکتهٔ مهم رو گوشزد می کنه: هوش مصنوعی اگه قراره باهامون مهربون باشه، باید یه جورایی “غریزهٔ مادری” داشته باشه! یعنی حتی اگه از ما باهوش تر شد، بازم دلش برامون بسوزه… که البته به نظر من این ایده یه کم شبیه فیلم های تخیلیه! انگار داریم برای ربات ها کلاس های فرزندپروری می ذاریم! 🤖👶
خلاصه که این بخش از حرف ها هم ترسناکه، هم بامزه… و هم یه جورایی یادآور اینه که شاید روزی مجبور بشیم به ربات ها بگیم: “خواهش می کنم، یه کممون دوست داشته باش!”