گفت‌وگو با نوح هراری درباره هوش مصنوعی

گابور اشتاین‌گارت (برلین)
وبسایت هفته‌نامه آلمانی فوکوس
جمعه، ۱۸ اکتبر ۲۰۲۴

ایران امروز: تاریخ‌دان و نویسنده پرمخاطب، پروفسور یووال نوح هراری، با گابور اشتاین‌گارت، روزنامه‌نگار و نویسنده آلمانی درباره ظرفیت‌ها و خطرات هوش مصنوعی، آنچه که این فناوری را منحصربه‌فرد می‌کند و تأثیری که می‌تواند بر زندگی ما داشته باشد، به گفتگو نشسته است. گابور اشتاین‌گارت، سال‌ها خبرنگار و نویسنده «اشپیگل»، هفته‌نامه معتبر آلمانی بود.

پروفسور هراری در حوزه علوم، شخصیتی منحصربه‌فرد است؛ او هم تاریخ‌دان است و هم آینده‌پژوه. این دیدگاه او به حرفه‌اش بازمی‌گردد: «تاریخ مطالعه گذشته نیست، بلکه مطالعه تغییرات است.»

این نویسنده چندین کتاب پرفروش بین‌المللی (از جمله «تاریخ مختصر بشریت» و «هومو دئوس – تاریخ فردا») دارد که تاکنون ۴۵ میلیون نسخه از کتاب‌های خود را فروخته است. بسیاری از سیاستمداران، از جمله اوباما، مکرون و اخیراً رئیس‌جمهوری آلمان فدرال، فرانک-والتر اشتاین‌مایر، به‌طور شخصی از او مشاوره می‌گیرند. کتاب جدید او، «نکسوس(Nexus)-تاریخ مختصر شبکه‌های اطلاعاتی»، دیدی آخرالزمانی (یا شاید واقع‌بینانه؟) نسبت به هوش مصنوعی ارائه می‌دهد.

متن زیر خلاصه‌ا‌ی از مصاحبه یک ساعته گابور اشتاین‌گارت با پروفسور هراری است که در وبسایت هفته‌نامه آلمانی «فوکوس» منتشر شده است:

یووال نوح هراری: «بیشتر اطلاعات تخیل، فانتزی، تبلیغات و دروغ هستند.»

اشتاین‌گارت: هنگام نگارش این کتاب به نظر می‌رسد دچار کابوس‌هایی شده‌اید. در کتاب نوشته‌اید: «آنچه ما در مورد آن صحبت می‌کنیم، احتمالاً پایان تاریخ بشری است، نه پایان تاریخ، بلکه پایان بخش انسانی تاریخ.» چگونه به این نتیجه رسیدید؟

هراری: برای نخستین بار در تاریخ، چیزی بر روی این سیاره وجود دارد که نه انسانی است و نه حتی ارگانیک، اما می‌تواند دست به خلق بزند. این چیز می‌تواند هنر خلق کند، نظریات جدید علمی ابداع نماید و ایده‌های سیاسی یا مذهبی جدیدی مطرح کند. ما باید مکث کنیم و بهتر درک کنیم که زندگی در یک فرهنگ ترکیبی پس از هزاران سال زندگی در یک فرهنگ انسانی چه معنایی دارد.

اشتاین‌گارت: بنابراین، به‌جای صحبت از هوش مصنوعی، شما از هوش بیگانه، از نوعی هوش غیرانسانی صحبت می‌کنید، درست است؟

هراری: من از یک فرهنگ بیگانه صحبت می‌کنم که در آن تمام تولیدات فرهنگی – از اشیاء فیزیکی تا ایده‌ها – از یک هوش غیرارگانیک نشأت می‌گیرند.

اشتاین‌گارت: در کتابتان گفته‌اید: «تراشه‌های سیلیکونی می‌توانند جاسوسانی خلق کنند که هرگز نمی‌خوابند، سرمایه‌دارانی که هرگز چیزی را فراموش نمی‌کنند و مستبدانی که هرگز نمی‌میرند.» آیا ما هم‌اکنون کنترل خود را بر هوش مصنوعی از دست داده‌ایم؟

هراری: حقایقی در جهان وجود دارد، اما شناسایی آن‌ها روزبه‌روز دشوارتر می‌شود، زیرا ما در محیطی اطلاعاتی زندگی می‌کنیم که مملو از داده‌ها است و ما دائماً تحت بمباران اطلاعات قرار داریم. اطلاعات برابر با حقیقت نیست. بیشتر اطلاعات تخیل، فانتزی، تبلیغات و دروغ هستند.

«اگر انسان‌ها را با هوش مصنوعی جایگزین کنید، یک نظام استبدادی می‌تواند موفق شود»

اشتاین‌گارت: مردم جهان را نه تنها بر اساس سخنان سیاستمداران یا اینترنت، بلکه بر اساس حقایق ملموس قضاوت می‌کنند. آیا اوضاع ما نسبت به چهار سال پیش بهتر شده است؟ این سوالی است که در هر مبارزه انتخاباتی مطرح می‌شود و هر کسی می‌تواند به صورت شهودی به آن پاسخ دهد.

هراری: حقیقت یک بخش بسیار کوچکی از اطلاعات است. و چرا؟ چون حقیقت معمولاً هزینه‌بر است و خیال ارزان. خیال را می‌توان همان‌گونه که دوست دارید، ساده و دلخواه ساخت، اما حقیقت اغلب ناخوشایند و دردناک است. اگر جهان را با سیل اطلاعات پر کنید، حقیقت به اعماق فرو خواهد رفت.

اشتاین‌گارت: اما با این سخنان، شما توان قضاوت مردم را زیر سوال می‌برید. برای مثال، در آلمان شرقی، مردم خودشان را آزاد کردند. آن‌ها پشت تبلیغات رسمی و داستان‌های موفقیت را دیدند. هیچ گلوله‌ای شلیک نشد، زیرا سیستم کمونیستی از درون فروپاشیده بود – به لطف استفاده از هوش انسانی.

هراری: شاید ما فقط شانس آوردیم که بخشی از رهبری بلوک کمونیستی آماده بود که به‌طور مسالمت‌آمیز رفتار کند. اوضاع می‌توانست خیلی بدتر باشد. آنچه کمونیسم را در قرن بیستم واقعاً شکست داد، ناکارآمدی ساختار متمرکز آن بود. تعداد کمی از افراد باید تمام تصمیمات مهم را اتخاذ می‌کردند، نه تنها در سطح سیاسی، بلکه اقتصادی، اجتماعی و فرهنگی. این بسیار ناکارآمد بود. اما اگر انسان‌ها را با هوش مصنوعی جایگزین کنید، یک نظام استبدادی می‌تواند موفق شود.

اشتاین‌گارت: اما اگر هوش مصنوعی تصمیم بگیرد و دیکتاتور نباشد، دیگر او دیکتاتور نیست. آیا شبکه‌های اجتماعی و هوش مصنوعی در نهایت تأثیرات مثبتی بر دموکراسی ندارند؟ ناگهان هر کس می‌تواند پیام خود را منتقل کند، نه فقط قدرتمندان رسانه‌ای. سیاستمداران تحت فشار هستند، زیرا مردم می‌توانند با کمک هوش مصنوعی حقایق را سریع بررسی کنند.

هراری: وضعیت دموکراسی خوب نیست. در سراسر جهان، دموکراسی‌ها در حال بی‌ثبات شدن هستند. دموکراسی اساساً یک گفت‌وگو است. و آنچه می‌بینیم این است که مردم دیگر قادر به برقراری یک گفت‌وگوی معقول با همدیگر نیستند. آن‌ها دیگر نمی‌توانند به حرف یکدیگر گوش دهند.

«اگر همه در دوئل فریاد شرکت کنند، هیچ‌کس به دیگری گوش نمی‌دهد»

اشتاین‌گارت: گفت‌وگوی دموکراتیک هنوز کامل نیست، اما اکنون تعداد زیادی از مردم از کشورهای مختلف و اقشار مختلف شرکت می‌کنند. اقلیت‌ها شنیده می‌شوند. حتی کودکانی که ۷۰ سال پیش نظرشان در خانه پرسیده نمی‌شد، می‌توانند صحبت کنند.

هراری: این کافی نیست. اگر همه در یک دوئل فریاد شرکت کنند، هیچ‌کس به دیگری گوش نمی‌دهد. و راهی برای تصمیم‌گیری وجود ندارد. این دموکراسی نیست؛ این فقط هرج‌ومرج است. اگرچه همه صدایی دارند، اما اگر سیستم فروبپاشد، نتیجه خوبی نخواهد بود.

اشتاین‌گارت: چرا سیستم ما باید فروبپاشد؟

هراری: وقتی من از فروپاشی صحبت می‌کنم، منظورم این است که هر مبارزه انتخاباتی شبیه جنگ می‌شود. در یک دموکراسی شما رقبای سیاسی دارید. اما امروز بسیاری از مردم فکر می‌کنند که طرف دیگر نه تنها یک رقیب سیاسی است، بلکه دشمن است. دشمنی که سعی می‌کند آن‌ها را نابود کند و بازنده دیگر نتایج انتخابات را نمی‌پذیرد.

اشتاین‌گارت: این چه معنایی دارد؟

هراری: این وضعیتی را به وجود می‌آورد که دموکراسی دیگر نمی‌تواند کار کند. در کشور من، اسرائیل، دموکراسی در حال فروپاشی است و باید دید که در نوامبر چه در آمریکا رخ می‌دهد. هم‌اکنون بسیاری از جمهوری‌خواهان نمی‌خواهند فرزندانشان با دموکرات‌ها ازدواج کنند – و برعکس.

اشتاین‌گارت: آیا هوش مصنوعی مقصر این قطب‌بندی است؟

هراری: فناوری اطلاعات فعلی ساختارهای اجتماعی را متزلزل کرده است. شبکه‌های اجتماعی به منبع اصلی اخبار و ابزار اصلی سازماندهی مردم تبدیل شده‌اند. و این شبکه‌های اجتماعی به‌طور فزاینده‌ای توسط الگوریتم‌ها و هوش مصنوعی کنترل می‌شوند. این الگوریتم‌ها یاد گرفته‌اند که اگر بخواهند کسی را به پای صفحه بچسبانند و محتوا را با دیگران به اشتراک بگذارند، باید دکمه نفرت، ترس یا حرص را فشار دهند.

«این یک هشدار است، نه یک پیشگویی»

اشتاین‌گارت: دو دانشمند، اندرو مک‌آفی و اریک بریجولفسون، از «عصر دوم ماشین» صحبت می‌کنند، یعنی ادامه انقلاب صنعتی. در انقلاب صنعتی اول هم مردم ترس داشتند – ترس از کارخانه‌ها، ترس از شیفت‌های کاری، ترس از اینکه به زودی بی‌استفاده شوند.

هراری: در دوران نخستین ماشین‌ها، مردم نمی‌دانستند چگونه یک جامعه صنعتی خوب بسازند. بنابراین، آن‌ها دست به آزمایش زدند و برخی از این آزمایش‌ها وحشتناک بودند. امپریالیسم مدرن، فاشیسم و کمونیسم از جمله این آزمایش‌ها بودند.

اشتاین‌گارت: اما انسان‌ها از اشتباهات خود درس گرفتند و در نهایت بر امپریالیسم و کمونیسم غلبه کردند.

هراری: اگر مجبور باشیم دوباره از چرخه‌ای مانند امپریالیسم، توتالیتاریسم یا جنگ‌های جهانی عبور کنیم تا یاد بگیریم چگونه یک جامعه مبتنی بر هوش مصنوعی بسازیم، این برای میلیاردها نفر خبر بدی است. زیرا این بار ما قدرت تصحیح اشتباهات خود را نداریم.

اشتاین‌گارت: منظورتان چیست؟

هراری: ما در حال خلق بازیگران جدید هستیم، نه ابزارهای جدید. اگر یک ابزار جدید خلق کنید و به اشتباه از آن استفاده کنید، می‌توانید دفعه بعد از آن به‌درستی استفاده کنید. اما اگر بازیگران جدید خلق کنید و آن‌ها از کنترل خارج شوند، شاید دیگر فرصت تصحیح نداشته باشید. این یک هشدار است، نه یک پیشگویی.