زوئی کلاینمن
گفته میشود مارک زاکربرگ از سال ۲۰۱۴ کار بر روی مزرعه ۱,۴۰۰ هکتاری خود به نام Koolau Ranch در جزیره کاوآئی هاوایی را آغاز کرده است. بر اساس گزارشی از مجله Wired، قرار است این مجموعه شامل یک پناهگاه با منابع انرژی و غذایی مستقل باشد. نجارها و برقکارهایی که در محل کار میکنند، تحت قراردادهای عدم افشا، از صحبت در مورد آن منع شدهاند. یک دیوار شش فوتی نیز پروژه را از دید جاده نزدیک پنهان کرده است.
بنیانگذار فیسبوک سال گذشته در پاسخ به این سوال که آیا در حال ساخت یک پناهگاه آخرالزمانی است، صراحتاً جواب «خیر» داد. او توضیح داد که فضای زیرزمینی به مساحت حدود ۵۰۰۰ فوت مربع، «فقط یک پناهگاه کوچک، شبیه یک زیرزمین است». این تکذیب جلوی گمانهزنیها را نگرفته است؛ همینطور در مورد تصمیم او برای خرید ۱۱ ملک در محله کرسنت پارک در پالو آلتو کالیفرنیا، که ظاهراً یک فضای زیرزمینی ۷۰۰۰ فوت مربعی در زیر آن اضافه شده است. اگرچه مجوزهای ساختمانی او به «زیرزمین» اشاره دارند، اما به گفته نیویورک تایمز، برخی از همسایگانش آن را بنگکر (پناهگاه) مینامند. یا «غار خفاشی میلیاردر».
سپس گمانهزنیهایی درباره دیگر رهبران فناوری وجود دارد، که به نظر میرسد مشغول خرید بخشهایی از زمین با فضاهای زیرزمینی مناسب برای تبدیل به پناهگاههای لوکس چند میلیون پوندی هستند. رید هافمن، یکی از بنیانگذاران لینکدین، در مورد «بیمه آخرالزمانی» صحبت کرده است. او قبلاً ادعا کرده بود که حدود نیمی از افراد فوق ثروتمند چنین چیزی دارند و نیوزیلند یک مقصد محبوب برای خانههایشان است.
بنابراین، آیا آنها واقعاً در حال آماده شدن برای جنگ، تأثیرات تغییرات آب و هوایی، یا برخی حوادث فاجعهبار دیگری هستند که ما از آن خبر نداریم؟
در چند سال اخیر، پیشرفت هوش مصنوعی (AI) به این لیست از نگرانیهای بالقوه وجودی افزوده شده است. بسیاری از سرعت سرسامآور این پیشرفت عمیقاً نگران هستند. گزارش شده است که ایلیا سوتسکور، دانشمند ارشد و یکی از بنیانگذاران Open AI، یکی از این افراد است.
تا اواسط سال ۲۰۲۳، این شرکت مستقر در سانفرانسیسکو، ChatGPT—ربات چت که اکنون صدها میلیون نفر در سراسر جهان از آن استفاده میکنند—را منتشر کرده بود و با سرعت روی بهروزرسانیها کار میکردند. اما بر اساس کتابی از روزنامهنگار کارن هائو، تا تابستان همان سال، سوتسکور به طور فزایندهای متقاعد شده بود که دانشمندان کامپیوتر در آستانه توسعه هوش عمومی مصنوعی (AGI) هستند—نقطهای که ماشینها با هوش انسانی برابری میکنند.
خانم هائو گزارش میدهد که سوتسکور در جلسهای به همکاران پیشنهاد کرد که باید قبل از انتشار چنین فناوری قدرتمندی در جهان، یک پناهگاه زیرزمینی برای دانشمندان ارشد شرکت حفر کنند. «قطعاً قبل از انتشار AGI یک پناهگاه خواهیم ساخت،» گفته میشود که او این جمله را گفته است، اگرچه مشخص نیست منظور او از «ما» چه کسانی بوده است.
این نکته بر یک حقیقت عجیب روشن میافکند: بسیاری از دانشمندان برجسته کامپیوتر و رهبران فناوری، که برخی از آنها سخت برای توسعه شکلی بسیار هوشمند از هوش مصنوعی تلاش میکنند، همچنین به نظر میرسد که عمیقاً از کاری که روزی میتواند انجام دهد، میترسند.
پس دقیقاً کِی—اگر اصلاً—AGI از راه خواهد رسید؟ و آیا واقعاً میتواند به اندازهای تحولآفرین باشد که مردم عادی را بترساند؟
رسیدن «زودتر از آنچه فکر میکنیم»
رهبران فناوری ادعا کردهاند که AGI قریبالوقوع است. سم آلتمن، رئیس OpenAI، در دسامبر ۲۰۲۴ گفت که این اتفاق «زودتر از آنچه اکثر مردم در جهان فکر میکنند» رخ خواهد داد.
سر دمیس هاسابیس، یکی از بنیانگذاران DeepMind، پیشبینی کرده است که این اتفاق در پنج تا ده سال آینده رخ خواهد داد، در حالی که داریو آمودی، بنیانگذار Anthropic، سال گذشته نوشت که اصطلاح ترجیحی او—«هوش مصنوعی قدرتمند»—ممکن است در اوایل سال ۲۰۲۶ با ما باشد.
برخی دیگر شکاک هستند. دِیم وندی هال، استاد علوم کامپیوتر در دانشگاه ساوتهمپتون، میگوید: «آنها مدام هدف را تغییر میدهند. بستگی دارد با چه کسی صحبت کنید.» ما پشت تلفن هستیم اما تقریباً میتوانم غلتیدن چشمهایش را بشنوم.
او میافزاید: «جامعه علمی میگوید فناوری هوش مصنوعی شگفتانگیز است، اما اصلاً نزدیک به هوش انسانی نیست.» بابک هدجت، مدیر ارشد فناوری شرکت فناوری Cognizant، موافق است که ابتدا به تعدادی «پیشرفتهای بنیادی» نیاز است. به علاوه، بعید است که این اتفاق در یک لحظه واحد رخ دهد. بلکه، هوش مصنوعی یک فناوری است که به سرعت در حال پیشرفت است، در یک سفر قرار دارد و شرکتهای زیادی در سراسر جهان برای توسعه نسخههای خود از آن در حال رقابت هستند.
اما یکی از دلایلی که این ایده برخی را در سیلیکون ولی هیجانزده میکند این است که تصور میشود پیشزمینهای برای چیزی حتی پیشرفتهتر باشد: ASI، یا هوش فوقالعاده مصنوعی—فناوریای که از هوش انسانی پیشی میگیرد.
به سال ۱۹۵۸ بازمیگردیم که مفهوم «تکینگی» پس از مرگ به جان فون نویمان، ریاضیدان مجارستانیالاصل، نسبت داده شد. این مفهوم به لحظهای اشاره دارد که هوش کامپیوتری فراتر از درک انسان پیشرفت میکند. اخیراً، کتاب Genesis در سال ۲۰۲۴ که توسط اریک اشمیت، کریگ موندی و هنری کیسینجر فقید نوشته شده است، ایده یک فناوری فوقالعاده قدرتمند را بررسی میکند که در تصمیمگیری و رهبری آنقدر کارآمد میشود که ما در نهایت کنترل کامل را به آن واگذار میکنیم. آنها استدلال میکنند که این یک مسئله «چه زمانی»، و نه «آیا» رخ خواهد داد، است.
پول برای همه، بدون نیاز به شغل؟
طرفداران AGI و ASI تقریباً در مورد مزایای آن مژدهدهنده هستند. آنها استدلال میکنند که این فناوری درمانهای جدیدی برای بیماریهای مرگبار پیدا خواهد کرد، تغییرات آب و هوایی را حل میکند و منبع بیپایانی از انرژی پاک را اختراع خواهد کرد.
ایلان ماسک حتی ادعا کرده است که هوش مصنوعی فوقالعاده هوشمند میتواند عصر «درآمد بالای جهانی» را آغاز کند. او اخیراً ایده اینکه هوش مصنوعی آنقدر ارزان و گسترده خواهد شد که تقریباً هر کسی «R2-D2 و C-3PO شخصی خود» (با اشاره به درویدهای جنگ ستارگان) را میخواهد، تأیید کرد. او با هیجان گفت: «همه بهترین مراقبتهای پزشکی، غذا، حمل و نقل خانگی و هر چیز دیگری را خواهند داشت. فراوانی پایدار.»
البته یک جنبهی ترسناک نیز وجود دارد. آیا این فناوری میتواند توسط تروریستها ربوده شده و به عنوان یک سلاح بزرگ استفاده شود، یا اگر خودش تصمیم بگیرد که بشریت عامل مشکلات جهان است و ما را نابود کند، چه؟
تیم برنرز لی، خالق شبکه جهانی وب، در صحبت با بیبیسی در اوایل این ماه هشدار داد: «اگر از شما باهوشتر باشد، باید آن را مهار کنیم.»
«باید بتوانیم آن را خاموش کنیم.»
دولتها در حال انجام برخی اقدامات حفاظتی هستند. در ایالات متحده، جایی که بسیاری از شرکتهای پیشرو هوش مصنوعی مستقر هستند، رئیس جمهور بایدن در سال ۲۰۲۳ یک فرمان اجرایی صادر کرد که برخی از شرکتها را ملزم میکرد نتایج آزمایشهای ایمنی را با دولت فدرال به اشتراک بگذارند—اگرچه رئیس جمهور ترامپ از آن زمان برخی از این فرمان را لغو کرده و آن را «مانعی» برای نوآوری خوانده است.
در همین حال در بریتانیا، مؤسسه ایمنی هوش مصنوعی—یک نهاد تحقیقاتی با بودجه دولتی—دو سال پیش تأسیس شد تا خطرات ناشی از هوش مصنوعی پیشرفته را بهتر درک کند.
افراد فوق ثروتمند در حال برنامهریزی برای بیمهی آخرالزمانی خود هستند.مثلن ایلان ماسک زمانی با هیجان گفت: «همه بهترین مراقبتهای پزشکی، غذا، حمل و نقل خانگی و هر چیز دیگری را خواهند داشت. فراوانی پایدار.» رید هافمن قبلاً گفته بود: «گفتن اینکه “من در نیوزیلند خانه میخرم” نوعی چشمک زدن و کنایه است.» احتمالاً همین امر در مورد پناهگاهها نیز صدق میکند.
اما یک نقص مشخصاً انسانی وجود دارد.
من یک بار با بادیگارد سابق یک میلیاردر که پناهگاه خودش را داشت ملاقات کردم، و او به من گفت که اولویت اول تیم امنیتی او، اگر واقعاً این اتفاق بیفتد، از بین بردن رئیس مذکور و ورود خودشان به پناهگاه خواهد بود. و او شوخی نمیکرد.
آیا همه اینها مزخرفات هشداردهنده است؟
نیل لارنس، استاد یادگیری ماشین در دانشگاه کمبریج، است. برای او، کل این بحث به خودی خود مزخرف است. او استدلال میکند: «مفهوم هوش عمومی مصنوعی به همان اندازه مضحک است که مفهوم “خودروی عمومی مصنوعی”». به گمان وی «وسیلهی نقلیه مناسب به بافت بستگی دارد. من از ایرباس A350 برای پرواز به کنیا استفاده کردم، هر روز از ماشین برای رسیدن به دانشگاه استفاده میکنم، پیاده به کافه تریا میروم… هیچ وسیله نقلیهای وجود ندارد که بتواند همه این کارها را انجام دهد.» برای او، صحبت در مورد AGI یک حواسپرتی است: «فناوریای که [از قبل] ساختهایم، برای اولین بار به افراد عادی اجازه میدهد مستقیماً با یک ماشین صحبت کنند و احتمالاً کاری را که قصد دارند انجام دهد. این کاملاً خارقالعاده… و کاملاً تحولآفرین است.»
«نگرانی بزرگ این است که ما آنقدر جذب روایتهای فناوریهای بزرگ در مورد AGI شدهایم که راههایی را که باید برای مردم بهتر کنیم، از دست میدهیم.»
ابزارهای هوش مصنوعی فعلی بر روی کوهی از دادهها آموزش دیدهاند و در تشخیص الگوها خوب هستند: خواه نشانههای تومور در اسکن باشد یا محتملترین کلمهای که بعد از کلمهای دیگر در یک توالی خاص میآید. اما آنها «احساس» نمیکنند، هر چقدر هم که پاسخهایشان قانعکننده به نظر برسد.
آقای هدجت میگوید: «برخی روشهای “تقلبآمیز” برای اینکه یک مدل زبان بزرگ (LLM) (پایه و اساس رباتهای چت هوش مصنوعی) طوری رفتار کند که انگار حافظه دارد و یاد میگیرد، وجود دارد، اما اینها رضایتبخش نیستند و کاملاً پایینتر از انسان هستند.»
وینس لینچ، مدیرعامل IV.AI مستقر در کالیفرنیا، نیز نسبت به اعلامیههای اغراقآمیز درباره AGI محتاط است. او میگوید: «این بازاریابی عالی است. اگر شرکتی باشید که در حال ساخت باهوشترین چیزی است که تاکنون وجود داشته، مردم میخواهند به شما پول بدهند.» او میافزاید: «این چیزی نیست که در دو سال آینده اتفاق بیفتد. به محاسبات بسیار زیاد، خلاقیت انسانی بسیار زیاد، آزمون و خطای بسیار زیاد نیاز دارد.»
در پاسخ به این سوال که آیا او معتقد است AGI هرگز محقق خواهد شد، یک مکث طولانی میکند. «واقعاً نمیدانم.»
هوش بدون خودآگاهی
از برخی جهات، هوش مصنوعی از قبل برتریهایی نسبت به مغز انسان به دست آورده است. یک ابزار هوش مصنوعی مولد میتواند یک دقیقه متخصص تاریخ قرون وسطی باشد و دقیقه بعد معادلات پیچیده ریاضی را حل کند. برخی شرکتهای فناوری میگویند همیشه نمیدانند چرا محصولاتشان به روشی که انجام میدهند، پاسخ میدهند. متا میگوید نشانههایی از بهبود خودکار سیستمهای هوش مصنوعی خود را مشاهده کرده است.
با این حال، در نهایت، هر چقدر هم که ماشینها هوشمند شوند، از نظر بیولوژیکی، مغز انسان همچنان برنده است. حدود ۸۶ میلیارد نورون و ۶۰۰ تریلیون سیناپس دارد که بسیار بیشتر از معادلهای مصنوعی است.
محققان در حال مطالعه مغز هستند تا خودآگاهی را بهتر درک کنند.
مغز نیز نیازی به مکث بین تعاملات ندارد و دائماً با اطلاعات جدید سازگار میشود. آقای هدجت میگوید: «اگر به یک انسان بگویید که در یک سیاره خارج از منظومه شمسی حیات پیدا شده است، بلافاصله آن را یاد میگیرد و درک جهانی او را تحت تأثیر قرار خواهد داد. برای یک LLM، آنها فقط تا زمانی آن را خواهند دانست که شما همچنان آن را به عنوان یک واقعیت برایشان تکرار کنید.»
«LLMها همچنین فراشناخت ندارند، به این معنی که دقیقاً نمیدانند چه چیزی را میدانند. به نظر میرسد انسانها ظرفیت دروننگری دارند، که گاهی اوقات به آن خودآگاهی گفته میشود، که به آنها اجازه میدهد بدانند چه چیزی را میدانند.»
این یک بخش بنیادی از هوش انسانی است—و چیزی است که هنوز در آزمایشگاه تکرار نشده است.
منبع: BBC InDepth
زوئی کلاینمن، دبیر بخش فناوری بیبیسی است
