یک روز بعدازظهر در سئول در مارس 2016، برنامه‌ای را تماشا کردم که به ساخت آن کمک کردم و سنگی را در ردیف پنجم تخته Go قرار داد که به نظر هدیه‌ای به حریف انسانی بود. حرکت 37 در دومین بازی از یک مسابقه پنج بازی آنقدر پوچ به نظر می رسید که برخی از مفسران فکر می کردند که این یک اشکال برنامه نویسی است.
این نبود. AlphaGo این بازی را برد و در نهایت 4-1 بر لی سدول، یکی از بهترین بازیکنان حرفه ای Go در تمام دوران پیروز شد. لی پس از آن گفت: “من فکر می کردم AlphaGo بر اساس محاسبه احتمالات است و فقط یک ماشین است.” اما وقتی این حرکت را دیدم، نظرم تغییر کرد، البته AlphaGo خلاقانه است.
هنگامی که دیپ بلو در سال 1997، گری کاسپاروف، قهرمان وقت شطرنج جهان را شکست داد، این کار را با نگاه کردن به 6 تا 8 حرکت جلوتر برای هر بازیکن و ارزیابی 200 میلیون موقعیت شطرنج در ثانیه با استفاده از قوانین سخت کدگذاری شده توسط انسان انجام داد. Go یک بازی بسیار پیچیده تر است. ارزش یک قطعه بستگی به این دارد که چند گروه و قلمرو دور در ده‌ها حرکت آشکار می‌شوند. محاسبه حتی کسری از نتایج ممکن یک ابر رایانه میلیاردها سال طول می کشد. برای برنده شدن، AlphaGo باید در یک نگاه متوجه می‌شد که چه کسی جلوتر است و حتی حرکاتی را ارائه می‌کرد که هیچ انسانی فکرش را هم نمی‌کرد.
به همین دلیل است که بسیاری از گزارش‌های بازی AlphaGo در برابر لی، حرکت 37 را به عنوان یک درخشش شهود ماشینی خالص توصیف می‌کنند. اما این یک سوء تفاهم است. در واقع، توانایی استدلال AlphaGo این انتخاب خلاقانه را انجام داد – و اینها توانایی هایی هستند که هوش مصنوعی امروزی فاقد آنهاست. اگر می‌خواهیم سیستم‌های هوش مصنوعی آینده نتایج قابل اعتماد و بینش‌های واقعاً جدیدی در زمینه‌هایی مانند علم و پزشکی تولید کنند، باید آنها را به توانایی‌های استدلال واقعی از این نوع مجهز کنیم.
AlphaGo از دو سیستم تشکیل شده است. اولین شبکه، شبکه سیاسی آن، برای حدس زدن حرکت یک فرد قوی آموزش دیده بود. این بخش “شهودی” حرکت 37 را چیز خاصی نمی داند – نمایشنامه ای که تقریباً یک در 10000 شانس دارد که توسط یک بازیکن با تجربه ساخته شود. چیزی که باعث شد AlphaGo آن را انتخاب کند موتور جستجوی این برنامه بود که فراتر از حد قابل قبول بودن آن بود و پیامدهای آتی حرکت های پیشنهادی را سنجید. او صریحاً درخت بازی را با هزاران شاخه ساخت و جستجو کرد که هر کدام نمایانگر آینده‌ای متفاوت هستند.
یک نظریه معروف در علوم رفتاری، که توسط دانیل کانمن رواج یافته است، بین دو شیوه تفکر انسان تمایز قائل می شود: سیستم 1 سریع، شهودی، بدون زحمت است.سیستم 2، آهسته، گام به گام و مشورتی.AlphaGo همتای ماشینی قابل توجهی را برای این بخش ارائه کرد.شبکه‌های او پیش‌بینی‌ها را ارائه کردند – این حرکت امیدوارکننده به نظر می‌رسد، این موقعیت به نظر می‌رسد برنده به نظر می‌رسد – و جست‌وجوی او بازتابی را به همراه داشت و این قوزها را در برابر حرکات و حرکات متقابلی که در پی خواهد آمد آزمایش کرد.مانند شناخت انسان، هیچ یک از نیمی از آنها به تنهایی کار نمی کند.شهود به تنهایی هرگز حرکت 37 را انتخاب نمی کند، و جستجوی بی رحمانه برای غربال کردن تمام حرکات ممکن دشوار است.
این به طرز چشمگیری با روشی که مدل های هوش مصنوعی امروزی کار می کنند متفاوت است.یک الگوی زبان بزرگ، نشانه بعدی را بارها و بارها انتخاب می کند.این معادل سیستم 1 در عمل است – تکمیل الگوی سریع، تداعی کننده و شگفت آور خوب تقریباً در هر موضوعی که مردم درباره آن می نویسند.
مدت کوتاهی پس از شروع ChatGPT، این حوزه متوجه شد که مهارت زبان به تنهایی مفید نیست.راه حل واضح، ایجاد مدل هایی بود که عمداً: به جای پاسخ فوری، اکنون می توانند مراحل میانی ایجاد کنند که یک مشکل را تجزیه می کند، نتایج جزئی را منتقل می کند و بر استدلال بعدی تأثیر می گذارد – فرآیندی که به عنوان زنجیره فکر شناخته می شود.
این دستاوردها در درجه اول در ریاضیات و کدنویسی واقعی بود.اما بر خلاف جستجوی AlphaGo، مکانیزم استدلالی واقعاً مجزا معرفی نمی‌کند: استدلال میانی همچنان با همان فرآیند پیش‌بینی نشانه بعدی تولید می‌شود، که قبل از اینکه مدل متعهد به پاسخ باشد، مدت طولانی‌تری تکرار می‌شود.
سه نقص مانع از آن می شود که چت بات ها به عنوان استدلال (به نحوی که یک دانشمند می تواند تشخیص دهد) واجد شرایط باشد.اول، این مدل‌ها معمولاً از یک وضعیت معرفتی صریح، پایدار و قابل تأیید پشتیبانی نمی‌کنند.هیچ کتاب سرگشاده‌ای وجود ندارد که فرضیه‌هایی را که یک مدل در نظر می‌گیرد، اعتمادی که به توضیحات مختلف می‌دهد، شواهدی که وزن می‌کند و سؤالات حل‌نشده‌ای که دارد ارائه دهد – همه چیزهایی که باید به‌طور سیستماتیک با رسیدن اطلاعات جدید مورد بازنگری قرار گیرند.
دوم، آنها فاقد یک تفکیک واضح بین آنچه سیستم می داند و نحوه دستکاری آن دانش است. دانش و استدلال به طور جدایی ناپذیری در وزن شبکه عصبی در هم تنیده شده اند – هیچ مجموعه ای از باورهای مستقل و به صراحت وجود ندارد. سوم، در حالی که زنجیره‌های فکری که چت‌بات‌ها ایجاد می‌کنند شبیه تامل است، تحقیقات نشان می‌دهد که ربات‌ها اغلب بعد از این واقعیت به آنها می‌رسند و به یک‌طرف به پاسخ می‌رسند اما به روشی دیگر آن را گزارش می‌دهند.
این یک مشکل است زیرا در برنامه‌های پرمخاطره مانند پزشکی، مهندسی و تحقیقات علمی، نه تنها مهم است که سیستم چه نتیجه‌گیری می‌کند، بلکه نحوه رسیدن به نتیجه نیز مهم است. هنگامی که اشتباهاتی رخ می دهد – به عنوان مثال، در تشخیص و درمان پزشکی – باید بتوانیم تشخیص دهیم که چه چیزی اشتباه رخ داده است: آیا سیستم اشتباه استدلال کرده است، از شواهد نامعتبر استفاده کرده یا فرضیات نادرست داشته است؟
به همین دلیل است که من اخیراً موقعیت خود را در Google DeepMind ترک کردم.من معتقدم که ما به یک رویکرد جدید برای استدلال ماشینی نیاز داریم – رویکردی که بر اساس معماری AlphaGo ساخته شود. AlphaGo سابقه ای از آنچه در مورد یک موقعیت می داند را حفظ می کند: درخت بازی. این ساختار داده شامل تمام تغییرات، آینده های احتمالی است که AlphaGo در نظر گرفته است، با هر حرکت و موقعیتی که با قضاوت های انجام شده توسط شبکه های عصبی آن حاشیه نویسی شده است. همانطور که استدلال خود پیشرفت می کند AlphaGo درخت بازی را به روز می کند و در نهایت اطلاعات موجود در آن را ترکیب می کند تا تصمیم بگیرد کدام حرکت را انجام دهد.
به طور مشابه، برای استدلال عمومی، یک سیستم باید یک حالت معرفتی را حفظ کند که نشان دهد نظام چه چیزی را ثابت نگه می دارد، در چه مواردی شک دارد، چه چیزی را رد کرده است، چه سوالاتی را باز می ماند. پس استدلال را می توان به عنوان مجموعه ای از حرکات درک کرد که وضعیت معرفتی را به منظور توسعه دانش و کاهش عدم قطعیت تغییر می دهد: استنباط پیامدها، تقسیم مسائل به بخش ها، و مهمتر از همه – تصمیم گیری برای پرسیدن چه سوالی، انجام محاسبات یا آزمایشی که پس از آن انجام شود.
البته، استدلال در دنیای باز دشوارتر از انجام یک بازی رومیزی مانند Go یا شطرنج است. در دنیای واقعی، وضعیت فعلی امور فقط تا حدی شناخته شده است، مجموعه اقدامات موجود بزرگ و متغیر است و پیامدهای اعمال تصادفی یا ناشناخته است.
اما پیشرفت‌های اخیر در LLM و سایر مدل‌های عصبی اکنون به ما این توانایی را می‌دهد که چنین مشکلات استدلال کلی را بپذیریم.به عنوان مثال، LLM ها می توانند راه هایی را برای رسیدگی به یک مشکل بر اساس آنچه شناخته شده است و منابع موجود پیشنهاد کنند.آنها می توانند از طریق API یا کد با ابزارها تعامل داشته باشند و به ارزیابی اینکه آیا یک ادعا توسط شواهد موجود پشتیبانی می شود یا خیر کمک کنند.
مهمتر از همه، برای صادق نگه داشتن سیستم، بخش مستقلی از سیستم باید هر حرکت را بر اساس میزان خوبی که در واقع عدم قطعیت را برطرف می کند، ارزیابی کند، و تنها زمانی باورها را به روز کند که تغییر با شواهد پشتیبانی شود.هنگامی که این قوانین اعمال می شوند، مدل می تواند دانش تایید شده را جمع آوری کند و خط مشی استدلال خود را با یادگیری از استدلال گذشته بهبود بخشد.شما می توانید چنین سیستمی را به عنوان روش علمی در مورد استروئیدها در نظر بگیرید تا دانشی را به دست آورید که بتواند در برابر بررسی دقیق بایستد.
فکر نمی‌کنم با بزرگ‌تر کردن سیستم 1 به هوش ماشینی قابل اعتماد دست پیدا کنیم.مقیاس شهود را تیز می کند اما آن را سنجیده تر نمی کند.حرکت 37 اهمیت داشت زیرا یک ماشین در حال اتخاذ موقعیتی بود، آینده‌های احتمالی را می‌سنجید و حرکتی را انتخاب می‌کرد که غرایز مصنوعی آن احتمالاً آن را رد می‌کرد.
جامعه به چنین حرکات خلاقانه ای در کشف دارو، مواد، آب و هوا، تشخیص نیاز دارد – مناطقی که هیئت مدیره شبیه به برد Go نیست و هیچ کس قوانین را به ما نمی دهد. ما فقط از سیستم‌هایی که استدلال می‌کنند چنین بینش‌هایی به دست خواهیم آورد – سیستم‌هایی که نتیجه‌گیری‌های آنها از یک توالی قابل تأیید شواهد، استنباط و بازنگری باورها ناشی می‌شود، نه از داستان قانع‌کننده‌ای که بعد از واقعیت گفته می‌شود.
Thore Graepel رئیس یادگیری ماشین در دانشگاه کالج لندن است. او یکی از اعضای اصلی تیم AlphaGo در DeepMind بود و تلاش می کند تا اطمینان حاصل کند که هوش مصنوعی برای پیشرفت انسان مفید است.
