این داستان در ابتدا در The Algorithm، خبرنامه هفتگی هوش مصنوعی ما ظاهر شد. برای اینکه ابتدا داستان هایی مانند این را در صندوق ورودی خود دریافت کنید، اینجا ثبت نام کنید.
چهارشنبه گذشته، آنتروپیک اعلام کرد که در اوایل سال جاری یک آزمایشگاه زیست شناسی مولکولی راه اندازی کرده است، جایی که عوامل کلود در آن مسائل سخت بیولوژیکی را می خوانند و حدس می زنند و دانشمندان انسانی آزمایش هایی را بر روی آنچه گزارش می کنند انجام می دهند. و این آزمایشگاه مجهز به هوش مصنوعی، به گفته شرکت، اولین کشف خود را انجام داد.
برای درک آنچه که آنتروپیک فکر می‌کند سیستمش انجام داده است، تصور کنید کتابخانه‌ای از میلیون‌ها توالی DNA را که دانشمندان به دنبال توالی‌بندی بیشتر و بیشتر جهان زنده جمع‌آوری شده‌اند را ورق بزنید. یک گام به سوی پیشرفت ممکن است یافتن یک توالی خاص باشد که ممکن است برای آنزیم مورد علاقه کد کند. سپس باید بفهمید که آن آنزیم چه کاری انجام می دهد، و احتمالاً چگونه آن را برای انجام کاری مفید دستکاری کنید.
آنچه آنتروپیک می گوید سیستم عامل 950 آن پس از ساعت 9 شب کشف کرد. یک سکانس کاملاً جدید نیست. در عوض، عوامل یک الگوی تکرار شونده را در اطراف یک آنزیم شناخته شده مشاهده کردند، الگوی خاصی که Anthropic می گوید قبلا فهرست نشده است. اما اگر اعلامیه آنتروپیک را بخوانید که این الگو را “یادآور” آنچه منجر به فناوری ویرایش ژن CRISPR شد که “در حال حاضر علم و پزشکی را متحول کرده است” می خواند، به نظر می رسد که این ارتش از عوامل واقعاً چیزی قابل توجه کشف کرده اند.
این ادعاها باعث خشم برخی زیست شناسان شد. یک پست ویروسی توسط یکی، که بعداً توسط رئیس هیئت مدیره و مدیر عامل داروساز الی لیلی تأیید شد، گفت که “پیدا کردن یک دسته عجیب از ژن ها و تکرارها اغلب بخش آسان است. بخش سخت، و اینکه اکتشافات واقعی از کجا می آیند، این است که بفهمیم سیستم واقعا چه می کند.” به عبارت دیگر، عوامل در برخی از کارهای آزمایشگاهی کمک کردند. اما این یک کشف نیست.
این یک یادآوری است که حتی اگر هوش مصنوعی کار قابل توجهی انجام دهد – مانند یافتن الگویی در انبوهی از داده های بیولوژیکی که درک آن تنها با چشم انسان دشوار است – نتیجه ممکن است پیشرفتی برای علم نباشد. چیزی که در هوش مصنوعی جدید است ممکن است برای یک زیست شناس معمولی، غافلگیرکننده یا به سادگی سازگار نباشد.
ماریو رودریگز مستر، زیست‌شناس دانشگاه کپنهاگ، که این موضوع را بیشتر مبهم کرده است، در آخر هفته گفت که تیمش قبلاً این الگوی خاص را کشف کرده است. نیویورک تایمز گزارش شده است. مستر که به طور مرتب با کلود در محل کار چت می کرد، فکر می کرد که آیا تیم آنتروپیک از مکالمات او یاد گرفته اند یا خیر. آنتروپیک این موضوع را رد کرد، اما مستر گفت که به هر حال استفاده از کلود را متوقف می کند.
بخشی از مشکل اینجاست که شرکت‌های هوش مصنوعی سیستم‌های خود را صرفاً به عنوان ابزاری که دانشمندان می‌توانند از آنها استفاده کنند، مانند میکروسکوپ یا ابر رایانه‌ها، ارائه نمی‌کنند. آنها اصرار دارند که سیستم های هوش مصنوعی به تنهایی اکتشافات را انجام دهند. برای برخی، این رویکرد با روش عملی علم، با دانش جدیدی که معمولاً از همکاری و زرادخانه رو به رشد ابزارها پدید می‌آید، ناسازگار است.
همچنین باعث می‌شود مردم نسبت به پیشرفت واقعی در هنگام وقوع شک کنند. محدود کردن 200000 نامزد به تعداد معدودی که ارزش مطالعه دارند، کار کوچکی نیست. این یک کار علمی مشروع است. این واقعیت که یک ربات چت همه منظوره می تواند این کار را انجام دهد قابل توجه است، حتی اگر انسان ها به اجرای آن کمک کرده و در نهایت آزمایش ها را انجام دهند. اما از آنجایی که معیار این است که آیا خود کلود این کشف را انجام داده است، همه اینها در بحثی که تنها دو پاسخ دارد، برای یک طرف یا طرف دیگر به مدرک تبدیل می شود: پیشرفت یا فروپاشی.
پس از قضاوت در مورد هوش مصنوعی بر اساس کشفی بودن آن، تغییر دنده حتی پس از اینکه واقعاً به نظر می رسد که در حال کسب پیروزی است، وسوسه انگیز است. در اوایل این ماه، OpenAI گفت که عوامل تیم خود یک مسئله ریاضی چند میلیون دلاری را حل کرده اند. اما چند هفته بعد، تقریباً همه افراد بدبین به هوش مصنوعی در کانال من مقاله ای را به اشتراک می گذاشتند که می پرسید آیا واقعاً مشکل ریاضی وجود دارد یا خیر. مهم بود.
برای روشن بودن، این قطعه ادعا نمی کند که تصمیم OpenAI اشتباه است. بلکه استدلال می کند که نتیجه خاص ممکن است آن چیزی نباشد که ریاضیدانان بیشتر به آن اهمیت می دهند. اتهام یک ریاضیدان را اضافه کنید که مدل ها ممکن است برخی از کارهای او را بدون اعتبار استفاده کرده باشند، مردم فکر خواهند کرد که یا OpenAI دروغ گفته یا تصمیم به هر حال مهم نبوده است. یا هر دو.
این بخشی از چیزی است که به لوکاس هرینگتون، زیست‌شناسی که این پست را در انتقاد از اعلام آنتروپیک نوشت، مربوط می‌شود. او در پایان پیشنهادی را ارائه کرد: به گفته او، شرکت‌های هوش مصنوعی باید «همین حالا سطح را بالا بگذارند، به طوری که وقتی هوش مصنوعی یک مکانیسم بیولوژیکی اساساً جدید را کشف کرد، همه از اهمیت این معامله قدردانی کنند». اما در حالی که سم آلتمن از OpenAI و داریو آمودی از Anthropic با یکدیگر رقابت می کنند، بلند کردن نوار پیشرفت های علمی هوش مصنوعی ممکن است آخرین چیزی باشد که در ذهن آنها وجود دارد.
