نوجوانی که وابستگی ناسالم به یک همراه هوش مصنوعی پیدا می کند، ممکن است هرگز در یک دادخواست یا در روزنامه ظاهر نشود، مگر در فاجعه بارترین موارد. نه دانش‌آموزی که برای نوشتن هر مقاله به یک ربات چت تکیه می‌کند، یا جوانی که زندگی خود را با فید رسانه‌های اجتماعی می‌سنجید که برای برانگیختن حسادت و وادار کردن آنها به تماشا طراحی شده است. یک محصول می‌تواند هر الزام ایمنی محدودی را برآورده کند و همچنان کل فرهنگ ما را بدتر کند به گونه‌ای که همیشه سرفصل اخبار نیست.
تعریف محدودی از موفقیت که حول ایمنی تعریف شده است از نظر سیاسی برای صنعت فناوری مناسب است و شرکت‌ها فعالانه چنین تعاریفی را ترویج می‌کنند. برداشتن گام‌هایی برای جلوگیری از بلایای دیدنی برای تجارت خوب است: این می‌تواند به معنای شکایت کمتر و فشار کمتر برای مقررات سنگین باشد. مواجهه با عواقب روزمره اعتیاد به چیزی به طور قابل توجهی تهدیدکننده‌تر نیاز دارد. این می‌تواند به این معنا باشد که از شرکت‌ها بخواهید اصطکاک بیشتری به محصولات خود اضافه کنند، یا فعالانه تعامل یا ویژگی‌هایی را که منجر به نتایج منفی می‌شوند، محدود کنند، مانند الگوریتم‌های هک توجه اعتیادآور.
در عوض، غول‌های فناوری در حال تلاش برای شکل دادن به قوانین پیرامون آسیب‌هایی هستند که در حال حاضر تحت فشار مستقیم برای رفع آنها هستند. برای مثال، امسال گوگل از لایحه هایی برای تنظیم چت ربات های هوش مصنوعی در چندین ایالت پشتیبانی کرد. این قانون حمایت‌های اساسی را در برابر محتوای جنسی و ترویج آسیب‌رسانی به خود تحمیل می‌کند که شرکت‌های فناوری بدون توجه به آن باید ایجاد کرده باشند، اما با محدودیت‌های گسترده‌ای که می‌تواند برخی از محبوب‌ترین خدمات را معاف کند. تصویب این لوایح به قانونگذاران این امکان را داد که ادعای پیروزی ایمنی را داشته باشند، در حالی که تلاش ها برای ترویج قوانین قوی تر – قوانینی که برای جلوگیری از وابستگی عاطفی کودکان به هوش مصنوعی طراحی شده بودند – شکست خورد. این کتاب بازی در ایالت هایی مانند نبراسکا کار کرده است و قوانینی را که به شدت تحت تأثیر صنعت قرار گرفته است، به قیمت صورتحساب هایی ایجاد کرده است که باعث می شود شرکت ها پاسخگو باشند.
ما نسخه ای از این را با رسانه های اجتماعی مرور کردیم. در سطح جهانی، کاربران اینترنت اکنون به طور متوسط بیش از دو ساعت در روز را در پلتفرم های رسانه های اجتماعی می گذرانند – زمانی که بی سر و صدا از زندگی روزمره حذف شده و به شرکت هایی سپرده شده است که سود آنها به نگه داشتن ما در آنجا بستگی دارد. هیچ‌کس، به جز چند مدیر عامل فناوری، نمی‌خواست این الگوریتم‌ها آنقدر از ساعات بیداری ما را اشغال کنند، و مهندسی فرهنگی آنها در واقع می‌تواند به خشونت در مقیاسی ویرانگر کمک کند. پلتفرم های متا به عنوان کمک به نسل کشی روهینگیا در میانمار، شورش های ضد مسلمانان در سریلانکا و درخواست های ادعایی برای خشونت در طول جنگ اتیوپی با تیگری ذکر شده است. مشوق‌های مشابهی در برنامه‌هایی وجود دارد که درک جوانان آمریکایی از سیاست، همتایانشان و جهان را در کل شکل می‌دهد.
هوش مصنوعی این منطق را به بخش هایی از زندگی گسترش می دهد که رسانه های اجتماعی تنها از راه دور می توانند بر آن تأثیر بگذارند. او پیشنهاد می کند که افکار ما را برای ما بنویسد و افرادی را جایگزین کند که در غیر این صورت ممکن است به آنها مراجعه کنیم. یک سوم از نوجوانان اکنون تصمیم می گیرند که به جای افراد دیگر، در مورد مسائل جدی با همراهان هوش مصنوعی صحبت کنند. محققان MIT دریافتند که جوانانی که از ChatGPT برای نوشتن مقاله استفاده می‌کنند، ارتباط مغزی کمتری در طول انجام کار نشان می‌دهند و شواهد آنها نشان می‌دهد که «بدهی شناختی» حتی پس از تکمیل کار ادامه دارد. هنوز چیزهای زیادی برای یادگیری در مورد اثرات طولانی مدت وجود دارد. اکنون دلیلی داریم که بپرسیم آیا فناوری به بازار عرضه شده که ما را توانمندتر می‌کند، عادت‌ها و روابطی را که در وهله اول به ما کمک می‌کند تا توانایی‌ها را توسعه دهیم، تضعیف می‌کند.
این خط فکری را به نتیجه منطقی خود برسانید و دنیایی از سرگرمی های کاملا بهداشتی خواهید داشت، با چت بات هایی که آماده اند تا ما را از مشکل فکر کردن یا برخورد با احساسات دیگران (یا حتی احساسات خودمان) نجات دهند. اما هر کسی که برای نوشتن چیزی که ارزش خواندن داشته باشد یا یک دوستی از بین رفته تلاش کرده است، می داند که چقدر در این معامله گم شده است. ما قضاوت را از طریق تلاش و اصطکاک می‌سازیم و یاد می‌گیریم که با دیگران با مواجه شدن با این واقعیت که نیازها و نظرات خودشان را دارند زندگی کنیم.
ما باید حداقل ایمنی را بخواهیم، بله – و سپس به میزان قابل توجهی بیشتر تقاضا کنیم. شرکت های فناوری و مناطق مدرسه باید فراتر از یک شک منطقی نشان دهند که هوش مصنوعی یادگیری و تفکر انتقادی را قبل از تبدیل شدن به یک ابزار دائمی در کلاس های درس بهبود می بخشد. شرکت‌ها باید از ایجاد همراهانی که تظاهر می‌کنند باهوش هستند یا به کاربران ابراز عشق می‌کنند، منع شوند، و باید در مورد اینکه چگونه سیستم‌هایشان بر روابط و توانایی افراد برای فکر کردن خودشان تأثیر می‌گذارد، با نظارت مستقل مواجه شوند. شرکت‌هایی که محصولات خود را تقریباً در هر بخش از زندگی مدرن وارد کرده‌اند، تعهداتی بسیار بیشتر از اجتناب از سرفصل وحشتناک بعدی به دست آورده‌اند.
سام هینر یکی از بنیانگذاران و مدیر اجرایی اتحادیه جوانان است، جایی که او در حال هماهنگی ائتلافی از طرفداران برای تصویب قوانین تنظیم کننده همراهان هوش مصنوعی در هشت ایالت در سال 2026 است – قوانینی مانند SB1119 کالیفرنیا. سام در سال 2025 از دانشگاه کارولینای شمالی در چپل هیل فارغ التحصیل شد و در کلاس 2026 انتخاب شد. فوربس فهرست تأثیر اجتماعی 30 زیر 30 سال.
اما لیکن مدیر اجرایی صندوق نیروی جوان فناوری مسئول در Hopelab است که بیش از 9 میلیون دلار برای کار مسئولیت‌پذیری فناوری تحت رهبری جوانان جمع‌آوری کرده است و سیاست‌های فناوری را در دانشکده روابط بین‌الملل و عمومی کلمبیا تدریس می‌کند. پیش از این، او رئیس جهانی سیاست ایمنی و رفاه در TikTok بود و روی فناوری مسئول در شبکه امیدیار کار می کرد.
