کودکانی که با الگوریتم می‌جنگند | چرا راهبردهای آن‌ها نشانه سازگاری نیست، علامت آسیب است؟

پرونده‌های منتشرشده از درون شرکت‌های فناوری نشان داده‌اند که پلتفرم‌هایی مانند فیس‌بوک سال‌ها می‌دانستند طراحی مبتنی بر درگیری و افزایش مشارکت می‌تواند به سلامت روان کاربران، به‌ویژه کودکان، آسیب بزند. با وجود این آگاهی، ساختار الگوریتم‌ها همچنان بر پایه حفظ توجه و تشدید واکنش هیجانی بنا شد؛ ساختاری که در آن، نشانه‌های ناراحتی کودکان تنها به داده‌هایی برای آموزش مدل‌های هوش مصنوعی تبدیل می‌شود، بی‌آنکه رضایتی واقعی و معنادار وجود داشته باشد.

در بخش نخست این بحث روشن شد که مواجهه با خشونت و تصاویر آزاردهنده در فضای آنلاین تقریباً اجتناب‌ناپذیر است. پرسش مهم این است که وقتی فرار ممکن نیست، کودکان چگونه با این محتوا مواجه می‌شوند؟ پژوهش‌ها نشان می‌دهد کودکان راهبردهای پیچیده‌ای برای مدیریت محتوای خشن توسعه داده‌اند؛ از اسکرول سریع گرفته تا هشدار دادن در گروه‌های چت، استفاده از کد برای اشاره به محتوای بسیار دردناک و آموزش تکنیک‌های «فقط نگاه نکن» به یکدیگر. در ظاهر، این رفتارها شبیه نشانه‌های سواد دیجیتال یا حتی تاب‌آوری است. اما واقعیت داستان متفاوتی دارد.

سازگاری یا پذیرش؟ نگاهی به درماندگی آموخته‌شده

مارتین سلیگمن، روان‌شناس برجسته، مفهوم درماندگی آموخته‌شده را معرفی کرد؛ زمانی که افراد بارها در معرض رویدادهای منفی قرار می‌گیرند که توان فرار یا کنترل ندارند، در نهایت دست از تلاش می‌کشند—even زمانی که خروج ممکن می‌شود. مواجهه مداوم با آسیب، ذهن را متقاعد می‌کند که هیچ راه فراری وجود ندارد. واکنش کودکان به محتوای الگوریتمی به همین الگو شباهت دارد، با این تفاوت که آن‌ها صرفاً منفعل نیستند؛ بلکه فعالانه راهکارهایی می‌سازند تا در چارچوب سیستمی که غیرقابل‌تغییر می‌دانند، دوام بیاورند.

چرا کودکان محتوا را گزارش نمی‌کنند؟

یافته‌های Ofcom نشان می‌دهد کودکان دلایل مهمی برای گزارش نکردن محتوای مضر دارند. آن‌ها می‌ترسند مکث برای گزارش، از دید الگوریتم به معنی علاقه تلقی شود و محتوای مشابه بیشتری در فیدشان ظاهر شود. می‌دانند که بازبینی انسانی بسیار محدود است و پاسخ معنادار حتی محدودتر. از فرایندهای متفاوت و نامشخص پلتفرم‌ها سردرگم می‌شوند و حتی نگرانند گزارش آن‌ها ناشناس نباشد و توسط سیستم هدف قرار بگیرند. همه این‌ها نشانه درکی آموخته‌شده است: این‌که سیستم به اعمال آن‌ها پاسخگو نیست.

مطالعات Ofcom نشان می‌دهد کودکان بزرگ‌تر نسبت به محتوای خشونت‌آمیز بی‌تفاوت‌تر می‌شوند. ممکن است این بی‌تفاوتی در نگاه اول نشانه تنظیم هیجان و بلوغ به نظر برسد، اما پژوهش‌های گسترده درباره خشونت رسانه‌ای خلاف آن را ثابت می‌کنند. برد بوشمن و کریگ اندرسون دریافتند تنها ۲۰ دقیقه قرار گرفتن در معرض بازی ویدئویی خشونت‌آمیز باعث کاهش واکنش فیزیولوژیک نسبت به خشونت واقعی می‌شود. این بی‌حسی به زندگی واقعی نیز تعمیم می‌یابد و حتی تصمیم‌گیری برای کمک به دیگران را کندتر می‌کند. تفاوت مهم میان تنظیم هیجان و بی‌حسی آسیب‌زا این است که تنظیم هیجان انتخابی، هدفمند و وابسته به زمینه است، اما بی‌حسی آسیب‌زا حالتی غیرارادی و تعمیم‌یافته است.

این سازگاری نیست؛ نشانه آسیب است

کودکان بزرگ‌تر محتوای خشونت‌آمیز را «بهتر مدیریت» نمی‌کنند؛ آن‌ها نشانه‌های آسیب ناشی از مواجهه مکرر با خشونت را نشان می‌دهند. راهکارهای پیچیده‌ای که برای کنار آمدن با محتوا می‌سازند، به‌جای اینکه نشانه سازگاری سالم باشد، نشانه درماندگی آموخته‌شده است. آن‌ها پذیرفته‌اند که سیستم تغییرناپذیر است و تنها می‌توان با تغییر رفتار خود از آثار آن کاست.

براساس نظریه خودتعیین‌گری، زمانی که افراد در محیط‌هایی کنترل‌گر و فاقد خودمختاری قرار می‌گیرند، توان خودتنظیمی، تصمیم‌گیری مستقل و درونی‌سازی ارزش‌ها تضعیف می‌شود. چنین محیط‌هایی به بی‌انگیزگی، اتکا به تنظیم بیرونی و احساس ناتوانی نسبت به تغییر منجر می‌شوند. کودکان در تعامل با الگوریتم‌ها نیز همین الگو را تجربه می‌کنند؛ الگوریتم‌هایی که نه با ترجیح، نه با گزارش، نه با ناراحتی و نه حتی با توقف استفاده قابل‌پیش‌بینی یا قابل‌تنظیم نیستند.

پلتفرم‌ها می‌دانستند طراحی آن‌ها آسیب‌زا است و همچنان مشارکت را بر سلامت روان ترجیح دادند. وقتی کودکان با چاره‌جویی‌های پیچیده به این آسیب واکنش نشان می‌دهند، نباید این واکنش‌ها را نشانه سازگاری، تاب‌آوری یا رشد بدانیم. این واکنش‌ها نشان‌دهنده تلاش کودک برای بقا در سیستمی است که هیچ‌گاه برای سلامت او طراحی نشده است.