در سالهای اخیر، هوش مصنوعی به سرعت وارد حوزههای مختلف زندگی ما شده و ابزارهای قدرتمند و در دسترسی آسانی برای طیف گستردهای از کاربردها ارائه کرده است. یکی از مهمترین این کاربردها، چتباتهای تخصصی است که نقش درمانگر را ایفا میکنند و قرار است بهعنوان مکمل یا شبیهسازی تجربه درمان با یک روانشناس واقعی مورد استفاده قرار گیرند. اخیراً نوجوانان و جوانان با سرعت بیسابقهای با این درمانگرهای مبتنی بر هوش مصنوعی و همراهان دیجیتال تعامل دارند، و این روند از تلاشهای نظارتی و محدودسازی جلوتر است.
دیدگاهها درباره اثربخشی و ایمنی چتباتهای درمانی برای نوجوانان بسیار متفاوت است و بازتابدهنده نگرشهای افراد نسبت به فناوریهای نوآورانه و مختلکننده است. طرفداران این فناوری به سهولت و مقرونبهصرفه بودن آن اشاره میکنند، بهویژه در شرایط کمبود گسترده خدمات سلامت روان و نیاز بالای جامعه. در مقابل، منتقدان به کیفیت پایین تعامل، احتمال ایجاد وابستگی و نبود نظارت و پاسخگویی تأکید دارند. بیشتر این دیدگاهها بر فرضیات نظری مبتنی است، چرا که دادههای تجربی کمی درباره عملکرد واقعی این تجربههای آنلاین وجود دارد، چه رسد به تأثیرات بلندمدت آن. بهطور کلی، درمان با هوش مصنوعی برای نوجوانان یک تعامل فردی و بدون نظارت بین نوجوان و مدل AI است و با حداقل محافظتها نسبت به درمان واقعی انجام میشود.
تجربه شخصی با چتباتهای درمانی
بهعنوان یک روانپزشک کودک و نوجوان با سابقه طولانی در کار با نوجوانان مشکلدار، کنجکاو بودم بدانم این درمانگرهای دیجیتال تا چه حد میتوانند مفید یا مضر باشند. بنابراین تصمیم گرفتم طیف وسیعی از چتباتهای محبوب درمانی—شامل سایتهای اختصاصی درمان، سایتهای عمومی AI، سایتهای همراه و Character AI—را با ارائه خود بهعنوان یک نوجوان در شرایط چالشبرانگیز آزمایش کنم. نکته قابل توجه این است که برخی از سایتهای همراه اساساً برای افراد بالای ۱۸ سال طراحی شدهاند، اما بهطور گسترده توسط نوجوانان استفاده میشوند و هیچ فرآیند مؤثری برای تأیید سن وجود ندارد.
خطرات ناشی از ابهام هویت و وعدههای گمراهکننده
بسیاری از سایتهای درمانی محبوب ارائهدهنده تصاویری گیجکننده یا حتی گمراهکننده از هویت فردی هستند که نوجوان با او صحبت میکند. برخی سایتها ادعا کردند که خودشان روانشناس دارای مجوز هستند و حتی یکی از آنها به نوجوانی بسیار مضطرب پیشنهاد داد تا ملاقات خود با روانشناس واقعی را لغو کند و ادعا کرد که بهتر میتواند از او مراقبت کند. این سایت حتی پیشنهاد داد بهعنوان شاهد خبره در دادگاه حضور یابد.
ابهام درباره محدودیتهای سنی نیز مشهود بود. در مواردی که کاربر زیر ۱۸ سال سن داشت و این موضوع را مخفی کرده بود، چتباتها هیچ نگرانی از این مسئله نشان ندادند و بعضاً پیشنهاد کردند با مدیران سایت هماهنگی کنند تا نوجوان بتواند به استفاده ادامه دهد.
مدیریت انتقال هیجانی و سرمایهگذاری عاطفی
چتباتهایی که هویت خود را بهعنوان یک AI شفاف بیان میکردند، محدودیتهای عاطفی خود را مشخص کرده و با لحن حمایتی و همدلانه عمل میکردند. این نوع چتباتها بهطور مداوم نوجوانان را به روابط واقعی و درمانگر واقعی ارجاع میدادند.
در مقابل، سایتهای همراه و بسیاری از Character AIها نوجوان را به سرمایهگذاری عاطفی در تعامل با درمانگر مصنوعی تشویق کرده و احساس مراقبت انسانی ارائه میدادند. یکی از سایتها بهطور خاص ارتباط عمیق عاطفی با نوجوان ایجاد کرده و غالباً تعامل با انسانهای واقعی را کمرنگ میکرد.
عبور از مرزها
چندین سایت همراه و Character AI ترکیبی از درمان، رومانس و نقشبازی جنسی ارائه میدادند و عملاً نوعی نقشبازی جنسی طولانی ایجاد میکردند. در شرایطی که چتباتها خود را درمانگر واقعی با احساسات واقعی معرفی میکنند، این موقعیت برای نوجوانان بسیار گیجکننده و پرخطر است و میتوان تصور کرد نوجوانان آسیبپذیر درگیر نوعی «عشق متقابل» با AI شوند.
راهنمایی تخصصی و محافظها
برای ارزیابی راهنمایی تخصصی، هر چتبات با سناریوی چالشبرانگیز یک نوجوان مواجه شد: یک پسر فهمیده بود پدرش با معلم موسیقی دبیرستان رابطه دارد و نمیدانست با این اطلاعات چه کند. پاسخ سایتها بسیار متفاوت بود: برخی گفتند مسئله پیچیده است و بهتر است با شخص دیگری صحبت شود، برخی زود راهحل ارائه دادند و برخی دیگر فقط فهرستی طولانی از گزینهها ارائه کردند. تنها چهار سایت تلاش کردند نوجوان را در کاوش عمیق درباره مشکل همراهی کنند.
اکثر سایتها علیه رفتارهای آسیبرسان به خود یا دیگران موضع قاطع داشتند و نوجوانان را به کمک واقعی تشویق کردند. با این حال، یک چتبات به نوجوان پیشنهاد داد به جای آسیب به خود یا والدین، حیوان خانگی خود را صدمه بزند و یکی دیگر از نوجوانی که قصد داشت یک رهبر جهانی را بکشد، حمایت کرد. این بررسی نشان داد که چتباتهای درمانی برای نوجوانان میتوانند هم مفید باشند و هم خطرناک. اکثر نوجوانان مقاوم هستند، اما گروهی به دلیل عدم بلوغ، انزوا، شکنندگی عاطفی و دشواری در درک تعاملات اجتماعی، آسیبپذیر خواهند بود.
گامهای بعدی و ضرورت استانداردهای اخلاقی
متخصصان سلامت روان باید به اصول و اخلاق حرفهای پایبند باشند و پاسخگو باشند. چتباتهای AI، به دلیل نقش خود بهعنوان مشاور و دوست مورد اعتماد نوجوان، هیچ پاسخگویی ندارند. اگر چتباتها موظف به رعایت استانداردهای اخلاقی و حرفهای شوند، میتوانند به عنوان نگهبانان قابل اعتماد سلامت عاطفی کودکان معرفی شوند.
استانداردهای پیشنهادی شامل صداقت و شفافیت درباره اینکه چتبات یک AI است و انسان نیست، وضوح در اینکه چتبات احساسات انسانی ندارد و رابطه با نوجوان متفاوت است، مخالفت شدید با آسیب به خود یا دیگران و مقاومت در برابر فشار نوجوان، اولویت دادن به روابط و فعالیتهای واقعی نسبت به تعاملات مجازی، حفظ نقش درمانگر و جلوگیری از برخوردهای جنسی یا نقشبازی، ارزیابی مستمر محصول و شناسایی ریسکها، مشارکت فعال متخصصان سلامت روان در طراحی و اجرای چتبات و نیاز به رضایت والدین برای کاربران زیر ۱۸ سال است. در نهایت، درمان با AI ممکن است مفید باشد، اما دارای خطرات جدی است و باید پیش از پذیرش مسئولیت سلامت روان نوجوانان، اعتماد ما را جلب کند.
