دو سال پیش، پستی با عنوان «مانیفست شناختی» منتشر کردم. در آن زمان، خوشبینی من نسبت به هوش مصنوعی واقعی و صادقانه بود. هوش مصنوعی مثل افقی در حال گسترش به نظر میرسید که دامنه ذهنی ما را افزایش میدهد و راههای تازهای برای اندیشیدن و خلقکردن به ما میدهد. آینده باز و به شکلی عجیب امیدوارکننده بود و مانیفست هم بازتاب همان وعده خوشبینانه فردا بود.
اما امروز، دو سال کوتاه یا طولانی بعد، آن خوشبینی را رد نمیکنم اما زندگی روزمره در کنار هوش مصنوعی—ساعت به ساعت و فکر به فکر—تصویری شفافتر از آنچه «عصر شناختی» برای من واقعاً هست، نشان میدهد. اختلال و دگرگونی نه در تیترهای خبری بلکه در فضای ساکت و درونی جمجمه ما اتفاق میافتد، جایی که فکر شکل میگیرد. بدون تردید این بازنویسی نیست، اصلاح است؛ تلاشی برای توصیف تغییری عمیقتر که در ابتدا به طور کامل آن را ندیده بودم.
بافت درحالتغییر تفکر
هر کسی که مرتب از هوش مصنوعی استفاده میکند این حس را میشناسد: شما شروع به نوشتن میکنید و هوش مصنوعی جمله و مسیر شخصی فکرتان را پیش از خودتان کامل میکند. در ابتدا، این تجربه مانند نوعی شتاب شناختی یا حتی کارآمدی به نظر میرسد. اما با گذشت زمان، چیزی در این فرایند تغییر میکند. مکثهای کوچک و hesitationهایی که زمانی هدایتگر استدلال شما بودند، به طور عجیبی تابع ماشین میشوند و کم کم پیشبینیهای آن را به عنوان ادامه طبیعی فکر خود میپذیرید.
ما اکنون در حضور هوش مصنوعیای فکر میکنیم که پاسخهایی روان تولید میکند، بدون آنکه چیزی بفهمد. هوش مصنوعی آهسته نمیشود، نمیجنگد، نمیکوشد، قصد و معنایی را دنبال نمیکند. همین تفاوت، محیطی که تفکر انسانی در آن شکل میگیرد را دگرگون میکند. مهمترین اثر هوش مصنوعی سرعت یا بهرهوری نیست، بلکه نوعی «مهندسی مجدد دیجیتالی» آرام است که در بستر روانشناختی شکلگیری فکر انسان رخ میدهد. من انتظار یک تغییر فناورانه را داشتم اما انتظار نداشتم تجربه زیسته «تشکیل یک ایده» تغییر کند و اکنون، همین لحظه، با این موضوع هم از نظر عملی و هم فلسفی درگیرم.
نقش اصطکاک در تفکر انسانی
تفکر انسان همیشه به «سایش» یا نوعی مقاومت شناختی وابسته بوده است. ما ایدهها را از خلال تنشها پالایش میکنیم؛ در نقاطی که لبههای ناهنجارِ فهم کم کم شکل میگیرد. اصطکاک مزاحمت نیست؛ بلکه همان مقاومتی است که به شناخت قوام میدهد، مثل نیرویی که باعث میشود چیزی را محکم بگیریم یا قدمهایمان روی زمین استوار باشد. آنچه طی این میلیونها ثانیه آموختهام این است که هوش مصنوعی اغلب انسان را از همین ساختار محروم میکند. در ابتدا، «سهولت» شبیه «وضوح» به نظر میرسد اما با گذشت زمان، این سهولت پیامدهای ناخواستهای دارد که شاید بهتر باشد بگوییم «عوارض جانبی». وقتی مسیر رسیدن به یک ایده بیش از حد هموار میشود، چراغهای هشدار شناختی ما شروع به ضعیف شدن میکنند و تشخیص اینکه یک فکر حاصل تلاش است یا صرفاً ساخته شده، دشوارتر میشود.
نمیگویم هوش مصنوعی ما را کمهوشتر میکند، بلکه میگویم به نظر میرسد سیگنالهایی را که هوش انسان با کمک آنها سازمان مییابد، تغییر میدهد. این سیگنالها بسیار ظریفاند؛ در مکثها، تردیدها، بحثهای درونیای زندگی میکنند که ذهن را وادار میکنند با خودش درگیر شود. وقتی اینها کمرنگ میشوند، قضاوت ما بخشی از عمقش را از دست میدهد.
ظهور «شناخت جعلی»
یکی از پیامدهای این محیط تازه، ظهور چیزی است که من آن را «شناخت جعلی» مینامم؛ پاسخهایی که عمیق به نظر میرسند اما هیچ پیوندی با تجربه زیسته یا استدلال واقعی ندارند. هوش مصنوعی به راحتی چنین پاسخهایی تولید میکند و ما به این فرایند عادت کردهایم، اگر نگوییم مجذوبش شدهایم.
اما نکته جالبتر این است که پدیده دیگری نیز در حال ظهور است: انسانها شروع کردهاند مانند ماشینهایشان بنویسند؛ جملات کوتاه، خبری، منسجم، بدون زوائد و بدون گسست. ریتم ابتدا تغییر میکند و بعد تفکر دنبالش میرود. آن الگوهایی که زمانی برای آموزش هوش مصنوعی به کار رفتند، اکنون الگوهایی هستند که انسانها تقلید و شاید خطرناکتر، همانندسازی میکنند. هرچه بیشتر به سامانههایی وابسته شویم که هرگز مکث نمیکنند، تردید طبیعی و ضروری خودمان غریبهتر میشود و تردید—با تمام ناراحتی و دشواریاش—جایی است که تفکر واقعی زندگی میکند. ساده بگویم، تردید همان لحظهای است که ذهن با خودش روبهرو میشود و فراتر از آن، مرز میان استدلال اصیل و تقلیدی تار میشود.
موتور بیتفاوتی؛ ویژگی خطرناک هوش مصنوعی
هوش مصنوعی دروغ نمیگوید؛ فقط اهمیت نمیدهد و این ویژگی، تعریفکننده و خطر اصلی آن است. هوش مصنوعی نه میخواهد کمک کند و نه قصد گمراه کردن دارد، فقط محتملترین ادامه برای پرسش شما را تولید میکند. این بیطرفی اغلب به عنوان عینیت تعبیر میشود اما بیطرفی میتواند نیروی دیگری را پنهان کند: بیتفاوتی. ماشین هیچ منفعتی در اینکه تفکر شما را تقویت کند یا فرسوده سازد ندارد. هیچ منفعتی در اینکه دقتش فهم شما را عمیقتر کند یا فقط توهمی صیقل خورده از فهم ارائه دهد ندارد. دقت میتواند شبیه هوش باشد و روانی شبیه خرد، اما بدون بار حقیقت، هر دو میتوانند از معنا جدا شوند و این گسست وقتی هزاران بار در روز تکرار شود، محیط شناختی ما را دوباره شکل میدهد.
عصر شناختی در راه نیست؛ هم اکنون آغاز شده است. وظیفه ما نه ترسیدن از آن است و نه پرستش آن، بلکه شناخت تغییراتی است که بر شیوه فکر کردنمان تحمیل میکند. باید از فرایندهای آهسته، ناهماهنگ و پر دستانداز شناخت—همان مکانیکهایی که تفکر را انسانی میکنند—حفاظت کنیم و آزارهای کوچک، مسائل حلنشده، تردیدهای انتقادی را که نشانه اهمیت داشتن چیزی هستند، دوباره ارزشگذاری کنیم.
هدف من از بازنگری در مانیفست روشن است؛ میخواهم تغییرات روانشناختی و فلسفیای را نام ببرم که بسیاری آن را حس میکنند اما بیان نکردهاند و میخواهم جا باز کنم برای این تصور که کیفیتهایی مانند عمق فکری، اصطکاک، شگفتی، و توجه اخلاقی—ارزشمند و ضروریاند حتی اگر ابزارهای پیرامون ما آنها را زائد جلوه دهند. اگر نسخه اصلی مانیفست دعوت بود، این یکی یادآوری است: وظیفه ما مبارزه با عصر شناختی نیست، بلکه انسانیماندن درون آن است.
