طبق معمول عصرها داشتم شبكه‌هاي اجتماعي را با سرعت مرور مي‌كردم كه به يك داستان مديريتي جالب برخوردم؛ روايت از جايي شروع مي‌شود كه آلن بروكس 47 ساله كانادايي و كارمند بخش خصوص ۲۱ روز را به صحبت با چت‌جي‌پي‌تي گذرانيد و در پايان او متقاعد شده بود كه يك فرمول رياضي انقلابي كشف كرده است. فرمولي كه به گفته خودش قادر به شكستن كدهاي رمزگذاري و ايجاد ميدان‌هاي نيرو است. نكته جالب اينجاست كه او مسوول استخدام يك شركت كوچك محلي است و به اين نتيجه رسيده كه مي‌تواند قوانين فيزيك كلاسيك و رياضيات را جابه‌جا كند، او دقيقا نمونه بارز چيزي شده كه مي‌توان آن را توهم هوشمندي ناميد، پديده‌اي كه در سايه گسترش ابزارهاي نوين ديجيتال رو به فزوني است.
به راستي مشكل از همان نقطه‌اي شروع مي‌شود كه انسان با ماشين در تعامل قرار مي‌گيرد. مدل‌هاي زباني بزرگ با توانايي پاسخ‌دهي روان و ساختاريافته، حسي از اقتدار دانشي در كاربرانشان ايجاد مي‌كنند، وقتي فردي سوال مي‌پرسد و پاسخ جامعي دريافت مي‌كند، طبيعي است كه تصور كند بر موضوع تسلط يافته، اما گويي در همين‌جا است كه براي كاربران دامي نهفته شده است. پاسخ دريافتي ممكن است حاوي اطلاعات نادرست، ناقص يا حتي كاملا ساختگي باشد، چيزي كه در اصطلاح فني آن را
Hallucination (به فارسي همان توهم يا هذيان ترجمه مي‌شود) مي‌نامند.
درست مثل كسي كه از نقشه غلط استفاده مي‌كند ولي مطمئن است مسير درست را مي‌رود. فرق اين است كه در اينجا نقشه‌كش خودش هم گاهي گم مي‌شود اما اعتماد به نفس كاذب به كاربر منتقل مي‌كند.
روانپزشكان دانشگاه كاليفرنيا اخيرا نسبت به چيزي به نام «روان‌پريشي هوش مصنوعي» هشدار داده‌اند. آنها از حلقه‌هاي بازگشتي تعامل با چت‌بات‌ها صحبت مي‌كنند كه پيامدهايي چون طلاق، بستري در بيمارستان و حتي مرگ داشته است. اين هشدارها نشان مي‌دهند مساله فراتر از يك سوءتفاهم ساده رفته و به مرحله‌اي رسيده كه مي‌تواند زندگي واقعي افراد را تحت‌تاثير قرار دهد.
در محيط‌هاي كاري نيز همين معضل خود را نمايان مي‌كند، البته با اشكالي ديگر. كارمنداني كه براي تهيه گزارش، تحليل داده يا حل مسائل پيچيده به اين ابزارها متكي مي‌شوند، گاهي فراموش مي‌كنند كه آنچه دريافت مي‌كنند صرفا پيشنهادي است نه حقيقت مطلق. نتيجه اين است كه تصميمات مهم سازماني براساس خروجي‌هايي گرفته مي‌شود كه ممكن است هرگز مورد ارزيابي انتقادي قرار نگرفته باشد.
مساله در حوزه آموزش حتي پيچيده‌تر مي‌شود، دانش‌آموز يا دانشجويي كه براي انجام تكليف درسي به چت‌بات مراجعه مي‌كند و پاسخ مفصلي دريافت مي‌كند، ممكن است احساس كند مطلب را كاملا فراگرفته، درحالي كه در واقع هيچ درك عميقي حاصل نكرده است، اين نوعي توهم يادگيري است كه تاثيرات بلندمدت آن بر نظام آموزشي هنوز كاملا مشخص نشده، اما اگر با دقت به پيرامونمان بنگريم تقريبا معضل‌هاي ناشي از رواج اين پديده آهسته‌آهسته در حال آشكار شدن هستند.
تحقيقات روانشناسي رفتاري نشان مي‌دهند
كه سوگيري اعتماد بيش از حد
(overconfidence bias) زماني بروز مي‌كنند كه اعتماد ذهني افراد به قضاوت‌هايشان فراتر از دقت واقعي آن قضاوت‌ها برود. حضور ابزارهاي هوشمند اين سوگيري را تشديد مي‌كند چون حس كاذب از دسترسي به اطلاعات بي‌نهايت در افراد هنگام مواجهه با آنها ايجاد مي‌كند.
چندي پيش با يك پژوهشگر حوزه منابع انساني در اين خصوص گفت‌وگو مي‌كردم و او نيز با چنين معضلي مواجه شده بود، به اعتقاد او نكته حائزاهميت اينجاست كه مطالعات جديد نشان مي‌دهند افراد به طور غيرآگاهانه فناوري را با موفقيت مرتبط مي‌دانند. اين ارتباط ذهني حتي در تصميمات مالي و سرمايه‌گذاري افراد نيز خود را نشان مي‌دهد، جايي كه افراد بيش از حد به گزينه‌هاي مرتبط با فناوري اعتماد مي‌كنند، صرفا به اين دليل كه «مدرن» و «هوشمند» به نظر مي‌رسند.
لاكن شايد عميق‌ترين بعد مساله در جاي ديگري نهفته باشد، وقتي ابزاري كه خود دچار «توهم» است، آن پديده توليد اطلاعات نادرست كه يكي از بزرگ‌ترين چالش‌هاي مدل‌هاي زباني محسوب مي‌شود، براي تقويت اعتماد به نفس افراد در جامعه استفاده شود، نتيجه دوچندان خطرناك مي‌شود؛ يعني توهم در توهم.
راه‌حل اين معضل نه در دور انداختن اين ابزارها، بلكه در يادگيري نحوه درست استفاده از آنهاست، درست مانند خيل عظيم فناوري‌هاي جديد ابتدا كاربران بايد درك كنند كه پديده هوش مصنوعي، خصوصا مدل‌هاي زباني ابزارهايي هستند براي كمك به تفكر نه جايگزين آن. هر خروجي بايد مورد بررسي انتقادي قرار گيرد، با منابع ديگر تطبيق داده شود و در چارچوب دانش عمومي ارزيابي گردد.
درنهايت بايد پذيرفت كه توهم هوشمندي محصول جانبي برخورد نامناسب با فناوري‌هاي پيشرفته است. تا زماني كه افراد و جوامع حرفه‌اي نقش واقعي اين ابزارها را به درستي نشناسند و آنها را نسخه شفابخش همه درد‌ها بدانند، اين بدرفتاري پارانويا‌گونه پابرجا خواهد ماند. آگاهي از وجود چنين پديده‌اي و پرورش مهارت‌هاي تفكر انتقادي، تنها مسير منطقي براي مواجهه سالم با اتفاقات شگفت‌انگيز عصر جديد است، چون در آخر، هوش واقعي در پرسيدن سوال درست است نه در يافتن پاسخ آماده.