توهم دانايي ماشيني
قادر باستاني‌تبريزي
ضرورت بازانديشي در سياستگذاري هوش مصنوعي
در دوراني به سر مي‌بريم كه اصطلاح «هوش مصنوعي» بدل به واژه‌اي مقدس شده است. از دولتمردان تا دانشگاهيان، از بنگاهداران تا دانش‌آموزان، همگان از هوش مصنوعي سخن مي‌گويند؛ گويي كليدواژه‌اي رمزآلود است كه اگر بر زبان آيد، درهاي آينده به ناگاه گشوده خواهد شد. اما راستي اين شور و شتاب از سر آگاهي است يا توهم دانايي؟ از سر تدبير است يا بلندپروازي؟ آيا همه اين تاكيدها، پيامد نوعي نگاه واقع‌گرايانه به تغييرات فناوري است يا نشانه‌اي از ترس از عقب ماندن و گرفتار شدن در مسابقه‌اي كه قواعدش را ديگران تعيين مي‌كنند؟! در تحليل سياستگذاري فناوري، تمايزي مهم ميان مصرف تكنولوژي و توليد معرفت وجود دارد. ملتي كه درك انتقادي از فناوري نداشته باشد، هرگز به توليد معرفت در آن حوزه نخواهد رسيد. مصرفِ خامِ هوش مصنوعي، نه‌تنها به توسعه ملي منتهي نمي‌شود، بلكه گاه مي‌تواند شكاف‌ها و آسيب‌هاي تازه‌اي را بر ساختارهاي موجود تحميل كند. آنچه امروز در كشورمان در قالب سياستگذاري هوش مصنوعي مي‌بينيم، بيشتر به نوعي هجوم هيجاني به فناوري مي‌ماند تا تلاشي هوشمندانه براي ساختن زيرساخت دانايي. از سال ۱۴۰۰ به اين‌سو، نظام تصميم‌گيري ما در حوزه هوش مصنوعي گرفتار نوعي تشتت نهادي شده است؛ وزارت ارتباطات، معاونت علمي رياست‌جمهوري، مركز ملي فضاي مجازي، شوراي عالي فضاي مجازي و شوراي نگهبان، هركدام به نوعي درگير دعواهاي دامنه‌دار بر سر سندنويسي و تعيين متولي شده‌اند. تاسيس و تعطيلی سازمان ملي هوش مصنوعي، نه از دل يك نياز روشن و برنامه مدون، بلكه در واكنش به نوعي فشار فضاي عمومي و وسوسه تكنولوژيك رقم خورد. لابد نوعي احساس تكليف نهادي شكل گرفته كه به جاي سياست‌ورزي آينده‌نگر، بيشتر تبلور بروكراسي رقابت‌طلب است.
همزمان شاهد هستيم كه كشورمان درگير خريد انبوه GPU و تجهيز ديتاسنترها شده، بدون آنكه مشخص باشد اين زيرساخت‌ها دقيقا در كدام حوزه‌هاي اولويت‌دار ملي، اجتماعي، اقتصادي يا علمي مورد استفاده قرار خواهد گرفت. اگر بپذيريم كه منابع مالي كشور محدود و آسيب‌پذير است، پس چرا در سياستگذاري هوش مصنوعي، همان ميزان احتياطي را رعايت نمي‌كنيم كه مثلا در سياستگذاري دارو، آب يا انرژي؟
هوش مصنوعي در حال حاضر، دست‌كم در شكل مولد آن (Generative AI)، داراي محدوديت‌هاي فلسفي و شناختي قابل توجهي است. براي مثال، سامانه‌اي مانند چت جي‌پي‌تي، به‌رغم توانايي تحسين‌برانگيزش در پردازش زبان طبيعي، فاقد درك استعلايي از مفاهيم است. وقتي از آن مي‌پرسيد كه «باران را توصيف كن»، آنچه در پاسخ دريافت مي‌كنيد نه حاصل تجربه حسي از خنكاي قطرات بر پوست، بوي خاك نم‌خورده يا صداي برخورد آب با شيشه، بلكه صرفا محصول تحليل آماري از هزاران متني است كه در آنها واژه باران به كار رفته است. اين سامانه نه بويي را استشمام كرده، نه صدايي را شنيده و نه از شوق نخستين باران پاييزي دلش لرزيده است. در واقع، آنچه توليد مي‌كند فقط تركيب‌هاي پركاربرد واژگاني است، نه بازتابي از ادراك حسي يا عاطفي.
اينجا دقيقا همان نقطه‌اي است كه تمايز ميان دانايي آماري و ادراك معنايي رخ مي‌نمايد. هوش مصنوعي نمي‌داند باران چيست؛ نمي‌فهمد سرماي ناگهاني‌اش، طنين ضربه‌هايش بر سقف شيرواني يا بوي خاك پس از آن چه معنايي دارد، بلكه فقط مي‌داند كه در انبوهي از متون، واژگاني مانند قطره، ابر، پاييز، ترنم يا خاك نم‌خورده، غالبا در جوار واژه باران ديده مي‌شوند.
بنابراين اگر بپنداريم چنين سامانه‌هايي مي‌توانند جاي انسان تصميم بگيرند يا سياستگذاري كنند، دچار خطايي هستي‌شناختي شده‌ايم؛ گمان كرده‌ايم آماره، معناست و مدل زباني، شعور. حال آنكه در بهترين حالت، اين سامانه‌ها صرفا بازتابي آماري از جهان واژگانند، نه شريك در تجربه زيسته بشري.
بخش مغفول ماجرا، به جايگاه جنوب جهاني در توسعه و بهره‌گيري از هوش مصنوعي بازمي‌گردد. مطالعات پسااستعماري به درستي نشان داده‌اند كه فناوري، برخلاف تصور خنثي‌گرايانه، حاوي سوگيري‌هاي ساختاري و معرفتي است. الگوريتم‌ها و مدل‌هاي زباني موجود، از مجموعه‌داده‌هايي آموزش ديده‌اند كه عمدتا در چارچوب‌هاي فرهنگي، زباني و ارزشي غربي ساخته و پرداخته شده‌اند. در نتيجه اين مدل‌ها تصويري تحريف شده، تقليل‌گرايانه يا كليشه‌اي از «ديگري» ارايه مي‌دهند.
به‌ويژه در مورد هوش مصنوعي اگر با رويكردي انتقادي بازتعريف نشود، مي‌تواند تبديل به ابزاري براي بازتوليد سلطه ديجيتال شود. اينجاست كه بايد به جاي تمركز صرف بر خريد فناوري، به توليد داده بومي، طراحي مجموعه‌داده‌هاي منصفانه، تربيت متخصصان بومي و تاسيس نهادهاي ناظر اخلاقي انديشيد. سرمايه‌گذاري در اين عرصه، شايد به چشم نيايد، اما يگانه مسير رهايي‌بخش در برابر خطر امپرياليسم الگوريتمي است.
در سال‌هاي اخير، شاهد نوعي شتاب‌زدگي در تدوين سياست‌هاي فناورانه بوده‌ايم. همان‌طور كه در حوزه رمزارزها، اينترنت اشيا يا فيلترينگ نيز ديده شد، تصميم‌ها بيشتر بر پايه ترس يا هيجان اتخاذ مي‌شوند تا بر اساس داده، تحليل و ارزيابي عميق. در چنين فضايي، آنچه بيش از هر چيز لازم است، تواضع سياسي است.
تواضع در سياستگذاري به معناي پذيرش اين واقعيت است كه ما همه چيز را نمي‌دانيم كه دنيا سريع‌تر از ما در حال تغيير است و تقليد از نسخه‌هاي آماده ديگران بدون درك زمينه‌هاي اجتماعي و فرهنگي خود، نه به پيشرفت، بلكه به سردرگمي منتهي مي‌شود. تواضع، شكل متعالي واقع‌گرايي است و شايد گمشده‌ترين فضيلت ما در سياستگذاري فناوري باشد.
ما در آغاز راهي هستيم كه مي‌تواند به هموار شدن مسير دانايي يا به درهاي از آشفتگي بينجامد. اگر هوش مصنوعي را صرفا به چشم فرصت اقتصادي يا مد روز نگريستيم و اگر به نقد ريشه‌اي مباني معرفتي، فرهنگي و نهادي آن بپردازيم، مي‌توانيم الگويي بومي از توسعه فناوري رقم بزنيم؛ الگويي كه نه مقلد غرب باشد و نه منزوي از جهان.
در غير اين صورت، تنها با ظاهر هوشمندانه شدن، خود را در برابر ساختارهاي پيچيده‌تر سلطه ديجيتال بي‌پناه خواهيم يافت. آنچه بيش از GPU و ديتاسنتر نياز داريم، «معرفت‌شناسي فناوري» است؛ يعني بازتعريف رابطه انسان، دانش و قدرت در جهان تكنولوژيك.
پس شايد پرسش اساسي اين نباشد كه آيا ما هوش مصنوعي داريم يا نه؟ بلكه اين باشد كه آيا هنوز خودآگاهي انساني را پاس مي‌داريم؟ اگر پاسخمان آري باشد، آنگاه مي‌توانيم از دل اين تكنولوژي، نه بيم كه بينش استخراج كنيم. هوش مصنوعي، اگر در مدار اخلاق، تعادل و شناخت بومي هدايت شود، نه جاي انسان را مي‌گيرد و نه معنا را از ما مي‌ربايد؛ بلكه به ابزاري تبديل مي‌شود براي گسترش ظرفيت‌هاي انساني، آينه‌اي براي فهم ژرف‌تر از خويشتن.