الگوريتم ميان گاوها و آدم‌ها
كامران مشفق آراني
در نوزدهم اسفند ۱۳۹۶، يك خودروي خودران متعلق به ناوگان حمل‌ونقل شركت اوبر در ايالت آريزوناي امريكا با يك عابر پياده برخورد كرد و او را كشت. اين حادثه سوالي جدي را در دنياي فناوري مطرح كرد: چه كسي مسوول است وقتي يك ماشين بدون راننده تصميم مي‌گيرد و انساني را مي‌كشد؟ نكته چالش‌برانگيز آنجا بود كه اين پرسش در بستر خيابان‌هاي نظام‌مند آريزونا، در شهر «تمپه» (Tempe) مطرح شد؛ شهري كوچك و نسبتا كم‌جمعيت كه در آن خطوط عابر پياده مشخص است، چراغ راهنمايي در جاي درست خود قرار دارد و قانون، به طور مطلوبي توسط شهروندان رعايت مي‌شود.
حالا تصور كنيد همين سوال را در قلب بمبئي بپرسيد، در ميان هياهوي موتوسيكلت‌هايي كه از هر سو مي‌آيند، گاوهايي كه وسط خيابان مي‌ايستند و عابراني كه حتي به چراغ قرمز هم اعتنا نمي‌كنند. در چنين فضايي، فناوري خودران نه يك معجزه بلكه يك معضل اخلاقي است. هند با بيش از يك ميليارد و چهارصد ميليون نفر جمعيت و كلان‌شهرهايي چون بمبئي، دهلي و بنگلور، در مسير گذار به اقتصاد ديجيتال و شهرهاي هوشمند قرار دارد.
دولت نارندرا مودي در سال ۲۰۱۵ برنامه‌اي بلندپروازانه به نام «صد شهر هوشمند» آغاز كرد تا زيرساخت‌هاي شهري را با استفاده از فناوري‌هاي نوين دگرگون كند. طبيعتا بمبئي، به عنوان پايتخت اقتصادي هند نيز بخشي از اين طرح بود، اما در ميان اين وعده‌هاي تكنولوژيك، مساله‌اي بنيادين ناديده گرفته مي‌شود؛ فرهنگ. نه در معناي سنت يا آيين، بلكه در معناي رفتارهاي جمعي، باورهاي نانوشته و منطق ناخودآگاهي كه هر روز در خيابان تجلي مي‌يابد.
خيابان‌هاي بمبئي روايتگر نوعي زندگي جمعي‌اند كه در آن گويي همه چيز در حال مذاكره است: فاصله، اولويت، حق عبور و حتي معناي قانون. در اين شهر نمي‌توانيد صرفا با رعايت قواعد رانندگي كنيد؛ بايد حس كنيد، بايد با ديگران ارتباط بگيريد، بايد حدس بزنيد آن موتورسوار از كدام سو مي‌خواهد بپيچد، حتي اگر چراغ راهنما نداشته باشد. اين هم سيستمي است، اما سيستمي انساني كه مردمان بمبئي طي دهه‌ها با آن عجين شده‌اند، نه الگوريتم‌هاي ماشيني. حال تصور كنيد خودرويي خودران وارد اين فضا شود. ماشيني كه براساس قواعدي منطقي و از پيش تعريف‌شده برنامه‌ريزي شده است. اما وقتي گاوي وسط خيابان مي‌ايستد، رانندگان دورش را مي‌گيرند و يك دستفروش هم از همان مسير عبور مي‌كند، الگوريتم چه تصميمي مي‌گيرد؟ آيا توقف مي‌كند؟ منتظر مي‌ماند؟ يا به سمت كدام سو مي‌پيچد و چه كسي را به خطر مي‌اندازد؟
اين دقيقا همان «مساله تراموا» است كه در فلسفه اخلاق مطرح مي‌شود، اما اين‌بار نه در يك آزمايشگاه ذهني بلكه در قلب يك كلان‌شهر زنده. فيليپا فوت، فيلسوف انگليسي، اين مساله را در دهه ۱۹۶۰ طرح كرد: اگر واگني در حال حركت باشد و نتوان آن را متوقف كرد، اما بتوان مسيرش را تغيير داد، آيا بايد مسير را عوض كرد تا پنج نفر نجات يابند، حتي اگر به قيمت جان يك نفر تمام شود؟
اين پرسش امروز در كد نرم‌افزاري خودروهاي خودران نهفته است و در هند، اين پرسش پيچيده‌تر مي‌شود؛ زيرا فضا پر است از متغيرهاي غيرقابل پيش‌بيني: كودكي كه ناگهان از پشت گاري بيرون مي‌پرد، مردي كه تلفن به دست از روي خط عابر عبور مي‌كند يا جواناني كه ميان ترافيك فوتبال بازي مي‌كنند.
در فيلم گزارش اقليت (Minority Report) ساخته استيون اسپيلبرگ، جامعه‌اي تصوير مي‌شود كه در آن جرم، پيش از وقوع شناسايي و متوقف مي‌شود. اما در پايان فيلم روشن مي‌شود كه هيچ نظام پيش‌بيني‌اي بي‌خطا نيست و درنهايت، اين انتخاب انساني است كه مي‌تواند سيستم را به چالش بكشد. خودروي خودران نيز به نوعي يك سيستم پيش‌بيني است؛ ماشيني كه مي‌كوشد پيش از وقوع حادثه تصميم بگيرد، اما در شهري چون بمبئي، «پيش‌بيني» يعني درك فرهنگ و اين چيزي است كه هيچ الگوريتمي دست‌كم تا به امروز قادر به يادگيري آن نيست، مگر آنكه ساخته ذهن‌هايي باشد كه با همان فرهنگ زيسته‌اند.براساس گزارش بانك جهاني، هند هر سال بيش از يكصد و پنجاه هزار كشته در تصادفات رانندگي دارد كه بخش عمده آن در مناطق شهري رخ مي‌دهد. اين آمار فاجعه‌بار است (اگرچه نسبت به جمعيت، در همين ايران خودمان اين فاجعه حتي عميق‌تر و ترسناك‌تر است). شايد برخي استدلال كنند خودروهاي خودران مي‌توانند اين عدد را كاهش دهند، اما واقعيت آن است كه فناوري نمي‌تواند جايگزين نظم اجتماعي شود. مشكل اصلي در هند بي‌احترامي به قانون نيست، بلكه فقدان فرهنگ قانون‌مداري است. قانوني كه نه به عنوان توافقي جمعي، بلكه به صورت امري تحميلي و بيروني درك مي‌شود تا زماني كه اين نگاه تغيير نكند، حتي پيشرفته‌ترين فناوري‌ها نيز شكست خواهند خورد.دولت هند در برنامه شهرهاي هوشمند خود بر زيرساخت‌هاي فيزيكي تمركز كرده است؛ دوربين‌ها، سنسورها، اينترنت اشيا و سامانه‌هاي هوشمند ترافيك. اما آنچه كمتر مورد توجه قرار گرفته، آموزش شهروندي است؛ شهروندي در معناي عميق آن، نه صرفا شناسنامه‌اي در جيب، بلكه حس مسووليت در برابر ديگران. در يك شهر خودران، اين حس بايد دوطرفه باشد: خودرو بايد به انسان احترام بگذارد و انسان بايد به خودرو و قانوني كه آن را هدايت مي‌كند، اعتماد كند، اما اعتماد ساخته نمي‌شود؛ آموخته مي‌شود. پيشرفت واقعي نه در فناوري بلكه در تحول انساني نهفته است. تا زماني كه ما نياموزيم چگونه در فضاي عمومي با يكديگر زندگي كنيم، هيچ الگوريتمي نخواهد توانست به جاي ما تصميم بگيرد.