درباره اخلاق هوش مصنوعي
اميرحسين خداپرست
در سال‌هاي اخير پيشرفت‌هاي چشمگير در حوزه هوش مصنوعي، به ويژه در زمينه يادگيري ماشيني، كلان‌داده‌ها و پردازش زبان طبيعي، در بسياري از ابعاد زندگي فردي، اجتماعي، اقتصادي و سياسي انسان‌ها تحولاتي بنيادين پديد آورده است. در اين ميان، يكي از مهم‌ترين و در عين حال، پيچيده‌ترين پرسش‌هايي كه همزمان با توسعه اين فناوري مطرح شده، پرسش اخلاقي است: چگونه بايد فناوري‌اي را ارزيابي و مديريت كرد كه هم قابليت حل برخي از مهم‌ترين مشكلات بشر را دارد و هم مي‌تواند تهديدي براي بنيان‌هاي آزادي فردي و عدالت اجتماعي باشد؟ كتاب اخلاق هوش مصنوعي نوشته مارك كوكلبرگ، فيلسوف شناخته شده فناوري كه اينك نشر ققنوس ترجمه فارسي آن را به قلم احسان عارفي‌فر در‌اختيار ما نهاده است، پاسخي تحليلي به اين پرسش اساسي ارايه مي‌كند. اين كتاب كه در اصل در قالب مجموعه علمي و پرخواننده «دانش ضروري» ازسوي انتشارات دانشگاه ام‌آي‌تي منتشر شده، كوششي سنجيده براي معرفي و تحليل نقادانه مهم‌ترين مباحث مربوط به اخلاق هوش مصنوعي در سطوح نظري، عملي و نيز سياستگذاري است. كوكلبرگ كه خود همزمان از تخصص فلسفي و تجربه مشاوره در نهادهاي سياستگذار اروپايي بهره‌مند است، در اين اثر به جاي بسنده كردن به كليشه‌ها و روايت‌هاي هراس‌افكن يا خوش‌بينانه و ساده‌انگارانه، مي‌كوشد فهمي ژرف‌تر و زمينه‌مندتر از نسبت بين فناوري هوش مصنوعي و ملاحظات اخلاقي به دست دهد. كتاب در قالب دوازده فصل تنظيم شده است كه هر يك به يكي از جنبه‌هاي اصلي و چالش‌برانگيز در اخلاق هوش مصنوعي مي‌پردازد. نويسنده، با نگاهي ميان‌رشته‌اي، مباحث را از چشم‌اندازهايي متفاوت چون فلسفه فناوري، نظريه‌هاي اخلاق، سياستگذاري عمومي و تحليل فرهنگي بررسي مي‌كند. از همان نخستين فصل، كتاب با ارجاع به رخدادهايي نمادين چون شكست لي سدول، قهرمان بازي گو، در مقابل برنامه AlphaGo و يادآوري شكست پيشين كاسپارف در مقابل
Deep Blue، ما را به قلب يكي از پرسش‌هاي اصلي مي‌برد: اگر ماشين‌ها مي‌توانند در پيچيده‌ترين فعاليت‌هاي فكري انسان بر او غلبه كنند، جايگاه ما در مقام فاعلان اخلاقي و معماران تمدن انساني كجاست؟ كوكلبرگ با نقد روايت‌هاي رايج درباره ابرهوش‌ها، تكينگي فناورانه و تراانسانيت، از نقش روايت‌هاي فرهنگي و اسطوره‌اي در شكل‌گيري انتظارات و ترس‌ها از هوش مصنوعي سخن مي‌گويد و با تحليل مثال‌هايي از فيلم‌ها، اسطوره‌ها و ادبيات نشان مي‌دهد كه چگونه گفتمان معاصر درباره هوش مصنوعي از الگوهاي كهنِ رقابت انسان و ماشين يا خالق و مخلوق بهره مي‌برد. او در اين تحليل‌ها به ويژه بر اهميت بازانديشي در مفاهيمي چون عامليت اخلاقي، سوژگي، خودآگاهي و مسووليت‌پذيري تاكيد مي‌كند. يكي از مهم‌ترين محورهاي تحليلي كتاب تبيين تمايز بين عامليت اخلاقي و موضوعيت اخلاقي در زمينه هوش مصنوعي است. كوكلبرگ با بررسي ديدگاه‌هاي متنوع فلسفي، از فيلسوفان پديدارشناسي چون هيوبرت دريفوس تا متفكران سنت تحليلي چون جان سرل، نشان مي‌دهد كه پرسش از امكان اخلاقي بودن ماشين‌ها مستلزم بازبيني در بسياري از پيش‌فرض‌هاي انسان‌محورانه درباره عقلانيت، احساس، قصد و تصميم است. او، در عين حال، با اشاره به مثال‌هايي عملي مانند اتومبيل‌هاي خودران، سامانه‌هاي تشخيص چهره و ابزارهاي پيش‌بيني جرم نشان مي‌دهد كه حتي اگر هوش مصنوعي واجد عامليت اخلاقي به معناي كلاسيك آن نباشد، تصميم‌هايي كه از طريق الگوريتم‌ها اتخاذ مي‌شود آثار اخلاقي مستقيم و عميقي بر زندگي افراد دارند. بنابراين طراحي و نظارت اخلاقي بر اين سامانه‌ها نه‌تنها ضروري، بلكه از نظر اخلاقي براي جوامع مدرن فوري و فوتي است. يكي ديگر از مسائل مهمي كه كتاب به تفصيل بدان مي‌پردازد، مساله جانبداري در الگوريتم‌ها و تاثير آن بر بازتوليد نابرابري‌هاي نژادي، جنسيتي و طبقاتي است. كوكلبرگ با ارجاع به مطالعات موردي مانند سيستم‌هاي امتيازدهي مجرمان، الگوريتم‌هاي استخدام و اعطاي وام و ابزارهاي پليس براي پيش‌بيني جرم نشان مي‌دهد كه الگوريتم‌ها نه‌تنها بي‌طرف نيستند، بلكه اغلب سوگيري‌هاي پيشين را تشديد و نابرابري‌ها را تثبيت مي‌كنند. از اين منظر، اخلاق هوش مصنوعي را نمي‌توان از زمينه اجتماعي و سياسي جدا ساخت، چراكه فناوري در بستري قدرتمند عمل مي‌كند و از سوي بازيگراني خاص (شركت‌ها، دولت‌ها، ارتش‌ها) هدايت مي‌شود. كتاب، در فصل‌هاي پاياني خود، مسائل مربوط به سياستگذاري، استانداردسازي و آينده قانونگذاري در حوزه هوش مصنوعي را بررسي مي‌كند. نويسنده كه خود عضو گروه مشاوران سطح بالاي كميسيون اروپايي در زمينه هوش مصنوعي بوده است، تجربه زيسته خود را در گفت‌وگو با سياستگذاران و متخصصان اين حوزه به كار مي‌گيرد تا نشان دهد كه چگونه مباحث نظري بايد به چارچوب‌هاي عملي سياستگذاري تبديل شوند. او همچنين در فصل پاياني با نگاهي نقادانه درباره شيدايي نسبت به هوش مصنوعي و غفلت از بحران‌هايي چون تغييرات اقليمي هشدار مي‌دهد و مي‌نويسد: «احمق! مساله اصلي آب‌وهواست!» هشدار اين فصل دعوتي است براي بازنگري در اولويت‌هاي اخلاقي جهان معاصر و پرهيز از گرفتار شدن در بازي‌هاي قدرت فناوري‌محور. براي ما كه اين روزها از جهات گوناگون، در زندگي فردي و اجتماعي و سياسيمان، با هوش مصنوعي درگير شده‌ايم، اخلاق هوش مصنوعي مارك كوكلبرگ نمونه‌اي قابل توجه از تلفيق تحليل فلسفي، حساسيت اجتماعي و تعهد اخلاقي در مواجهه با يك فناوري بسيار مهم و دوران‌ساز است. اين كتاب مرجعي مفيد براي دانشجويان، پژوهشگران و متخصصان فناوري است اما علاوه بر آن، براي عموم شهرونداني هم كه دغدغه آينده اخلاقي جامعه درگير با هوش‌مصنوعي را دارند، راهنمايي نقادانه محسوب مي‌شود. كوكلبرگ با زباني روشن، منسجم و پرمثال مخاطب خود را درگير پرسش‌هايي مي‌كند كه نه‌تنها درباره آينده فناوري بلكه، به يك معنا، درباره معناي انسان بودن در عصر هوش مصنوعي‌اند. از اين حيث، اين كتاب صرفا اثري درباره اخلاق فناوري نيست، بلكه دعوتي به بازانديشي در حال و آينده
به شدت نامطمئن انساني است.