رقيب انسان

برخي از حرف‌هاي استيون هاوكينگ بسيار مشهورند مثل پيش‌بيني‌اش درباره يكي از احتمالات 
پيش روي نوع بشر كه هم توجه بسياري را به خود جلب كرد و هم نگراني‌هاي تازه‌اي در كنار نگراني‌هاي هميشگي ما به وجود آورد. سال 2014 در چنين روزي در گفت‌وگو با بي‌بي‌سي از نگراني‌اش درباره آينده فناوري و ظهور رقيبي خطرناك براي نوع بشر صحبت كرد. گفت ارتقاي هوش مصنوعي و ساختن ماشين‌هاي متفكر مي‌تواند حركت در مسير نابودي نوع بشر باشد و در آينده‌اي نه چندان دور به خلق دشمني قوي براي انسان‌ها منتهي شود. خودش به خاطر وضعيت خاص جسماني‌اش از ابزاري متكي به هوش مصنوعي براي ارتباط و صحبت با ديگران استفاده مي‌كرد، اما معتقد بود هوش مصنوعي پيشرفته‌تر و پيچيده‌تر احتمالا نه در خدمت انسان‌ها كه رقيب‌شان خواهد بود. مي‌گفت اگر روزي دانش و فناوري به حد ساخت هوش مصنوعي مستقل از تنظيم مداوم انسان و بي‌نياز از نظارت دايمي برسد، امكان تكامل آن -فراتر از انتظارات و محاسبات سازندگانش- هم وجود دارد كه اين هوش مصنوعي خود به خود و به سرعت تكامل مي‌يابد، محدوديت‌هايي كه انسان برايش وضع كرده زير پا مي‌گذارد و بر ضد ارباب و سازنده‌اش مي‌شورد. از آنجا كه فرآيند تكامل ما انسان‌ها به خاطر ويژگي‌هاي بيولوژيكي‌هاي بسيار كند است، در رقابت با اين هوش مصنوعي عقب مي‌مانيم و قطعا از نتيجه نهايي رقابت با چيزي كه خودمان ساخته‌ايم، غافلگير مي‌شويم. 
خلاصه حرفش اين بود كه هوش مصنوعي پيشرفته رقيب -و دشمن- انسان مي‌شود و اين نژاد را كه هزاران سال بر كره زمين فرمانروايي كرده است مغلوب و احتمالا براي هميشه نابود مي‌كند. مثلا 
-مانند بسياري از داستان‌هاي علمي و تخيلي- فرض كنيد كه هوش مصنوعي تصميم بگيرد كره زمين را از خطراتي كه تهديدش مي‌كند پاك كند و بعد با منطق سرد و قاطع خود، مزايا و معايب وجود انسان‌ها روي كره زمين را كنار هم بگذارد و در قياس با يكديگر بسنجد. مي‌بيند كه انسان‌ها سلاح‌هاي مرگبار و ويرانگر مي‌سازند و جنگ‌هاي خونين به راه مي‌اندازند، بسيار از آنان در مصرف منابع محدود موجود در اين سياره افراط مي‌كنند، كوه‌ها و جنگل‌ها را از بين مي‌برند، رودخانه‌ها و درياها را آلوده مي‌كنند و حتي به نوع خود هم رحم ندارند. 
از اين‌رو در چارچوب منطق هوش مصنوعي، ضروري است كه اين «تهديد» را يك‌بار براي هميشه رفع كرد و كره زمين را از خطري كه بر آن چنبره زده است نجات داد. به قول تام فيليپس «نگراني اينجاست كه اگر موفق شويم يك هوش مصنوعي توليد كنيم كه باهوش‌تر و توانمندتر از انسان باشد، شايد آن هوش مصنوعي طرفدار ما نباشد. ممكن است بتواند ما را براي رسيدن به اهداف خود دستكاري كند، ممكن است ما را يك تهديد ببيند و نابودمان كند يا به سادگي، نتواند تشخيص دهد انسان‌ها مهمند.» شايد اين ديدگاه كه انسان به دست اختراعي از اختراعات خودش نابود مي‌شود، دور از ذهن به نظر برسد اما زماني كه مي‌بينيم «تعداد بسيار زيادي از افراد ظاهرا باهوش اين ديدگاه را كاملا جدي گرفته‌اند» ديگر نمي‌توانيم به آن بي‌اعتنا باشيم. هر چند شايد پيش از اينكه برده يا قرباني هوش مصنوعي شويم «خودمان در جنگي هسته‌اي همه‌چيز را نابود كنيم.»