پیش به سوی ممنوعیت های تکنولوژیک!

پایداری ملی- در اواسط جولای 2019 اوکلند کالیفرنیا به سومین شهر در آمریکا تبدیل شد که ادارات شهری را از استفاده از فناوری تشخیص چهره منع می کرد. در عین حال کنگره آمریکا جلسات استماعی را در این باره آغاز کرده که آیا استفاده از این فناوری را در سطحی ملی قانونمند کند یا نه و اگر آری چگونه. در یک نمونه غافلگیرکننده از اجماع دو حزبی، تنها چیزی که قانونگذاران بر سر آن با هم جنگیدند، این بود که شدت و دامنه این ممنوعیت ها چقدر باید باشد.

این واکنش به یک فناوری قدرتمند و بالقوه فراگیر نشانه ای است از اینکه جامعه و سیاست آفرینان چگونه باید نسبت به تحولات تکنولوژیک آینده، به خصوص فناوری هایی که از هوش مصنوعی بهره می برند واکنش نشان دهند. نه تنها فناوری تشخیص چهره به فیس بوک اجازه خودکار سازی مشخص کردن افراد را در عکس ها می دهد، بلکه  توانایی ادارات مجری قانون برای ردگیری مظنونان به جرایم را نیز به شدت افزایش می دهد. پرسش های اخلاقی نیز در این میان مطرح هستند. همانطور که «مرکز حریم خصوصی و فناوری» جرج تاون اشاره می کند، فناوری تشخیص چهره می تواند به شکل گرفتن «جهانی منجر شود که وقتی پایتان را از خانه بیرون می گذارید، دولت بتواند تک تک حرکاتتان را ردگیری کند.» و این تازه شروع کار است.

در افق موجی از نوآوری های دیجیتال در انتظار است که می تواند دست کم به همین قدرتمندی، گستردگی و مجادله برانگیزی باشد، فناوری هایی نظیر: ویدئوهای «دیپ فیک» افراد را در حال انجام کارهایی نشان می دهند که هرگز انجام نداده اند؛ «اینترنت اشیا» خانه های شخصی مردم را تمام مدت زیر نظر می گیرد؛ واقعیت مجازی دستکاری شده، اتومبیل های خودران، اجتماعات پر ازدحام و غیره و غیره.

من یک پژوهشگر هستم و درباره تاثیرات اجتماعی فناوری دیجیتال مطالعه می کنم و مطلع ماندن از فناوری های آینده و پیش بینی نتایج احتمالی آینده آنها شغل من است. اما با عرضه نوآوری های بیشتر و بیشتر، زمان کمتر و کمتری برای تامل پیرامون پیامدهای آنها وجود خواهد داشت. بسیاری از همکارانم نیز همین احساس را دارند.

 برای مهار این موج در حال برخاستن، جامعه به سدها و حصارهایی نیاز دارد. درست همانطور که در مورد فناوری تشخیص چهره اتفاق افتاده، زمان آن است که ممنوعیت ها و تعلیق های  قانونی برای سایر فناوری های در حال ظهور اندیشیده شود. این ممنوعیت ها لازم نیست همیشگی یا مطلق باشند، اما نوآوری یک خیر بی کم و کاست نیست. هرچه یک فناوری قدرتمندتر باشد،  برای به کار گرفتن ایمن آن مراقبت و توجه بیشتری لازم است.

 برای به کارگیری اکثر فناوری های دیجیتال جدید نیاز  و ضرورت مبرمی وجود ندارد. البته برخی نوآوری ها تقریبا به کلی مثبت هستند: مثل بیهوشی، لامپ، رادیو، واکسن ها. اما جامعه امروز اغلب از نوآوری به خاطر خود نوآوری استقبال می کند، حتی وقتی که مزایای آن جای سئوال است و در واقع هر چه می گذرد این مزایا بیشتر جای سئوال پیدا می کنند.

آیا واقعا شلوغ کردن آسمان با انبوه پهبادهایی که با سرعت و این طرف و آن طرف می روند تا یک کالای مصرفی را به جای حمل 24 ساعته یا حتی دو روزه یک ساعته حمل کنند، ارزشش را دارد؟ آیا واقعیت مجازی آنقدر عالی است که کودکان ما عملا باید در حالی که چشم هایشان به نمایشگرهای ویدئویی دوخته شده بزرگ شوند؟ وقتی دولت ها می توانند  سوء قصدهای به سختی قابل ردیابی را توسط پهبادها انجام دهند، آیا حقیقتا هیچ کس در امان خواهد بود؟ به فهرست فناوری های احتمالی آینده که می توانند بیشتر از امید، ترس را در دل انسان برانگیزند نگاهی بیندازید.

شاهد آن هستیم که این نوع از نوآوری ها یکی پس از دیگری از کمک به پیشرفت و بهبود شرایط انسانی در اشکال حقیقتا معنادار ناکام می مانند؛ چیزهایی مثل اینکه مردم چقدر یکدیگر را دوست دارند، مردم چقدر با شفقت و مهربانی مراقب یکدیگر هستند، آیا جامعه از افراد کمتر برخوردار به اندازه کافی حمایت می کند یا  انسان ها چقدر خردمندانه با سیاره زمین برخورد می کنند. اگر هم چیزی باشد، به نظر می رسد که فناوری با لوس کردن انسان ها از طریق رفاه و آسایش کالاهای مصرفی و ایجاد اتاق های پژواکی که انسان فقط صدای خود را در آن می شنود، ضعف های اخلاقی انسانی را تقویت می کند. نیم قرن گذشته شاهد یک عصر طلایی از نوآوری های دیجیتال بوده، با این حال نرخ های جهانی فقر افزایش یافته، نابرابری رشدی سرسام آور داشته و به نظر می رسد که پایداری بیشتر از دسترس دور شده است.

 بیشتر پیشرفت های فناوری هایی که امروزه به کار گرفته شده اند، به این مشکلات رسیدگی نمی کنند؛ آنها ناراحتی ها و موجبات آزار اندکی را از میان برمی دارند، بی آنکه اصولا موجی از آسودگی و آرامش خاطر را عرضه کنند.

فناوری های جدید همیشه پیامدهای عنان گسیخته – غالبا منفی- را به دنبال دارند و نوآوران همیشه این را که آنها چقدر می توانند بد باشند دست کم می گیرند. آفت کش ها موجب مشکلات جدی در سلامت عمومی شده اند. بطری های پلاستیکی اقیانوس ها را آلوده کرده اند. گوشی های هوشمند در ایجاد یک بحران در سلامت روانی نوجوانان نقش دارند.

در نظر بگیرید که یک سیستم هوش مصنوعی اگر  برای انجام کاری مشخص جهت دهی شود- مثل به حداکثر رساندن سودآوری با استفاده از تمام اطلاعات و ابزارهایی که در دسترس آن قرار دارد - چه می کند. می تواند از اطلاعات شخصی خجالت آورکاربران برای مجبور کردن آنها به خرید کالاهای خود یا واداشتن کسانی که اسرار تاریک تری دارند به انجام اعمال مجرمانه استفاده کند.

هنوز هیچ چیز نتوانسته مانع از دروغ گفتن الگوریتم های فروشگاه های آنلاین با هدف افزایش دادن فروش خود شود یا توانایی عملی فیس بوک را برای دستکاری در حس و حال کاربران خود را مهار کند. شرکت های فناوری به طور منظم با مشتریانشان همچون خوکچه های هندی رفتار می کنند و هم اکنون سیستم های هوش مصنوعی را برای طیف گسترده ای از مقاصد مختلف به کار گرفته اند.

اگر این ها فقط اثرات شناخته شده شرکت های فناوری تلاش ها و نوآوری های آنها باشد، تصور کنید که چه عواقب ناخواسته ای ممکن است در کمین مردم باشد. گزاره اصلی بازی پرطرفدار «گیره های کاغذ جهانی» این است که یک هوش مصنوعی متمرکز بر محقق کردن یک کسب و کار، از جایی سردر می آورد که به نابودی هستی شناخته شده می انجامد.  حوزه علمی تخیلی به سرعت در حال تبدیل شدن به واقعیات علمی است.

زمانی که مهار فناوری های دیجیتال برداشته شود، آنها مشخصا به غول هایی تبدیل می شوند که بازگرداندن آنها به درون بطری کار سختی است. از این نظر آنها با دیگر فناوری های پیشرفته فرق دارند. اندکی بعد از جنگ جهانی دوم فعالان این حوزه درخواست های خود را برای وضوع ممنوعیت هایی بر سر راه تسلیحات اتمی آغاز کردند که درسال 1970 و در قالب پیمان منع تولید و تکثیر هسته ای به اوج خود رسید. امضای این پیمان در نیل به این هدف که این فناوری 80 ساله تنها به 8 یا 9 کشور محدود بماند موثر بوده که این اتفاق به خصوص با توجه به تاریخ پرفراز و نشیب سیاست های جهانی در این دوره، شاهکاری کارآمد به شمار می آید.

با این حال طراحی، ساخت، آزمایش و به کار گرفته شدن سلاح های هسته ای محتاج منابع قابل توجهی است. برعکس فناوری های دیجیتال را به سادگی می توان به اشتراک گذاشت و کنترل آنها را حتی سخت تر از پیش کرد. هم اکنون ابزار های هک کردن پیشرفته به سرقت رفته و در اینترنت به اشتراک گذاشته شده اند. فناوری های ساخته شده توسط اداره امنیت ملی آمریکا در حملات سایبری جهانی توسط چین، روسیه و کره شمالی مورد استفاده قرار گرفته اند. اکنون این نرم افزارهای مخصوص هک کردن در دسترس هر کس که امکان برقراری ارتباط اینترنتی داشته باشد قرار دارد.

شرکت های فناوری که پیشرفت های خود را به جلو می برند پول، نفوذ و زمان کافی را در اختیار دارند. میلیون ها دلاری که آنها برای لابی کردن هزینه می کنند وقتی با سودهای چند میلیارد دلاری شان مقایسه می شود برای آنها پول خردی بیش نیست و آنها می توانند بدون شک همچنان به سرمایه گذاری در این مسیر به طور قطعی ادامه دهند و انرژی محافل خبری و فعالان این حوزه را به نفع خود هدر دهند.  

از نظر من عدم قطعیت در مورد اینکه فناوری های جدید چه تاثیری بر کلیت جامعه خواهند داشت، به این معناست که افراد بدبین سزاوار حمایت بیشتری هستند. وضع ممنوعیت ها و تعلیق های احتمالی بر برخی فناوری ها به این معنا خواهد بود که شرکت های ثروتمند و قدرتمند مجبور خواهند بود پیش از آنکه هیولاهای بالقوه خود را در بازار رها کنند، به دنبال اخذ مجوزهای قانونی و اجتماعی باشند. به نظر نمی رسد که این مطالبه چندان جای سئوال داشته باشد.

دلایل زیادی برای تداوم ساخت فناوری های جدید وجود دارد؛ برای قابل رقابت باقی ماندن در سطح جهانی، برای پیشرفت دانش بشری و برای آماده سازی در برابر بحران های بالقوه آینده. فناوری مزایای خود را دارد. اما کند کردن سرعت پیشرفت آن به جامعه وقت بیشتری برای اندیشیدن پیرامون نتایج آنها و بحث و گفتگو دراین باره را می دهد که کدام ابعاد فناوری های جدید مطلوب هستند و کدام جنبه های آنها را باید غیرقانونی اعلام کرد.

نویسنده: کنتارو تویاما (Kentaro Toyama) استاد اطلاعات اجتماعات در دانشگاه میشیگان