اما اتکای فزاینده مان به خودکارسازی رایانه ای می تواند به بهای سنگینی تمام شود. شواهد نگران کننده حاکی از آنند که ما هر چه بیشتر به هوش های مصنوعی وابسته می شویم، هوش خودمان بیشتر تحلیل می رود. به نظر می آید که نرم افزارهای هوشمند به جای آنکه هوشمان را ارتقا دهند ما را کودن تر می کنند.
این روندی تدریجی است. اولین موج خودکارسازی بعد از جنگ جهانی دوم صنایع آمریکا را در نوردید و تولیدکنندگان شروع کردند به نصب تجهیزاتی که به شکل الکترونیکی کنترل می شدند. این ماشین های جدید باعث سودآوری بیشتر کارخانه ها و کارآمدی بیشتر شرکت ها می شدند. بعلاوه این ماشین ها طلایه دار ابزارهای موسوم به رهایی بخش بودند. با برداشته شدن بار کار منظم کارخانه ها، حرکت آنها به سوی بازدهی بسیار زیاد آغاز شد. این ماشین ها توانستند فشار را از روی کارگران بردارند و مشاغلی مفرح تر و استعدادهای با ارزش تر را به وجود آورند. فناوری جدید جایگاهی متعالی پیدا کرد.
بعدا در دهه 1950 یک استاد دانشکده بازرگانی هاروارد به نام جیم برایت وارد حوزه مطالعه اثرات عملی خودکارسازی در صنایع مختلف از صنایع تولیدی سنگین تا پالایش نفت و پخت نان شد. او کشف کرد که وضعیت کارخانه ها هر چیزی هست جز روحیه بخش. ماشین های جدید اکثرا برای کارگران ملال و کسالت به همراه داشتند و یکی از نتایج به کار گیری آنها وجود مشاغلی بود که متقاضی کمتری داشت. مثلا یک دستگاه فرزکاری خودکار شده، استاد آهنکار را به صنعتکاری خلاق تر تبدیل نمی کرد بلکه او را به شکل یک فشار دهنده دکمه ها در می آورد.
برایت اینطور نتیجه گیری کرد که اثر تعیین کننده خودکارسازی (در اقتصادهای کار نوپدید) به جای بالابردن مهارت های کارگران، کاهنده مهارت های آنان است. او در سال 1966 نوشت به احتمال زیاد هر چه پیشتر برویم این نکته روشن تر خواهد شد. کار با تجهیزات بسیار پیچیده مستلزم وجود گردانندگان ماهر نیست؛ «مهارت» را می توان در دل ماشین ها تعبیه کرد.
امروزه ما در حال فراگرفتن این درس در مقیاسی بسیار گسترده تر هستیم. در حالی که نرم افزارها قادر به تجزیه و تحلیل و تصمیم سازی شده اند، دامنه خودکارسازی از کارخانه ها فراتر رفته و وارد جهان کارمندان پشت میزنشین نیز شده است. رایانه ها در حال بر عهده گرفتن انواع کار مستلزم دانش هستند که مدت ها تنها مختص افراد حرفه ای بسیار تحصیل کرده و کاملا آموزش دیده قلمداد می شد. در نتیجه خلبانان برای به پرواز درآوردن هواپیماها به رایانه ها متکی هستند، پزشکان در تشخیص بیماری ها با رایانه ها مشورت می کنند، معماران از آنها در طراحی ساختمان ها بهره می گیرند. موج جدید خودکارسازی در حال فراگرفتن تقریبا تمام حوزه هاست.
یکی از اساتید دانشکده پزشکی هاروارد در مقاله ای در یک جورنال تخصصی نوشت که وقتی پزشکان متکی به صفحه های نمایشگر می شوند و به جای دنبال کردن خط روایی بیمار، توصیه های یک رایانه را دنبال می کنند، تفکر آنها می تواند محدود شود. در موارد وخیم تر ممکن است آنها علائم تشخیصی مهم را نتوانند مشاهده کنند. تصویرهای رایانه ای با وضوح بالا نمی توانند جای تمام کارهایی را که انسان های با استعداد می توانند انجام دهند، بگیرند. اما رایانه ها در حال تغییر دادن روش انجام کارهایند. و شواهد دال بر این امر هر روز بیشتر می شود که همین اثر کاهنده مهارت که در قرن گذشته استعداد کارگران کارخانه ها را طعمه خود کرد، هم اکنون در حال بلعیدن مهارت های افراد ماهر حتی افراد بسیار متخصص است. گردانندگان دیروزی ماشین ها امروز به گردانندگان رایانه ها تبدیل شده اند.
فقط نگاهی به آسمان بیندازید. خلبانان خودکار از زمان اختراعشان در یک قرن پیش به ایمن و کارآمدتر شدن سفرهای هوایی کمک کرده اند. این اتفاق خوشحال کننده با به بازار آمدن جت های پرواز که در دهه 1970 رخ داد تداوم یافت، اما کارشناسان امور هوانوردی ابراز نگرانی می کنند که نکند ما بیش از حد جلو رفته باشیم. ما بسیاری از وظایف کابین هواپیما را از انسان ها به رایانه ها منتقل کرده ایم، جوری که خلبانان در حال از دست دادن نقش خود و اندک اندک در حال نشان دادن چیزی هستند که محقق هوانوردری انگلیسی متیو اباتسون آن را «محو مهارت» نامیده است.
در سال 2007 آقای اباتسون در حالی که در دانشکده مهندسی دانشگاه گرنفیلد روی رساله دکترایش کار می کرد، آزمایشی را روی گروهی از خلبانان هواپیماهای مسافربری انجام داد. او از آنها خواست که در یک شبیه ساز پرواز مانور دشواری را انجام دهند – فرود آوردن یک جت بوئینگ در حالی که یک موتور آن از کار افتاده در یک هوای بسیار بد – و شاخص های دقیق مهارت های آنها را نظیر دقتی که آنها باید در سرعت هوایی هواپیما رعایت می کردند، اندازه گیری کرد.
زمانی که او اطلاعات شبیه ساز را با سوابق پروازی واقعی خلبانان مقایسه کرد، ارتباط نزدیکی را بین چالاکی یک خلبان در کار با دکمه های کنترل ها و مقدار زمانی که خلبان اخیرا صرف پرواز دستی هواپیما کرده، یافت. آقای اباتسون نتیجه گیری کرد که مهارت های پرواز بدون تمرین مکرر و مرتبط، سریعا افول می کند و به کمترین مرز قابل قبول می رسد. اما اکنون رایانه ها اکثر عملیات های پروازی بین برخاستن و فرودآمدن هواپیماها را بر عهده دارند، بنابراین تمرین مکرر دقیقا همان چیزی است که خلبانان از آن برخوردار نمی شوند.
حتی یک افول جزئی در توانایی پرواز دستی می تواند خطر رقم زدن فاجعه ای تلخ را به همراه داشته باشد. احتمال خطا کردن خلبانی که مهارت های پروازی اش تحلیل رفته در شرایط اضطراری بیشتر است. خطاهای مربوط به خودکارسازی پرواز در چندین مورد از فجایع هوایی اخیر نقش داشته اند از جمله در سقوط پرواز 3407 کانتینانتال فلایت در بوفالو و پرواز 447 ایرفرانس در اقیانوس اطلس و فرود اضطراری دشوار پرواز 214 آسیانا در سان فرانسیسکو در سال 2013.
در اواخر سال گذشته در گزارش کارگروه اداره هوانوردی فدرال درباره فناوری کابین خلبان، ارتباط فزاینده بین سرنگونی هواپیماها و اتکای بیش از حد به خودکارسازی مستند شده بود. این گزارش هشدار می داد که خلبانان بیشتر به تماشای اتفاقاتی که رخ می دهد عادت کرده اند تا مثمر ثمر بودن و مداخله در رخدادها. اداره هوانوردی فدرال هم اکنون خطوط هواپیمایی را ملزم می کند که خلبانان در طول سفر مدت بیشتری کنترل پرواز را در دست بگیرند.
همزمان با بهبود نرم افزارها، استفاده انسان ها از آنها این احتمال را که آنها دانش خود را افزایش دهند کم می کند. اپلیکیشن هایی که چندین و چند توصیه و راهنمایی را ارائه می دهند، معمولا مقصر شمرده می شوند، برنامه هایی ساده تر و دارای امکانات کمتر افراد را مجبور به فکر کردن، عمل کردن و آموختن می کنند.
ده سال پیش دانشمندان حوزه اطلاعات در دانشگاه اوترشت در هلند گروهی از افراد را واداشتند تا وظایف تجزیه و تحلیل و برنامه ریزی پیچیده ای را یا با استفاده از نرم افزارهای ابتدایی تر که هیچ کمکی به فرد نمی کردند یا با نرم افزاری پیچیده که مقدار زیادی کمک می کردند، انجام دهند. محققان دریافتند کسانی که از نرم افزار ساده تر استفاده کرده اند راهبردهای بهتری را در پیش گرفته اند، کمتر خطا کرده اند و برای آن کار مورد نظر شایستگی بیشتری به خرج داده اند. کسانی که از نرم افزار پیشرفته تر بهره برده بودند، زمانی که با مشکل بغرنجی برمی خوردند، معمولا بی هدف این ور و آن ور روی دکمه ها کلیک می کردند. به عبارت دیگر نرم افزاری که قرار بود یاور آنها باشد، عملا موجب اختلال در تفکر و یادگیری آنها شده بود.
هربرت دریفوس، فیلسوف از دانشگاه کالیفرنیا در سال 2002 نوشت که تخصص های انسان از طریق تجربه طیفی از راه حل ها که همگی از یک چشم انداز دیده می شوند اما مستلزم تصمیمات تاکتیکی متفاوتی هستند، تکامل پیدا می کند. به عبارت دیگر، مهارت های ما تنها از طریق تمرین و زمانی تقویت می شود که مرتبا از آنها برای فائق آمدن بر انواع مختلف چالش های دشوار استفاده می کنیم.
برعکس هدف نرم افزارهای مدرن ساده کردن راه غلبه ما بر چنین چالش هایی است. کار شاق و رنج آور دقیقا همان چیزی است که برنامه نویسان بیشتر از همه مشتاق خودکار کردن آنهایند، به هر حال در این زمینه دستاوردهای کارآمدی آنی نهفته است. به عبارت دیگر، یک تنش بنیادین بین منافع کسانی که خودکارسازی را انجام می دهند و منافع کسانی که آن کار را انجام می دهند در جریان است.
با این حال دامنه خودکارسازی کماکان در حال گسترش است. با افزایش سوابق پزشکی الکترونیکی، پزشکان هر چه می گذرد بیشتر بر الگوهای از پیش آماده نرم افزارها متکی می شوند تا آنها را در تشخیص آزمایش های بیمارشان راهنمایی کند. برنامه های رایانه ای دربردارنده فهرست های کنترل و هشدارهای ارزشمندی هستند، اما آنها باعث فرموله و روزمره شدن بیشتر امور پزشکی نیز می شوند و پزشکان را از بیمارانشان دور می کنند.
در مطالعه ای که سال های 2007 و 2008 در نیویورک انجام شد، تیموتی هاف، استاد دانشگاه سانی آلبانی با بیشتر از 75 پزشک مراقبت های اولیه که سیستم های رایانه ای استفاده می کردند، مصاحبه کرد. این پزشکان احساس می کردند که نرم افزارها باعث کاهش قابلیت آنها در شناخت بهتر بیماران شده اند و توانایی آنها را برای اتخاذ تصمیمات همراه با اطلاع پیرامون تشخیص و درمان آنها کاهش داده اند.
این خطرات تنها تئوریک نیستند. در مقاله ای که به تازگی در نشریه تشخیص ها منتشر شد، سه پژوهشگر حوزه پزشکی تشخیص های اشتباه توماس اریک دانکن، اولین کسی که در آمریکا در نتیجه ویروس ابولا جان باخت را بررسی کردند. آنها می گویند که الگوهای آماده دیجیتالی که از سوی متخصصان این بیمارستان برای ثبت اطلاعات بیمار استفاده شده احتمالا در این روند مشکل ساز بوده است.
حتی تجارت های خلاق نیز با گذشت زمان بیشتر از اثرات کاهنده مهارت خودکارسازی متاثر می شود. طراحی با کمک رایانه به معماران کمک کرده است ساختمان هایی را در اشکال و با مواد غیرمعمول بسازند، اما زمانی که رایانه ها را خیلی زود به روند طراحی وارد می کنند، می توانند حس زیبایی شناسانه و بینش مفهومی را که از دل طراحی های دستی و ساخت مدل بیرون می آیند، از بین ببرند.
مطالعات روانشناسانه نشان داده اند که کار با دست برای رها کردن خلاقیت طراحان بهتر است و خاطرات کاری آنها را بسط می دهد و حس لامسه شان را تقویت می کند. نایجل کراس که در دانشگاه آزاد انگلیس استاد طراحی است، می گوید تخته طراحی مقوم خلاقیت است.
با گذاشته شدن امور در اختیار نرم افزارها، مهارت های دستی رنگ می بازند. یوهانی پالاسما معمار فنلاندی در کتابش «دست متفکر» می گوید که اتکای بیش از اندازه به رایانه ها، کار ارج نهادن به انسانی ترین و ظریف ترین کیفیات ساختمان هایی را که طراحی کرده اند، دشوارتر می کند. همانطور که استاد معماری دانشگاه میامی جاکوب بریلهارت در سال 2011 در مقاله ای نوشت سیستم های رایانه ای مدرن می توانند مجموعه ای از ابعاد را با سرعتی خارق العاده به نسخه های سه بعدی برگردانند، اما آنها طرح هایی پیش پا افتاده تر، کاهلانه تر و بی مزه تر را نیز بیرون می دهند که عاری از هوشمندی، تخیل و احساس اند.
وقتی طراحان سیستم، پروژه جدیدی را شروع می کنند، ابتدا توانایی های رایانه ها را مد نظر قرار می دهند و چشمی هم به این دارند که تا جای ممکن کارها را به نرم افزارها واگذار کنند. گردانندگان انسانی هر جا که نرم افزار قادر به انجام کار نیست به کار گمارده می شوند که معمولا وظایف آنها شامل کارهای منفعلانه ای چون وارد کردن اطلاعات، دنبال کردن الگوهای از پیش تعیین شده و نظارت بر صفحه نمایشگر است.
این فلسفه انسان ها را در چرخه ای شوم از کاهندگی مهارت گرفتار می کند. رایانه با برداشتن بار انجام کارهای سخت از دوش آنها، مهارت هایشان را کاهش می دهد و تعداد موارد سرزدن اشتباه از طرف آنها را افزایش می دهد. زمانی که این خطاها رخ می دهند، طراحان با دنبال کردن روش کاستن بیشتر از مسئولیت های انسانی، به این اتفاق واکنش نشان می دهند که این نیز خود دور جدیدی از کاهندگی مهارت ها را در پی دارد.
اما یک بدیل برای این وضعیت وجود دارد؛ خودکارسازی انسان محور. در خودکارسازی انسان محور، این استعدادهای انسان هاست که اولویت پیدا می کند. سیستم ها برای آن طراحی می شوند که در چیزی که مهندسان چرخه تصمیم گیری می نامند – یعنی روندی مداوم از اقدام، بازخورد و داوری - عامل باقی بمانند. این روش کارگران را مراقب و درگیر در کار نگه می دارد و نوعی اقدام چالش آور را که تقویت کننده مهارت هاست ترویج می کند.
سوق دادن خودکارسازی به جهتی انسانی تر به هیچ وجه مستلزم دستاوردهای تکنیکی نیست. بلکه مستلزم چرخشی در اولویت ها و گذاشتن تمرکز بر توانایی ها و ضعف های انسان است.
یکی از جالب ترین نمونه های رویکرد انسان محور، خودکارسازی اقتباسی نامیده می شود. در این روش از حسگرهای پیشرفته و الگوریتم های تفسیری برای نظارت بر وضعیت جسمانی و ذهنی انسان ها استفاده می شود و بعد از این اطلاعات برای واگذار کردن وظایف و مسئولیت ها بین انسان و رایانه استفاده می شود. زمانی که سیستم احساس می کند گرداننده در حال سر و کله زدن با رویه ای دشوار است، وظایف بیشتری را به رایانه اختصاص می دهد تا او را از عوامل منحرف کننده حواس برهاند. اما زمانی که احساس می کند تمایل گرداننده در حال تحلیل رفتن است، بر حجم وظایف او می افزاید تا توجه او را جلب و مهارت هایش را تقویت کند.
رایانه هایمان شگفتی ما را بر می انگیزانند و باید هم چنین باشد. ولی ما نباید بگذاریم احساساتمان ما را به جهتی سوق دهند که استعدادهای خودمان را دست کم بگیریم. حتی هوشمندترین نرم افزارها فاقد عقل سلیم، ابتکار و شور و شوق متخصصین ماهر هستند. در کابین خلبان، دفاتر کار یا اتاق های آزمایش پزشکی، حضور کارشناسان انسانی همچنان واجب است. بینش، ابتکار و شم آنها که کار سخت و قضاوت های جهان واقعی آنها را آبدیده کرده را نمی توان با الگوریتم ها و روبات ها جایگزین کرد.
اگر ما اجازه دهیم با اتکای بیش از اندازه به خودکارسازی مهارت هایمان کمرنگ شوند، خودمان را به انسان هایی با قابلیت کمتر، انعطاف پذیری کمتر و بندگی بیشتر در برابر ماشین هایمان تبدیل خواهیم کرد. به این ترتیب جهانی را خلق خواهیم کرد که بیشتر مناسب روبات ها خواهد بود تا ما.
نشریه ندای عدالت