سایه انحصار و تبعیض بر سر هوش مصنوعی سنگین شد

به گزارش پایگاه اطلاع رسانی پایداری ملی به نقل از خبرگزاری مهر، شورای اروپا، سازمانی بین‌المللی و متمایز از اتحادیه اروپا که با ۴۶ کشور عضو از جمله کل ۲۷ کشور اتحادیه اروپا مأموریت حفاظت از حقوق بشر را بر عهده دارد، طی روز‌های اخیر اعلام کرد که نخستین معاهده بین‌المللی الزام‌آور حقوقی در زمینه هوش مصنوعی توسط کشور‌های مذاکره‌کننده از جمله اعضای اتحادیه اروپا، ایالات متحده و بریتانیا امضا شده است. این کنوانسیون هوش مصنوعی، سال‌ها در دست تهیه بوده و در ماه می‌پس از مذاکرات طولانی، سرانجام توسط ۵۷ کشور حاضر در فرایند تدوین، نهایی و تصویب شد. این معاهده به خطرات احتمالی هوش مصنوعی می‌پردازد و در عین حال نوآوری مسئولانه این فناوری را ترویج می‌کند.

اعضای کنوانسیون، ۴۶ کشور عضو شورای اروپا، به همراه کانادا، ژاپن، مکزیک، واتیکان، ایالات متحده آمریکا، استرالیا، آرژانتین، کاستاریکا، پرو، اروگوئه و رژیم صهیونیستی را شامل می‌شوند.

طبق اعلام متولیان تدوین معاهده جهانی مذکور، این سند بین‌المللی با نام «کنوانسیون چارچوب شورای اروپا در زمینه هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» به عنوان یک چارچوب قانونی جهانی طراحی شده و هدف آن تضمین سازگاری فعالیت‌های مرتبط با چرخه عمر سیستم‌های هوش مصنوعی با حقوق بشر، دموکراسی و حاکمیت قانون است. بر اساس گزارش‌های منتشر شده، پیش‌نویس معاهده در ۵ سپتامبر ۲۰۲۴ در شهر ویلنیوس، پایتخت لیتوانی به امضا رسیده است و بخشی از تلاش‌های گسترده‌تر شورای اروپا برای همگرایی بیشتر کشور‌های عضو در حوزه‌های مرتبط با فناوری و حقوق بشر محسوب می‌شود.

در این گزارش کوتاه به بررسی محور‌های کلیدی، دیدگاه متخصصان و فرصت‌ها و تهدیدات این معاهده جهانی پرداخته شده است.

محور‌های اصلی معاهده جهانی هوش مصنوعی

طبق ادعای مطرح شده از سوی تدوین‌کنندگان و متن منتشر شده این سند جهانی شامل چند محور اصلی است که به موضوعات حقوقی و اخلاقی استفاده از هوش مصنوعی می‌پردازد. در این بخش برخی از ارکان اساسی معاهده مذکور را مرور می‌کنیم.

۱. حمایت از حقوق بشر

این محور به صورت مستقیم به اهمیت حفاظت از حقوق بشر در تمام مراحل توسعه، استفاده و حتی توقف کاربری سیستم‌های هوش مصنوعی اشاره دارد. به عقیده متخصصان، این فناوری می‌تواند تأثیرات عمیقی بر زندگی افراد بگذارد و به عنوان ابزاری برای بهبود زندگی انسانی عمل کند، اما اگر به درستی تنظیم‌گری نشود، ممکن است موجب نقض حقوق اساسی مانند حق حریم خصوصی، آزادی بیان و حتی حق حیات شهروندان شود.

از همین روی، این معاهده از کشور‌های عضو می‌خواهد که مقرراتی وضع کنند تا مطمئن شوند فعالیت‌های هوش مصنوعی نه تنها حقوق بشر را نقض نمی‌کند، بلکه به ترویج و حمایت از این حقوق می‌پردازد؛ بنابراین، کشور‌ها باید سیستم‌های نظارتی اختصاصی را برای شناسایی و پاسخ به تهدیدات احتمالی موجود برای حقوق بشر در هر مرحله از چرخه عمر هوش مصنوعی ایجاد کرده و به کار گیرند.

۲. حاکمیت قانون و دموکراسی

یکی از دغدغه‌های بزرگ در استفاده از هوش مصنوعی این است که فناوری مذکور می‌تواند برای تضعیف روند‌های دموکراتیک یا نهاد‌های دموکراتیک مانند قوه قضائیه، انتخابات و رسانه‌های آزاد مورد استفاده قرار گیرد. به عنوان مثال، استفاده از هوش مصنوعی در تبلیغات سیاسی یا ترویج اطلاعات غلط و اخبار جعلی می‌تواند اعتماد عمومی را به انتخابات و روند‌های دموکراتیک تضعیف کند.

در همین راستا معاهده تأکید می‌کند که سیستم‌های هوش مصنوعی باید طوری طراحی و مدیریت شوند که به حاکمیت قانون و ارزش‌های دموکراتیک احترام بگذارند. همچنین معاهده از کشور‌ها می‌خواهد تا اطمینان حاصل کنند که هوش مصنوعی به عنوان ابزاری برای دسترسی عادلانه به عدالت و استقلال قضائی به کار گرفته می‌شود.

۳. اصل شفافیت

بر اساس متن معاهده، شفافیت یکی دیگر از مهمترین اصول در استفاده از فناوری هوش مصنوعی محسوب می‌شود. به دلیل پیچیدگی این سیستم‌ها و تصمیم‌گیری‌های خودکار آن‌ها، ممکن است فهمیدن چگونگی عملکرد این سیستم‌ها برای عموم مردم یا حتی مسئولین دشوار باشد. در چنین شرایطی عدم شفافیت می‌تواند به کاهش اعتماد عمومی به فناوری منجر شود.

معاهده از کشور‌ها می‌خواهد تا مکانیزم‌هایی برای شفافیت ایجاد کنند. این درخواست شامل ارائه اطلاعات کافی به مردم درباره چگونگی عملکرد سیستم‌های هوش مصنوعی، نحوه تصمیم‌گیری آن‌ها و شفاف‌سازی مسئولیت پیامد‌های این تصمیمات می‌شود. همچنین، معاهده پیشنهاد می‌دهد که نظارت‌های مستقل برای بررسی استفاده از هوش مصنوعی در بستر‌های مختلف میسر گردد.

۴. مسئولیت‌پذیری و پاسخگویی

در صورتی که یک سیستم هوش مصنوعی باعث نقض حقوق بشر یا ایجاد آسیب‌های دیگر شود، پرسش کلیدی این است که چه کسی مسئول خواهد بود. پاسخگویی در این زمینه اهمیت زیادی دارد، زیرا بسیاری از سیستم‌های هوش مصنوعی به صورت خودکار عمل می‌کنند و عملکرد آن‌ها گاهی پیچیده‌تر از آن است که بتوان یک شخص یا نهاد خاص را مسئول دانست.

این معاهده از کشور‌ها می‌خواهد تا سازوکار‌هایی برای تعیین مسئولیت‌ها و پاسخگویی در نظر بگیرند. این سازوکار‌ها باید به گونه‌ای طراحی شوند که اگر یک سیستم هوش مصنوعی به اشتباه عمل کند و حقوق بشر را نقض نماید، بتوان اقدامات قانونی و جبران خسارت برای افراد آسیب‌دیده در نظر گرفت.

۵. عدم تبعیض و برابری

دیگر مسئله نگران‌کننده در توسعه و استفاده از هوش مصنوعی امکان بروز تبعیض از سوی سیستم‌های مبتنی بر این فناوری است. الگوریتم‌های هوش مصنوعی بر پایه داده‌های تاریخی آموزش می‌بینند و اگر این داده‌ها دارای سوگیری و محتوای تبعیض‌آمیز باشند، ممکن است نتایج هوش مصنوعی نیز تبعیض‌آمیز باشند. به‌طور مثال، ممکن است در تصمیم‌گیری‌های شغلی یا اقتصادی، زنان یا اقلیت‌های قومی به صورت ناعادلانه هدف تبعیض قرار گیرند.

از همین روی، معاهده تأکید دارد که همه فعالیت‌های مرتبط با چرخه عمر هوش مصنوعی باید برابری جنسیتی و عدم تبعیض را محترم بشمارند. این معاهده از کشور‌ها می‌خواهد که مقررات لازم برای جلوگیری از بروز تبعیض در استفاده از هوش مصنوعی را وضع و از دستیابی به نتایج منصفانه و عادلانه در این زمینه حمایت کنند.

۶. حفاظت از حریم خصوصی و داده‌های شخصی

با گسترش استفاده از سیستم‌های هوش مصنوعی، خطرات مربوط به نقض حریم خصوصی و استفاده نادرست از داده‌های شخصی نیز افزایش یافته است. سیستم‌های هوش مصنوعی معمولاً به حجم عظیمی از داده‌های شخصی نیاز دارند تا بتوانند به‌درستی عمل کنند و این مسئله می‌تواند تهدیدی جدی برای حفظ حریم خصوصی افراد ایجاد نماید.

به همین دلیل، این معاهده بر لزوم حفاظت از حریم خصوصی و داده‌های شخصی افراد نیز تأکید دارد و از کشور‌ها می‌خواهد که برای اطمینان از تحقق این هدف، قوانین و مقررات لازم را وضع کنند.

۷. نوآوری مسئولانه و ایمن

معاهده همچنین به کشور‌ها توصیه می‌کند که نوآوری در حوزه هوش مصنوعی را تشویق کنند، اما در عین حال، این نوآوری باید مسئولانه و ایمن باشد. به این معنا که توسعه سیستم‌های هوش مصنوعی باید تحت نظارت باشد و کشور‌ها باید فضا‌های آزمایشی و کنترلی را برای توسعه و تست این فناوری‌ها ایجاد کنند.

دستیابی به این مهم، به کشور‌ها اجازه می‌دهد تا ضمن تشویق نوآوری و پیشرفت‌های فناوری، اطمینان حاصل کنند که این نوآوری‌ها به تهدیدی برای حقوق بشر یا دموکراسی تبدیل نمی‌شوند. این محور بر اهمیت تعادل بین پیشرفت فناوری و حفاظت از ارزش‌های انسانی تأکید می‌کند.

نقاط قوت و ضعف کنوانسیون هوش مصنوعی شورای اروپا

در این بخش به بررسی نقاط قوت و ضعف معاهده «کنوانسیون چارچوب شورای اروپا در زمینه هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» پرداخته می‌شود. اگرچه این معاهده نقاط قوت قابل توجهی دارد، اما همچنان با برخی چالش‌های جدی نیز مواجه است.

نقاط قوت:

۱. تأکید بر حقوق بشر و ارزش‌های دموکراتیک

یکی از مهم‌ترین نقاط قوت این معاهده، تأکید بسیار زیاد آن بر حفاظت از حقوق بشر و تضمین سازگاری هوش مصنوعی با ارزش‌های دموکراتیک است. معاهده تضمین می‌کند که فناوری هوش مصنوعی نباید به عنوان ابزاری برای نقض حقوق بشر یا تضعیف نهاد‌های دموکراتیک استفاده شود.

۲. تأکید بر شفافیت و پاسخگویی

معاهده به شفافیت در استفاده از هوش مصنوعی اهمیت ویژه‌ای می‌دهد. بسیاری از مشکلات مرتبط با هوش مصنوعی از جمله تصمیم‌گیری‌های خودکار و غیرشفاف، به عدم درک عمومی و حتی دولتی از نحوه عملکرد این سیستم‌ها برمی‌گردد.

۳. ایجاد چارچوبی برای همکاری بین‌المللی کشور‌های همسو

به عقیده متخصصان، یکی دیگر از نقاط قوت این معاهده، ایجاد یک چارچوب مدون برای تقویت همکاری بین‌المللی میان کشور‌های غربی در زمینه هوش مصنوعی است.

۴. انعطاف‌پذیری در اجرا

این معاهده انعطاف‌پذیری بالایی برای کشور‌های عضو در نحوه اجرای آن فراهم کرده است. به عبارت دیگر، هر کشور بر اساس شرایط داخلی خود می‌تواند مقررات و تدابیری سازگار با نیازهایش را اتخاذ کند.

نقاط ضعف

۱. عدم حضور بازیگران بزرگ بین‌المللی از جمله چین و روسیه

یکی از بزرگ‌ترین ضعف‌های این معاهده، عدم حضور کشور‌های بزرگ غیرعضو شورای اروپا از جمله چین و روسیه است. این کشور‌ها از پیشگامان توسعه و استفاده از فناوری‌های هوش مصنوعی هستند و عدم مشارکت آن‌ها می‌تواند به ایجاد شکاف در تنظیم‌گری جهانی منجر شود. این مسئله نه تنها از نظر اقتصادی و فناورانه، بلکه از نظر سیاسی نیز ممکن است باعث ایجاد نوعی انحصار از سوی کشور‌های غربی شود و همکاری بین‌المللی در حوزه هوش مصنوعی را تضعیف کند.

۲. چالش در اجرای عملی مفاد معاهده

هرچند معاهده چارچوبی جامع و اصولی را ارائه می‌دهد، اما چالش‌های زیادی در اجرای عملی آن وجود دارد. به عقیده کارشناسان، کشور‌های عضو ممکن است با مشکلات مالی و فنی برای پیاده‌سازی سازوکار‌های مورد نیاز مواجه شوند. به‌ویژه کشور‌هایی که از نظر فناوری و زیرساخت‌ها در وضعیت ضعیف‌تری قرار دارند، ممکن است توانایی کافی برای اجرای مؤثر این معاهده نداشته باشند.

۳. فقدان مکانیزم‌های قوی برای ضمانت اجرایی

طبق نظر متخصصان، یکی دیگر از ضعف‌های این معاهده عدم وجود مکانیزم‌های قوی مجازات برای کشور‌های ناقض تعهدات است. در صورتی که یکی از کشور‌های عضو، مفاد معاهده را رعایت نکند یا قوانین مناسبی برای حفاظت از حقوق بشر در زمینه هوش مصنوعی وضع نکند، معاهده مکانیزم‌های کارآمد برای برخورد با چنین مواردی در نظر نگرفته است.

۴. عدم پوشش حوزه‌های امنیتی و نظامی

با اینکه استفاده از هوش مصنوعی در حوزه‌های امنیتی و نظامی یکی از مهم‌ترین مسائل جهانی به شمار می‌رود، این معاهده به طور خاص به این حوزه‌ها نمی‌پردازد و آن‌ها را از دامنه موضوعات مورد بررسی خود مستثنا کرده است. با توجه به تأثیرات بزرگ هوش مصنوعی در حوزه‌های امنیتی و دفاعی، عدم پوشش این بخش‌ها یکی از نقاط ضعف اساسی محسوب می‌شود.

۵. کندی در تصویب و اجرای جهانی

در نهایت می‌توان گفت که معاهده نیازمند تصویب و اجرا توسط کشور‌های عضو شورای اروپا است و این فرآیند ممکن است کند و زمان‌بر باشد. کشور‌های عضو ممکن است زمان زیادی برای تصویب مقررات داخلی و اجرایی کردن مفاد معاهده نیاز داشته باشند؛ امری که می‌تواند سرعت پیشرفت تنظیم‌گری در حوزه هوش مصنوعی را کاهش دهد.

چالش عدم جهان‌شمولی؛ تهدیدی برای توسعه عادلانه هوش مصنوعی در جهان

به زعم بسیاری کارشناسان، عدم حضور قدرت‌های جهانی مانند چین و روسیه و همچنین سایر کشور‌های توانمند این حوزه در مناطق جنوب شرقی و غرب آسیا، از جمله کره جنوبی، مالزی، سنگاپور و … در کنوانسیون هوش مصنوعی شورای اروپا مهم‌ترین نقطه ضعف این معاهده الزام‌آور محسوب می‌شود و می‌تواند تبعات قابل‌توجهی بر توسعه هوش مصنوعی و نظم بین‌المللی فناوری ایجاد کند. در ادامه، به ارزیابی دقیق‌تر این مسئله و بررسی پیامد‌های این چالش می‌پردازیم.

یکی از اصلی‌ترین تبعات عدم حضور کشور‌های مذکور در این معاهده، شکاف در همکاری‌های بین‌المللی در حوزه تنظیم‌گری هوش مصنوعی است. چین و روسیه به عنوان دو کشور بزرگ و پیشگام جهان در توسعه این فناوری و سایر بازیگران برجسته این حوزه نقشی کلیدی در معادلات جهانی آن ایفا می‌کنند. بی‌شک عدم مشارکت آن‌ها در این معاهده سبب می‌شود که نوعی دوگانگی در رویکرد‌های حقوقی و تنظیم‌گرانه نسبت به هوش مصنوعی بین کشور‌های عضو معاهده و کشور‌های غیرعضو، به وجود آید.

این امر می‌تواند باعث ایجاد تفاوت‌های بزرگ در نحوه استفاده و نظارت بر هوش مصنوعی در سراسر جهان شود.

از سوی دیگر، یکی از پیامد‌های عدم حضور برخی کشور‌های کلیدی در این معاهده، امکان ایجاد انحصار در حوزه هوش مصنوعی توسط کشور‌های غربی و به‌ویژه اعضای شورای اروپا و آمریکا است. کشور‌های غربی که عضو این معاهده هستند، می‌توانند با تعیین استاندارد‌های جهانی برای توسعه این فناوری، سایر کشور‌ها را تحت فشار قرار دهند تا از این استاندارد‌ها پیروی کنند. به زعم برخی کارشناسان، این مسئله می‌تواند منجر به وضع مقرراتی شود که به نفع کشور‌های غربی و به زیان سایر بازیگران فعال این حوزه باشد.

از همین روی ممکن است کشور‌های در حال توسعه که دسترسی کمتری به فناوری‌های پیشرفته دارند، به طور خاص تحت فشار قرار گیرند. این مسئله می‌تواند به محدودسازی توانایی این کشور‌ها برای توسعه و بهره‌برداری از فناوری‌های هوش مصنوعی به شیوه‌ای متناسب با نیاز‌های خاص خود، منجر شود.

یکی دیگر از تبعات مهم عدم جهان‌شمولی معاهده، احتمال محدود شدن دسترسی طیف گسترده‌ای از کشور‌های غیرعضو به بازار‌های بین‌المللی است. کشور‌های عضو معاهده ممکن است استفاده از سیستم‌های هوش مصنوعی توسعه‌یافته در کشور‌های غیرعضو را به دلیل عدم تطابق با استاندارد‌های کنوانسیون ممنوع یا محدود کنند. این امر می‌تواند به تفکیک بازار‌های جهانی هوش مصنوعی منجر گردد، به‌طوری که سیستم‌های توسعه‌یافته در چین و روسیه یا کره و سنگاپور نتوانند به بازار‌های غربی دسترسی پیدا کنند و همچنین امکان ورود محصولات غربی نیز به بازار‌های مذکور، محدود یا ممنوع شود.

از منظر دیگر، عدم حضور قدرت‌هایی، چون چین و روسیه در این معاهده همچنین می‌تواند به توسعه مدل‌های جایگزین برای تنظیم‌گری هوش مصنوعی توسط این کشور‌ها منجر شود. احتمالاً رقبای بزرگ غرب در واکنش به شکل‌گیری استاندارد‌های غربی، در پی ایجاد و ترویج چارچوب‌ها و استاندارد‌های خاص خود در زمینه هوش مصنوعی خواهند بود. استاندارد‌هایی که با اصول و ارزش‌های غربی متفاوت هستند و همین امر منجر به ظهور دو سیستم موازی در جهان می‌شود.

در چنین وضعیتی، خصوصاً چین به دلیل جایگاه خود به عنوان یکی از رهبران جهان در حوزه هوش مصنوعی و فناوری دیجیتال، می‌تواند استاندارد‌های جدیدی را توسعه دهد که کشور‌های در حال توسعه آسیا و آفریقا از آن پیروی کنند. این امر ممکن است به قطبی شدن جهانی در زمینه فناوری و تشدید رقابت‌های ژئوپلیتیکی منجر شود.

در نهایت عدم حضور سایر کشور‌های بزرگ و اثرگذار در این معاهده و شکل‌گیری نظام‌های موازی تنظیم‌گری این فناوری در سطح جهان، می‌تواند باعث محدودیت در دسترسی کشور‌های غیرعضو به فناوری‌های پیشرفته هوش مصنوعی شود. کشور‌های عضو معاهده ممکن است به دلیل عدم تطابق با استاندارد‌های مشترک، از به اشتراک‌گذاری دانش و فناوری‌های هوش مصنوعی با کشور‌های غیرعضو خودداری کنند. این امر به‌ویژه برای کشور‌هایی که منابع کافی برای توسعه مستقل فناوری‌های هوش مصنوعی ندارند، مشکل‌ساز خواهد بود.

به عنوان مثال، کشور‌های در حال توسعه که به منابع و تخصص کشور‌های پیشرفته‌تر وابسته هستند، در دسترسی به فناوری‌های حیاتی هوش مصنوعی محدود می‌شوند. این مسئله می‌تواند باعث ایجاد نابرابری‌های جهانی در دسترسی به فناوری‌های هوش مصنوعی و کاهش توانایی کشور‌های غیرعضو در توسعه اقتصادی و اجتماعی شود.

سخن پایانی

معاهده شورای اروپا در زمینه هوش مصنوعی گامی مثبت در جهت ایجاد چارچوبی حقوقی برای استفاده از این فناوری نوظهور محسوب می‌شود. با این وجود، توافق مذکور با برخی چالش‌های جدی نیز مواجه است. از یک سو، این معاهده تلاشی ارزشمند برای حفاظت از حقوق بشر و دموکراسی در برابر خطرات هوش مصنوعی به شمار می‌آید و اصولی مانند شفافیت، پاسخگویی و عدم تبعیض را تقویت می‌کند. از سوی دیگر، عدم حضور بازیگران بزرگ جهانی، محدودیت‌های این تلاش بین‌المللی را بیش از پیش برجسته می‌سازد.

این عدم مشارکت نه تنها شکاف‌هایی در سطح تنظیم‌گری جهانی ایجاد کرده، بلکه احتمال می‌رود باعث شکل‌گیری استاندارد‌های موازی در سطح بین‌المللی شود. این امر ممکن است به محدودیت دسترسی به بازار‌های بین‌المللی و پیچیدگی‌های بیشتر برای کشور‌ها و شرکت‌های غیرعضو در معاهده منجر شود. به علاوه، چالش‌های عملی در اجرای مؤثر این معاهده نیز دیگر نقطه ضعف محسوس آن محسوب می‌شود.

از همین روی، توجه بیشتر به تحولات جهانی این حوزه و تلاش برای نقش آفرینی مؤثر در حکمرانی جهانی هوش مصنوعی از سوی کشور‌های مختلف جهان، بیش از پیش اهمیت یافته است و باید در دستور کار دولتمردان و قانون‌گذاران اقصی نقاط جهان قرار گیرد؛ قاعده‌ای که جمهوری اسلامی ایران و دولت چهاردهم نیز از آن مستثنا نیست.