ارائه مدل کلان و چارچوب تقسیم کار ملی حکمرانی و توسعه هوش مصنوعی

به گزارش پایداری ملی و به نقل از مهر، مرکز پژوهش های مجلس شورای اسلامی در گزارشی «نگاشت نهادی و تقسیم کار ملی در حوزه توسعه هوش مصنوعی و حکمرانی داده محور» را ارائه کرده و در آن ضمن بررسی مأموریت های ضروری برای توسعه و حکمرانی هوش مصنوعی در کشور، پیشنهادهایی برای اصلاح نهادی و گستره مأموریت ها و فعالیت ها ارائه شده است.

بررسی های انجام شده نشان از آن دارد که سیاستگذاری و راهبری تلاش های حوزه هوش مصنوعی نیازمند تقویت همکاری و اشتراک دانش، سرمایه گذاری در تحقیق و توسعه، ظرفیت سازی و تجدید ساختار نیروی کار، حکمرانی داده محور، حفاظت از حریم خصوصی، توسعه همکاری های بین المللی، نگاشت نهاد و تقسیم کار ملی است.

مأموریت های کلان حاکمیت برای حکمرانی و توسعه هوش مصنوعی

مأموریت های اصلی دولت ها در این حوزه شامل:

«توسعه سیاست ها و استراتژی ها ملی»، «چارچوب های اخلاقی و مقرراتی»، «حکمرانی داده و حکمرانی داده محور برای بهبود کیفیت تصمیم‌گیری»، «استقرار هوش مصنوعی فراگیر و عادلانه برای ارتقای خدمات عمومی»، «هوش مصنوعی و توسعه پایدار»، «دیپلماسی هوش مصنوعی و توسعه همکاری ها و استانداردهای بین‌المللی»، «توسعه و ترویج تحقیق و نوآوری»، «پرورش استعدادها، آموزش، ترویج و آگاهی بخشی عمومی»، «توسعه زیرساخت های مورد نیاز فناوری»، «همکاری و نوآوری در صنعت» و «ارزیابی تأثیر و کاهش ریسک» است.

ملاحظات کلیدی مرتبط با مأموریت ها: در مسیر تحقیق مأموریت های ذکر شده، توجه به ملاحظات کنترل و نظارت انسانی؛ استحکام فنی و امنیت؛ اعتماد؛ عادت؛ حریم خصوصی؛ عدالت (دوری از تعصب یا سوگیری)؛ مسوولیت ضروری است.

اصول حاکم بر نگاشت نهادی و تقسیم کار ملی در زمینه هوش مصنوعی

۱. همسویی با استراتژی ها و اهداف ملی

۲. همکاری و رویکرد میان رشته ای

۳. وضوح نقش ها و مسؤلیت ها

۴. حفظ حریم خصوصی داده ها و ملاحظات اخلاقی

۵. یادگیری مستمر و توسعه مهارت ها

۶. انعطاف پذیری و سازگاری

۷. همکاری های بین‌المللی

۸. مشارکت عمومی و شفافیت

۹. نظارت، ارزیابی و بازخوردگیری

۱۰. سازوکارهای پاسخگویی

۱۱. فراگیری و عدالت

۱۲. نوآوری و مدیریت ریسک

با پایبندی به این اصول، کشور می تواند چارچوبی منسجم و مؤثر برای نگاشت نهادی و تقسیم کار ملی در حوزه هوش مصنوعی و حکمرانی داده محور ایجاد کند. این اصول، راهنمایی برای همکاری در مسیر توسعه هوش مصنوعی مسؤلانه و حصول اطمینان از اینکه هوش مصنوعی و تلاش های داده محور به رفاه و پیشرفت جامعه کمک می کنند، است.

وضعیت موجود نهادهای مرتبط با توسعه هوش مصنوعی در ایران

بررسی گستره فعالیت نهادهای داخلی نشان از آن دارد که هم اکنون کشور ایران در حوزه هوش مصنوعی در سطوح مختلف سیاستگذاری، قانونگذاری، هماهنگسازی و تنظیم‌گری دارای نهادهایی است که هرکدام می تواند بر برنامه ها و اقدام های این حوزه تأثیرگذار باشند.

نهادهای تأثیرگذار در سطوح مختلف سیاستگذاری، قانونگذاری، هماهنگسازی و تنظیم‌گری حوزه هوش مصنوعی

۱) شورای عالی فضای مجازی

۲) مرکز ملی فضای مجازی

۳) شورای اجرایی فناوری اطلاعات

۴) شورای عالی انقلاب فرهنگی

۵) ستاد کل نیرو های مسلح و وزارت دفاع

۶) شورای راهبری فناوری ها و تولیدات دانش بنیان

۷) شورای عالی علوم، تحقیقات و فناوری

۸) صندوق نوآوری و شکوفایی

۹) معاونت علمی، فناوری و اقتصاد دانش بنیان ریاست جمهوری

۱۰) بنیاد ملی نخبگان ایران

۱۱) کارگروه تعامل پذیر دولت الکترونیک

۱۲) وزارت ارتباطات و فناوری اطلاعات

۱۳) سازمان فناوری اطلاعات

۱۴) وزارت آموزش و پرورش، وزارت علوم، تحقیقات و فناوری و وزارت بهداشت، درمان و آموزش پزشکی

۱۵) شورای عالی حوزه های علمیه و ستاد راهبری فناوری های هوشمند حوزه های علمیه

۱۶) برخی مراکز پژوهشی و اندیشکده های تأثیرگذار شامل مرکز تحقیقات سیاست های علمی کشور، سازمان تحقیقات علم و فناوری ایران، پژوهشگاه فناوری اطلاعات و ارتباطات، کمیته هوش مصنوعی در حوزه پزشکی

۱۷) عرصه کسب‌وکار و صنعت

ارائه مدل کلان و چارچوب تقسیم کار ملی برای حکمرانی و توسعه هوش مصنوعی

چارچوب کلان نگاشت نهادی ارائه شده در این پژوهش از سه منظر کلان نهاد حاکمیت ملی و تدوین اصول و سیاست های کلان حکمرانی هوش مصنوعی در کشور، نهاد تنظیمگر و ناظر بر اجرای راهبردها و سیاست های کلان و نهاد هماهنگ ساز و راهبر اجرایی توسعه هوش مصنوعی در کشور، را پیشنهاد داده است.

نهادهای کلیدی در حکمرانی و توسعه هوش مصنوعی

- نهادی برای سیاستگذاری و نظارت کلان بر توسعه و حکمرانی هوش مصنوعی

ازجمله وظایف اصلی یک نهاد ملی فراقوه‌ای در حوزه هوش مصنوعی می توان به «تنظیم سیاست ها و راهبرد های ملی حکمرانی هوش مصنوعی، تعیین اصول کلی توسعه هوش مصنوعی در کشور و ملزومات به‌کارگیری آن، تدوین برنامه تقسیم کار ملی و سازوکار تعامل کلیه کنشگران، پیشنهاد قوانین و مقررات مورد نیاز در صورت ضرورت و همچنین هدایت تلاش های دیپلماتیک در مجامع بین‌المللی به عنوان مرجع ملی هوش مصنوعی» اشاره کرد.

از دیگر وظایف این نهاد می توان «نیازسنجی و اولویت‌دهی به نیاز های حوزه هوش مصنوعی و نظارت بر تحقق آن در چرخه کامل ایده پردازی تا تجاری سازی و همچنین در سیاستگذاری، سازماندهی و نظارت بر برنامه ها و ابتکارات کشور مرتبط با هوش مصنوعی در حوزه بین‌المللی» باشد.

همچنین این نهاد باید وظیفه هدایت و طراحی چارچوب های حکمرانی داده محور را به عنوان سنگ بنای توسعه هوش مصنوعی در کشور برعهده گیرد، حریم خصوصی داده ها را تضمین کند و رویکرد های کلان استفاده اخلاقی از داده ها را ترویج کند (قوانین موجود باید مبتنی بر اقتضائات جدید اصلاح شود).

از دیگر اقدام های مهمی که این نهاد باید دنبال کند، هدایت دستگاه های مسؤل برای مشارکت در تنظیم قواعد و استانداردهای جهانی برای هوش مصنوعی است، به نحوی که منافع و ملاحظات فرهنگی و اخلاقی مدنظر کشور در آن رعایت شود.

- نهادی برای راهبری و هماهنگی ملی توسعه هوش مصنوعی

یکی از الزامات پیشبرد یک برنامه کلان و راهبردی ملی، هماهنگی و همگرایی همه دستگاه های اجرایی است. هرچند در بعد هماهنگی ابزارهای مختلف ازجمله برنامه ها، رویکردها و راهبردها، آموزش، توانمندسازی و ... می توانند نقش آفرین باشند، اما ساختارها نیز نقشی کلیدی دارند.

ازآنجاکه دستگاه های مختلفی در حوزه هوش مصنوعی باید نقش آفرینی کنند ضروری است تا سازوکارها، فرایندها در کنار نهادی فرابخشی، محور تلاش ها باشد و نقش راهبر و هماهنگ کننده
را برعهده گیرد. همچنین از دیگر الزامات پیشبرد برنامه ها در این حوزه، آشنایی نهاد هماهنگکننده با اقتضائات پیشرفت فناورانه است.

نقش نهاد هماهنگ کننده، تسهیلگری و شتاب‌دهی فعالیت های همه بخشها و وزارتخانه ها، برای راهبری توسعه ابتکارات مرتبط با هوش مصنوعی و حکمرانی داده محور است. پشتیبانی از طرح های تأمین مالی و بودجه های مورد نیاز دستگاه ها، رفع موانع، ایجاد ظرفیت های توسعه ای، طراحی و هدایت چند سطحی دستگاه، طراحی شاخص های کنترلی از دیگر اقدام هایی است که از این نهاد انتظار می رود.

ایجاد زمینه های لازم برای همگرایی و هم‌افزایی فناوری های مختلف مانند بیوتکنولوژی، علوم شناختی، روباتیک، کوانتوم و ... با فناوری هوش مصنوعی و شتاب‌دهی به ابرپروژه های ملی و حضور و مشارکت در کنسرسیوم های بین‌المللی برای نقش آفرینی فعال در توسعه فناوری هوش مصنوعی نیز از دیگر مأموریت های این نهاد است.

- نهادی برای تنظیم مقررات ملی حوزه هوش مصنوعی

در سطح تنظیم‌گری یک نهاد تنظیمگر ملی باید قواعد و مقررات مرتبط با هوش مصنوعی و دستورالعمل های اخلاقی و استانداردها را تدوین کند و برای اطمینان از استفاده مسؤلانه و ایمن بر برنامه های کاربردی هوش مصنوعی، نظارت و ارزیابی محصولات مرتبط با فناوری های هوش مصنوعی را برعهده گیرد.

ارائه چارچوب های ارزیابی و اخذ مجوز سامانه های هوش مصنوعی، رصد و ارزیابی مخاطرات محصولات نوظهور هوش مصنوعی و سیاست ها و مقررات مواجهه با آن، رصد و ارزیابی آثار اجتماعی- اقتصادی، امنیتی و اخلاقی استفاده از هوش مصنوعی و انتشار گزارش های دورهای عمومی و ویژه نهادهای نظارتی می تواند ازجمله وظایف این نهاد باشد.

این نهاد تنظیمگر ملی به دلیل ضرورت های همراهی هر سه قوه با آن و برای برخورداری از مشروعیت و قدرت لازم، باید از اعتبار و جایگاه کافی برخوردار باشد و ابزارها و زیرساخت های مناسب برای ایفای نقش تنظیم‌گری را نیز برعهده داشته باشد.

همچنین به جهت ملاحظات گسترده فنی، فرهنگی، اجتماعی و اخلاقی و مشکلات ناشی از تعارض منافع در این حوزه، ضروری است نهاد تنظیم مقررات و نظارت بر هوش مصنوعی، همه کنشگران ازجمله نمایندگان دستگاه های مرتبط و ذینفعان را در خود جای دهد.

تنظیم قواعد کلان برای استانداردهای اخلاقی، حفاظت از داده و حریم خصوصی، رصد هوشمند تحولات و ایجاد همگرایی بین نهادهای بخشی تنظیمگر ازجمله مأموریت های این کارگروه است. به دلیل ماهیت فنی و وابستگی شدید تنظیم‌گری این فناوری به الگوریتم ها، وزارت ارتباطات می تواند به عنوان دبیر کارگروه، نقش آفرینی کند. همچنین وزارت ارتباطات باید متولی اصلی توسعه زیرساخت ها، ظرفیت های محاسباتی و تبادل داده و ایجاد نظام مدیریت دانش بر الگوریتم ها باشد.

حوزه های مدنظر برای سیاستگذاری، هماهنگ سازی و راهبری توسعه هوش مصنوعی

+ هماهنگ سازی موسسه های پژوهشی و دانشگاهی؛

+ شتاب‌دهی به موسسه های مرتبط با علوم داده؛

+ سازماندهی صنفی صنعت

+ ترغیب و هدایت صندوق های حمایت مالی ملی از فناوری برای پشتیبانی از هوش مصنوعی؛

+ هدایت تلاش های آموزشی و پرورشی مهارت محور؛

+ توسعه همکاری های بین‌المللی و دیپلماسی؛

+ آگاهی بخشی و مشارکت عمومی؛

+ حکمرانی محلی و داده محوری

+ خدمات عمومی مبتنی بر هوش مصنوعی؛

+ هدایت بودجه های تحقیق و نوآوری به سمت فناوری هوش مصنوعی مرتبط با فناوری های همگرا؛

+ مدیریت دانش بر روی جمع آوری و پردازش اطلاعات و الگوریتم ها؛

+ هوش مصنوعی برای خدمات بهداشت و درمان؛

+ هوش مصنوعی برای کشاورزی؛

+ هوش مصنوعی برای حوزه پولی و مالی؛

+ هوش مصنوعی برای حمل و نقل؛

+ هوش مصنوعی برای انرژی؛

+ هوش مصنوعی برای توسعه صنعتی؛

تقسیم کار ملی پیشنهادی برای تنظیم‌گری در زمینه هوش مصنوعی حوزه مأموریتی مأموریت های پیشنهادی نهادهای کلیدی نهاد اجرایی پیشنهادی سیاستگذاری برای توسعه و حکمرانی هوش مصنوعی و داده

توصیه های سیاستی درباره تقسیم کار ملی در حوزه توسعه هوش مصنوعی

مرکز پژوهش های مجلس در این گزارش، توصیه های سیاستی در این حوزه را ارائه کرده است. بررسی های انجام شده نشان از آن دارد که سیاستگذاری و راهبری تلاش های حوزه هوش مصنوعی نیازمند تقویت همکاری و اشتراک دانش، سرمایه گذاری در تحقیق و توسعه، ظرفیت سازی و تجدید ساختار نیروی کار، حکمرانی داده محور، حفاظت از حریم خصوصی، توسعه همکاری های بین المللی، نگاشت نهاد و تقسیم کار ملی است.

توصیه می شود به منظور ایجاد همگرایی در تلاش ها بر تنظیمگری هوش مصنوعی و تضمین استفاده مسؤولانه و اخلاقی از هوش مصنوعی، نهادهای تنظیمگر فرابخشی برای حمایت و تسریع در تنظیم مقررات و نظارت بر آن شکل گیرد.

ایجاد سازوکارهایی برای ارزیابی و تأیید سامانه های هوش مصنوعی برای اطمینان از انطباق با استانداردهای قانونی و اخلاقی، پایش، ارزیابی و ممیزی منظم بر اجرای سامانه های هوش مصنوعی و شناسایی هرگونه سوگیری یا اعمال تبعیض آمیز در زمره وظایف این نهادهاست.

ازجمله اقدام های مورد انتظار در این حوزه می توان به موارد زیر اشاره کرد:

* ارائه اصول کلی توسعه هوش مصنوعی در کشور و سازوکارهای پدافند غیرعامل؛

* ارائه سند تقسیم کار ملی برای توسعه هوش مصنوعی؛

* ارائه موضع و ارزیابی ریسک درخصوص محصولات نوظهور هوش مصنوعی و شیوه تعامل با آن؛

* تنظیم سازوکارهای رتبه بندی و اعلان هشدار استفاده از هوش مصنوعی در محصولات؛

* ارزیابی تأثیرات اجتماعی، اقتصادی، امنیتی و اخلاقی توسعه هوش مصنوعی و اعلان عمومی آن؛

* تنظیم سازوکارهای رسیدگی به شکایات و دادخواست های مرتبط با هوش مصنوعی و پاسخگویی به آنها؛

* ارائه پیشنهادهای قانونگذاری در صورت ضرورت با مشارکت ذینفعان؛

* تشویق خودتنظیمی ازسوی توسعه دهندگان هوش مصنوعی با شفاف سازی در الگوریتم ها و توسعه سامانه های شفاف و قابل توضیح؛

* تقویت همکاری و اشتراک دانش بین رشته ای خصوصاً در حوزه هایی مانند علوم شناختی، کوانتوم، علوم داده و بیوتکنولوژی.