نشست علمی بررسی الزامات فرهنگی ، اخلاقی و حقوقی سند هوش مصنوعی کشور با حضور دکتر بهروز مینایی رئیس ستاد هوش مصنوعی معاونت علمی و فناوری ریاست جمهوری و حجت الاسلام دکتر محمودرضا قاسمی عضو هیات علمی دانشگاه علم و صنعت ایران و دکتر محمدرضا قاسمی دبیر ستاد فناوری های هوشمند حوزه های علمیه کشور با حضور اساتید در دانشگاه علم و صنعت ایران در 15 آبان ماه 1402 برگزار شد .
در ابتدا دکتر محمدرضا قاسمی دبیر ستاد فناوری های هوشمند حوزه های علمیه کشور با بیان اینکه ماشین‌های هوشمند با استفاده از سنسورهای مختلف محیط پیرامون خود را شناسایی و با استفاده از الگوریتمهای هوش مصنوعی پس از پردازش داده‌ها، تحلیل اطلاعات و الگوهایی که از آن استخراج می‌شود،
دکتر محمدرضا قاسمی دبیر ستاد فناوری های هوشمند حوزه های علمیه کشور
ایشان اظهار کرد: شبکه‌های اجتماعی با رفتارشناسی و الگوریتمهای هوش مصنوعی پیشنهادات نزدیک به علایق و سلایق کاربران ارائه می‌دهند. مشاهدات پیج ها و سایت‌ها و نیز لایک ها، کامنت ها و پست‌های کاربران دائما ثبت و ضبط و تحلیل می‌شود و برای مرور پیج ها مواردی پیشنهاد میشوند که کاربر دوست دارد آن را دنبال کند. در واقع همه کاربران شبکه‌های اجتماعی بدون آن که در جریان باشند رصد میشوند و از هوش مصنوعی برای مسیر گشت‌وگذارهای خود در فضای مجازی استفاده می‌کنند. از این رو توجه به الزامات فرهنگی و اخلاقی در تدوین سند هوش مصنوعی کشور ضروری است.
سپس دکتر محمودرضا قاسمی عضو هیات علمی دانشگاه علم و صنعت ایران بیان کرد که با بررسی اسناد موجود در اتحادیه اروپا ، امریکا ، کاناد و بریتانیا و سایر کشورها پیرامون الزامات فرهنگی ، اخلاقی و حقوقی هوش مصنوعی در اتحادیه اروپا یک آیین نامه عمومی حفاظت از داده های خصوصی GDPR در سال ۲۰۱۸ تصویب شده است که شامل قوانین و الزامات مربوط به استفاده از هوش مصنوعی در حفاظت از حقوق و آزادیهای فردی است. براساس این آییننامه، کاربران دارای حق دسترسی، تصحیح، حذف، محدود کردن، اعتراض و انتقال داده های خود هستند. همچنین، سازمانهای استفاده کننده از هوش مصنوعی باید مباحث ذیل را رعایت کنند: شفافیت، تبعات قابل پذیرش، عدم تبعیض، دقت، رعایت حریم خصوصی و … . در سال ۲۰۲۱ نیز پارلمان اروپا چارچوب قانونی جدید و جامع برای هوش مصنوعی را تصویب کرده است که شامل دسته بندی سطح خطر هوش مصنوعی، الزامات کلیدی برای هر سطح خطر، نظارت و بازرسی بر عملکرد هوش مصنوعی و تعریف و تقسیم مسئولیت پذیری بین ذینفعان است.
ایشان در ادامه بیان داشت در امریکا چارچوب قانونی جامع و یکپارچه برای هوش مصنوعی وجود ندارد. بجای آن، قانونگذاران در سطح فدرال و ایالتها به صورت جداگانه و بسته به حوزه های مختلف اقدام به تصویب قوانین و مقررات مربوط به هوش مصنوعی کرده اند. برخی از این قوانین شامل: قانون ترویج هوش مصنوعی برای تحقیقات و توسعه در سال ۲۰۲۰، قانون اصلاح قانون حفاظت از حقوق مصرفکنندگان در سال ۲۰۱۹، قانون تشکیل کمیته مشاوره هوش مصنوعی در سال ۲۰۱۸ و … . همچنین، برخی از ایالتها نیز قوانین خود را در زمینه هایی مانند حفاظت از دادههای خصوصی، استفاده از هوش مصنوعی در حمل و نقل، استفاده از هوش مصنوعی در آموزش و … تصویب کرده اند.
محمودرضا قاسمی بیان داشت : ¡چارچوب قانونی جامع و یکپارچه برای هوش مصنوعی نیز وجود ندارد. بجای آن، برخی از کشورها به صورت مستقل و بسته به شرایط خود قوانین و مقررات مربوط به هوش مصنوعی را تصویب کردهاند. برخی از این قوانین شامل: قانون حفاظت از دادههای شخصی در ترکیه در سال ۲۰۱۶، قانون حفاظت از دادههای شخصی در پاکستان در سال ۲۰۲۰، قانون حفاظت از دادههای شخصی در عربستان سعودی در سال ۲۰۱۹ و … . همچنین، برخی از کشورها نیز استراتژیها و برنامه های عملی برای ترویج و تحقق هوش مصنوعی را طراحی و اجرا کردهاند. همچنین سنگاپور نیز در این باره با ورود به مباحث اخلاقی سندی تدوین نموده است .
ایشان سپس مهمترین چالش های اخلاقی که در سند هوش مصنوعی باید لحاظ شود را شامل مباحث ذیل دانست :
1. معیار ارزش و لزوم اخلاقی در هوش مصنوعی چیست؟
آیا بر منش و صفات نفسانی تأکید دارد )فضیلت گرایی( یا بر وظیفه و تکلیف اخالق ی )وظیفه گرایی( یا بر نتیجه انجام کار و اتصاف به ی ک صفت )غایت گرایی(؟
2. چه رویکردهایی در امکان اخلاق مندی هوش مصنوعی وجود دارد؟ هوش مصنوعی رایج چه تهدیدها و مخاطراتی میتواند برای ارزشهای انسانی داشته باشد؟
3. آیا خود رباتها و سیستمهای هوشمند بهطور مستقیم متصف به باید و نبایدهای اخالقی میشوند؟ به بیان دیگر ربات میتواند فعل اخالقی انجام دهد؟
4. رویکردهای هوش مصنوعی قوی و ضعیف چه تأثیری بر نگرش اخالقمندی سیستمهای هوشمند خواهد گذاشت؟
5. از برخی فناوریهای هوش مصنوعی میتوان استفادههای گوناگونی کرد. بهطور مثال فناوری »جعل عمیق« برای انیمیشنسازی و صنعت هنر و سینما در ترویج آموزههای اخالقی مفید است؛ اما از همین فناوری میتوان سوءاستفاده اخلاقی کرد و به راحتی در عالم واقع و عالم سیاست سخنان دروغ را به اشخاص و افراد مهم نسبت داد. بنابراین چه راهکارهایی برای جلوگیری از سوءاستفاده اخالقی از هوش مصنوعی وجود دارد؟
6. چه راهکارهایی برای ایجاد امنیت اخالقی از طریق سیستمهای هوشمند وجود دارد؟
7. چه راهکاری برای پیشرفت در حوزه مطالعه آسیبهای اخالقی هوش مصنوعی میتوان ارائه داد؟
8. یونسکو در سند اخلاق هوش مصنوعی، بارها تأکید کرده کشورهای عضو ازجمله ایران، این سند اخلاقی را بهگونه ای در کشورشان اجرا کنند؛ بنابراین باید بررسی شود آیا ارزشهای سند اخلاقی هوش مصنوعی یونسکو با نظریه اخلاقی اسالم سازگاری دارد؟
همچنین ایشان به بررسی چالش های فقهی و حقوقی سند نیز پرداخت و مهمترین مشکلات سند هوش مصنوعی کشور را که باید اصلاح شود شامل موارد ذیل است:
-میزان انطباق توسعه و پیشرفت فناورانه کشور با چهارچوب های مبنایی
1- این معیار ممکن است خود بر اساس اسناد پشتیبان فلسفه، فقه و اخلاق به چند معیار تبدیل شود،
2- برای ارائه معیاری جهت سنجش این شاخص نیاز به کار جدی و دقیق وجود دارد، زیرا معیارهایی که اولا کیفی هستند را باید به یکی از روش های مرسوم تبدیل به معیاری کمی کرد. اما فعلا اصل معیار ذکر شود) – تعداد خدمات/ محصولات فرهنگساز مبتنی بر هوش مصنوعی در زمینه های فرهنگ عمومی –
شاخص تخریب: شاخصی تعریف شود که برآمده از میزان تخریب خدمات/محصولات داخلی و خارجی هوش مصنوعی نسبت به فرهنگ باشد. این شاخص توسط نهادهای فرهنگی یا حوزوی تعیین شود. –
میزان قدرت مذاکره و عملکرد موثر در ایجاد انعطاف در پلتفرمهای خارجی ناظر به کیفیت الگوریتمهای فرهنگ ساز -تعداد فیلمهای داستانی و مستند آگاهی بخش نسبت به چالش های هوش مصنوعی ضمن تعریف استاندارد خاص -تعداد رسانه های عمومی و اختصاصی / علمی و خبری در حوزه هوش مصنوعی –
میزان بازگشت نخبگانِ مهاجرت کرده هوش مصنوعی به کشور –
میزان حمایت مادی و معنوی حاکمیت از نخبگان و طرح های نخبگانی مرتبط با علوم اسلامی -تعداد انجمن های علمی، اندیشکده ها، پژوهشکده ها، گروها، دپارتمانهای علمی مرتبط با علوم اسلامی با استاندارد مشخص –
تعداد مقالات و پایان نامه ها در حوزه هوش مصنوعی و مرتبط با علوم اسلامی -تعداد رویدادها و کنفرانسهای برگزار شده با موضوعات اجتماعی، فلسفی، فقهی و اخلاقی درحوزه هوش مصنوعی .
در انتها دکتر بهروز مینایی رئیس دانشکده کامپیوتر دانشگاه علم وصنعت ایران و رئیس ستاد هوش مصنوعی کشور در معاونت علمی ریاست جمهوری با بیان اینکه موارد پیشنهادی اصلاحی در ویراست جدید سند هوش مصنوعی لحاظ خواهد شد ، از تبدیل ستاد هوش مصنوعی کشور به سازمانی همانند سازمان انرژی اتمی با تصویب ریاست جمهوری در آینده نزدیک خبر داد .
