استانداردهای اخلاق و مسئولیت اجتماعی پروژههای هوش مصنوعی
مبانی و منابع
این سند با هدف تبیین اصول اخلاقی، مسئولیت اجتماعی و الزامات مرتبط با توسعه و بهکارگیری هوش مصنوعی در شرکت تهیه شده است. مبانی این سند بر اساس استانداردها و چارچوبهای معتبر بینالمللی، قوانین و مقررات داخلی، اسناد بالادستی و همچنین اقتضائات فرهنگی، اجتماعی و حرفهای کشور تدوین شده است.
اصول کلیدی اخلاق در هوش مصنوعی بر اساس استانداردهای جهانی
- عدالت و عدم تبعیض در طراحی و استفاده از سامانههای هوش مصنوعی
- شفافیت و توضیحپذیری تصمیمات و خروجیهای سامانههای هوش مصنوعی
- حفظ حریم خصوصی و صیانت از دادههای شخصی
- امنیت، قابلیت اطمینان و تابآوری سامانهها
- پاسخگویی و مشخص بودن مسئولیت افراد و سازمانها در قبال عملکرد سامانههای هوش مصنوعی
- نظارت و کنترل انسانی بر تصمیمات و فرآیندهای حساس
- توجه به آثار اجتماعی، اقتصادی و محیطزیستی استفاده از هوش مصنوعی
هدف تهیه و نگارش پیوست
هدف از تهیه این پیوست، ایجاد یک چارچوب مشخص برای رعایت اصول اخلاقی و مسئولیت اجتماعی در تمامی مراحل طراحی، توسعه، استقرار و استفاده از راهکارهای هوش مصنوعی در شرکت است.
این سند تلاش میکند ضمن ایجاد زمینه برای استفاده مسئولانه و اثربخش از فناوریهای هوش مصنوعی، مخاطرات احتمالی آن را شناسایی و راهکارهایی برای پیشگیری، کنترل و کاهش این مخاطرات ارائه کند.
مقدمه و اهداف تنظیم سند مسئولیت اجتماعی
هوش مصنوعی بهعنوان یکی از فناوریهای تحولآفرین، فرصتهای گستردهای برای بهبود فرآیندها، افزایش بهرهوری، توسعه خدمات و ایجاد ارزش برای سازمانها و جامعه فراهم کرده است. در کنار این فرصتها، استفاده از هوش مصنوعی میتواند چالشهایی در زمینههایی همچون حریم خصوصی، امنیت داده، تبعیض، شفافیت، اشتغال، مسئولیتپذیری و اعتماد عمومی ایجاد کند.
از این رو، توسعه و استفاده از هوش مصنوعی نیازمند توجه همزمان به جنبههای فنی، اقتصادی، حقوقی، اخلاقی و اجتماعی است.
مقدمه و ضرورت
گسترش استفاده از ابزارها و سامانههای مبتنی بر هوش مصنوعی در محیطهای کاری، ضرورت تدوین قواعد مشخص برای استفاده مسئولانه از این فناوری را بیش از گذشته نمایان کرده است. استفاده بدون ضابطه از ابزارهای هوش مصنوعی میتواند منجر به افشای اطلاعات محرمانه، نقض حقوق مالکیت فکری، تولید اطلاعات نادرست یا ایجاد تصمیمات ناعادلانه شود.
بر همین اساس، رعایت اصول اخلاقی و مسئولیت اجتماعی باید بهعنوان بخشی جداییناپذیر از فرآیند توسعه و بهرهبرداری از راهکارهای هوش مصنوعی در نظر گرفته شود.
الزام افشای استفاده از ابزارهای هوش مصنوعی برای همکاران و مشاوران شرکت
تمامی همکاران، پیمانکاران و مشاورانی که در فرآیند تولید محتوا، تحلیل اطلاعات، طراحی، برنامهنویسی، تصمیمسازی یا سایر فعالیتهای مرتبط با پروژههای شرکت از ابزارهای هوش مصنوعی استفاده میکنند، موظفاند استفاده از این ابزارها را مطابق ضوابط داخلی شرکت اعلام کنند.
در استفاده از ابزارهای هوش مصنوعی باید موارد زیر مورد توجه قرار گیرد:
- عدم ورود اطلاعات محرمانه، حساس یا اختصاصی شرکت و مشتریان به ابزارهای عمومی هوش مصنوعی
- رعایت حقوق مالکیت فکری و کپیرایت
- بررسی صحت اطلاعات و خروجیهای تولیدشده توسط هوش مصنوعی
- اعلام استفاده از هوش مصنوعی در مواردی که خروجی آن بهصورت مستقیم در محصول، گزارش یا محتوای نهایی استفاده میشود
- مسئولیت نهایی بررسی و تأیید خروجی بر عهده فرد استفادهکننده است
تعریف اخلاق هوش مصنوعی
اخلاق هوش مصنوعی مجموعهای از اصول، ارزشها و چارچوبهایی است که به منظور هدایت طراحی، توسعه و استفاده مسئولانه از سامانههای هوش مصنوعی تدوین میشود. هدف اصلی آن اطمینان از این است که فناوری در راستای منافع انسان و جامعه مورد استفاده قرار گیرد و از ایجاد آسیبهای قابل پیشگیری جلوگیری شود.
چالشهای اخلاقی در حوزه هوش مصنوعی
برخی از مهمترین چالشهای اخلاقی در حوزه هوش مصنوعی عبارتاند از:
- سوگیری و تبعیض الگوریتمی
- نبود شفافیت در فرآیند تصمیمگیری
- حفاظت از حریم خصوصی و دادههای شخصی
- امنیت و امکان سوءاستفاده از سامانهها
- وابستگی بیش از حد به تصمیمات ماشینی
- ابهام در مسئولیتپذیری در صورت بروز خطا
- تأثیر هوش مصنوعی بر اشتغال و ساختارهای اجتماعی
- انتشار اطلاعات نادرست و محتوای تولیدشده توسط هوش مصنوعی
اهمیت مسئولیت اجتماعی
مسئولیت اجتماعی سازمانی به معنای تعهد سازمان نسبت به آثار اقتصادی، اجتماعی، محیطزیستی و انسانی فعالیتهای خود است. در حوزه هوش مصنوعی، این مسئولیت اهمیت بیشتری پیدا میکند؛ زیرا تصمیمات و خروجیهای سامانههای هوشمند میتوانند بر افراد، سازمانها و جامعه تأثیر مستقیم داشته باشند.
بنابراین لازم است توسعه و استفاده از هوش مصنوعی علاوه بر شاخصهای فنی و اقتصادی، از منظر آثار اجتماعی و اخلاقی نیز ارزیابی شود.
دامنه شمول سند مسئولیت اجتماعی
این سند تمامی فعالیتها، پروژهها، محصولات و خدماتی را که به نحوی با طراحی، توسعه، استقرار، خرید، استفاده یا نگهداری سامانههای هوش مصنوعی در ارتباط هستند، دربرمیگیرد.
مخاطبان این سند شامل مدیران، کارکنان، کارشناسان، توسعهدهندگان، طراحان، مشاوران، پیمانکاران و سایر ذینفعان مرتبط با پروژههای هوش مصنوعی شرکت هستند.
ارزشها و اصول راهبردی در مواجهه با هوش مصنوعی
ارزشهای راهبردی ما در مواجهه با هوش مصنوعی
- انسانمحوری و اولویت دادن به منافع انسان در طراحی و استفاده از فناوری
- شفافیت و پاسخگویی در تصمیمات و فرآیندهای مبتنی بر هوش مصنوعی
- حفظ کرامت انسانی و رعایت حقوق کاربران و ذینفعان
- صیانت از حریم خصوصی و امنیت دادهها
- عدالت و جلوگیری از ایجاد تبعیض در استفاده از سامانههای هوشمند
- توجه به پیامدهای اجتماعی و اقتصادی فناوری و پیشبینی سازوکارهای لازم برای مدیریت آنها
ابعاد مسئولیت اجتماعی
مسئولیت اجتماعی در حوزه هوش مصنوعی را میتوان در ابعاد مختلف مورد بررسی قرار داد:
- بعد انسانی: توجه به حقوق، کرامت، حریم خصوصی و رفاه افراد
- بعد اجتماعی: توجه به تأثیر فناوری بر جامعه و گروههای مختلف
- بعد اقتصادی: استفاده اثربخش و عادلانه از منابع و فرصتهای ناشی از هوش مصنوعی
- بعد محیطزیستی: توجه به مصرف انرژی و آثار زیستمحیطی زیرساختهای هوش مصنوعی
- بعد حقوقی: رعایت قوانین، مقررات و الزامات مرتبط با داده و فناوری
مسئولیت اجتماعی و چالشهای بومی
مسئولیت اجتماعی و چالشهای بومی
توسعه و استفاده از هوش مصنوعی در ایران علاوه بر چالشهای عمومی این فناوری، با مسائل و اقتضائات بومی نیز مواجه است. محدودیتهای زیرساختی، دسترسی نابرابر به فناوری، الزامات قانونی، مسائل مرتبط با دادههای فارسی و ویژگیهای فرهنگی و اجتماعی کشور از جمله موضوعاتی هستند که باید در طراحی و پیادهسازی راهکارهای هوش مصنوعی مورد توجه قرار گیرند.
- توجه به زبان و فرهنگ فارسی در توسعه مدلها و محصولات هوش مصنوعی
- حفاظت از دادههای سازمانها و شهروندان
- توجه به شکاف دیجیتال و دسترسی برابر به فناوری
- رعایت قوانین و مقررات داخلی
- افزایش سواد و آگاهی عمومی درباره فرصتها و مخاطرات هوش مصنوعی
مسئولیت اجتماعی و چارچوب عملیاتی در حوزه هوش مصنوعی
برای تبدیل اصول اخلاقی و مسئولیت اجتماعی به اقدامات عملی، لازم است فرآیند مشخصی برای شناسایی، ارزیابی و مدیریت ریسکهای اخلاقی و اجتماعی پروژههای هوش مصنوعی ایجاد شود.
اولویتهای عملیاتی در حوزه مسئولیت اجتماعی
- شناسایی آثار و پیامدهای احتمالی پروژههای هوش مصنوعی پیش از اجرا
- ارزیابی ریسکهای اخلاقی، حقوقی، امنیتی و اجتماعی
- تعریف مسئولیتهای مشخص برای اعضای تیم پروژه
- ایجاد سازوکار نظارت انسانی بر فرآیندهای حساس
- مستندسازی دادهها، مدلها و تصمیمات مهم
- ارزیابی مستمر عملکرد سامانه پس از استقرار
- ایجاد سازوکار دریافت بازخورد و گزارش خطا یا آسیب احتمالی
- بازنگری دورهای سیاستها و الزامات متناسب با تغییرات فناوری و مقررات
حوزه مسئولیت اجتماعی و هوش مصنوعی در شبکه بانکی کشور
استفاده از هوش مصنوعی در شبکه بانکی کشور به دلیل ارتباط مستقیم با اطلاعات مالی، دادههای شخصی و تصمیمات اثرگذار بر زندگی افراد، نیازمند حساسیت و دقت بیشتری است. در این حوزه، رعایت اصول اخلاقی، امنیتی و حقوقی باید از مراحل اولیه طراحی محصول تا زمان بهرهبرداری و ارزیابی مستمر آن مورد توجه قرار گیرد.
برخی از مهمترین حوزههای کاربرد هوش مصنوعی در شبکه بانکی عبارتاند از:
- اعتبارسنجی و ارزیابی ریسک مشتریان
- تشخیص و پیشگیری از تقلب و پولشویی
- مدیریت ریسک و تصمیمگیری مالی
- خدمات مشتری و دستیارهای هوشمند
- تحلیل رفتار مشتریان
- پردازش و تحلیل اسناد و مکاتبات
- اتوماسیون فرآیندهای داخلی بانکها
الزامات حقوقی توسعه کاربرد هوش مصنوعی در شبکه بانکی کشور
در توسعه و استقرار راهکارهای هوش مصنوعی در شبکه بانکی، رعایت قوانین و مقررات مرتبط با حفاظت از اطلاعات، محرمانگی دادهها، امنیت سایبری، حقوق مشتریان و الزامات نظارتی ضروری است.
- رعایت الزامات بانک مرکزی و سایر نهادهای ناظر
- حفاظت از اطلاعات و دادههای مشتریان
- رعایت الزامات امنیت اطلاعات و امنیت سایبری
- اطمینان از قابلیت ردیابی و ثبت تصمیمات سامانههای حساس
- ایجاد امکان نظارت و مداخله انسانی در تصمیمات مهم
- ارزیابی ریسک مدلها و الگوریتمهای مورد استفاده
- جلوگیری از تبعیض و تصمیمگیری ناعادلانه درباره مشتریان
- شفاف بودن حدود استفاده از هوش مصنوعی در خدمات ارائهشده به مشتریان
- تعیین مسئولیت سازمانی در قبال خطاها و تصمیمات سامانههای هوشمند
جمعبندی: توسعه مسئولانه هوش مصنوعی مستلزم ایجاد تعادل میان نوآوری، منافع کسبوکار، حقوق افراد و منافع جامعه است. رعایت اصول اخلاقی و مسئولیت اجتماعی باید بخشی از چرخه عمر تمامی پروژههای هوش مصنوعی باشد و از مرحله ایدهپردازی تا طراحی، توسعه، استقرار و ارزیابی مستمر ادامه پیدا کند.