نشست داووس، هوش مصنوعی، و چالش‌های اخلاقی پیش رو

حسینعلی رحمتی

عضو هیات علمی گروه اخلاق کاربردی پژوهشگاه قرآن و حدیث

 پنجاه و  پنجمین نشست سالیانه «مجمع جهانی اقتصاد» ۲۰ تا ۲۴ ژانویه ۲۰۲۵م (۱ تا ۵ بهمن ۱۴۰۳) در شهر داووس سوئیس برگزار شد. «همکاری برای عصر هوشمند»، استفاده از «هوش مصنوعی» و توجه به پیامدهای آن، از مهم ترین موضوعاتی است که در نشست امسال و سال های گذشته مورد توجه اعضا قرار گرفت. طبیعتا در اجلاسی که عمده شرکت کنندگان آن دارای مسوولیت های سیاسی و اقتصادی (و حتی مدیران شرکت های بزرگ هوش مصنوعی) هستند و موضوعاتی که مطرح می کنند از همین منظر است نمی توان انتظار داشت که مباحث اخلاقی به طور جدی مطرح شود، اما از آنجا که آنچه در این اجلاس مطرح می شود تا حد زیادی بیانگر افق نگاه و سمت و سوی سیاست های کلان کشورها نسبت به آینده است،‌ و خود این سیاست ها و برنامه ها، و اجرای آنها می تواند پیامدهای اخلاقی هم داشته باشد، لازم است که از منظر اخلاقی هم به مباحث مطرح شده در این اجلاس توجه شود. یادداشت حاضر در این راستا نوشته شده است.

✅۱. مسوولان کشورمان در این نشست ها شرکت کنند یا نه، و میزان تاثیرگذاری ما در سیاست های کلان جهانی کم باشد یا زیاد، در هر صورت سیاست ها و برنامه های دیگر کشورها در زمینه هوش مصنوعی به کشور ما هم ربط پیدا می کند. چرا که دنیای امروز به مدد همین فناوری ها در حال به‌هم‌پیوستن و هم‌سرنوشت شدن است و طبیعتا پیامدهای استفاده درست یا نادرست از آنها به طور مستقیم یا غیرمستقیم دامن گیر کشور ما هم خواهد شد. به طور کلی در دنیای دیجیتالیزه امروز «همه چیز همگان به هم مربوط است؛ حتی اگر به‌ظاهر ربطی به هم نداشته باشند». بنابراین، افراد و نهادهای کشورمان که در زمینه اخلاق و / یا هوش مصنوعی مسوولیت دارند بایستی مباحث و موضوعات مطرح در مجامع جهانی از قبیل داووس را با دقت دنبال کنند، از منظر فرصت ها و چالش های اخلاقی مورد بررسی قرار دهند و نهایتا با توجه به مختصات جامعه ایرانی،‌ آنها را بومی سازی و بازخوانی نمایند. این کار هم به مدیران و سیاستگذاران کلان کشور برای اتخاذ تصمیمات واقع بینانه و اولویت دار کمک می کند، هم جامعه را برای مواجهه مسوولانه و اخلاقی با فناوری های مبتنی بر هوش مصنوعی آماده می سازد.

✅۲. لازمه انجام آنچه گفته شد این است که در گام نخست ما در صدد تربیت «متخصصان اخلاق هوش مصنوعی» باشیم. این نکته ای است که تاکنون مورد غفلت قرار گرفته است و تا وقتی برای آن اقدامی نشود و نیروهای اخلاق پژوه در این زمینه نداشته باشیم برداشتن هرگام دیگری در این زمینه به نتیجه مطلوب نخواهد رسید، و نهایتا به انجام چند پژوهش ضعیف منتهی خواهد شد. جای تاسف است که به رغم وجود امکانات مادی و نیروهای انسانی مناسب، هنوز نه تنها درباره اخلاق هوش مصنوعی که به طور کلی درباره «اخلاق فناوری اطلاعات»‌ و «اخلاق فضای مجازی» هم طی سه دهه اخیر هیچ اقدام جدی نکرده ایم و پیامدهای آن را مشاهده می کنیم.

✅۳. توجه به موضوعات فناورانه مطرح شده در مجامعی چون داووس به ما دغدغه های جهانی نسبت به توسعه فناوری هایی چون هوش مصنوعی را نیز معرفی می کند. در اجلاس چند سال اخیر داووس موضوعاتی چون اطلاعات نادرست در فضای مجازی و هوش مصنوعی، ناامنی سایبری، محیط زیست، توسعه بی ضابطه هوش مصنوعی،‌تاثیر فناوری های جدید بر افزایش بیکاری به عنوان دغدغه های جهانی سال های آینده مطرح شده است. بررسی این موضوعات از منظر اخلاقی موجب شناخت چالش های اخلاقی می شود که سال های آینده کشور ما هم درگیر آنها خواهد شد. این شناخت زودهنگام موجب می شود که برای چاره اندیشی نسبت به آنها و سیاستگذاری و برنامه ریزی برای کاهش یا رفع آنها زمان کافی داشته باشیم. همچنین زمینه مشارکت ما در فرایندها و کمپین های جهانی مربوط به دین و اخلاق و هوش مصنوعی را فراهم می کند.

✅۴. نشست داووس یک نکته دیگر را هم روشن کرد: لزوم سرمایه گذاری جدی مالی و انسانی کشورمان درباره فناوری های مبتنی بر هوش مصنوعی. نگاهی به ارقام سرسام آور سرمایه گذاری کشورهای شرکت کننده در داووس در زمینه توسعه فناوری های هوشمند (حتی کشورهایی که از نظر جغرافیایی و منابع مادی و انسانی از کشور ما به مراتب پایین تر هستند) بیان گر این اهمیت و ضرورت، همچنین بیانگر بازار شدیدا رقابتی این فناوری ها در حال حاضر است،‌ که البته در سال های آینده با شدت و وسعت بیشتری ادامه پیدا خواهد کرد. در ایران هم در چند سال اخیر سرمایه گذاری ها و فعالیت هایی انجام شده است و طبیعتا ادامه پیدا خواهد کرد. بنابراین، اخلاق پژوهان کشورمان بایستی این موضوع را مورد بررسی قرار دهند که به موازات افزایش حضور فناوری های مبتنی بر هوش مصنوعی در  زندگی شهروندان ما، به سبب فعالیت های کشور خودمان یا دیگر کشورها در این زمینه، این کار چه مسائل و موضوعات اخلاقی را پدید خواهد آورد و برای رفع یا کاهش آنها چه باید کرد. مثلا روز به روز استفاده از هوش مصنوعی برای کارهایی  چون پاسخگویی به سوالات، انجام پژوهش، تبدیل عکس به فیلم، طراحی و نقاشی، ترجمه و تالیف و ویرایش منابع علمی و ده ها کار دیگر در حال افزایش است، که مسائل اخلاقی از قبیل نقض حریم خصوصی، نقض مالکیت مادی و معنوی دیگران، فریبکاری و حقیقت سازی، و سوگیری داده ها را به دنبال دارد. برای کاهش پیامدهای این مسائل چه باید کرد؟ البته موضوعات پیچیده تری هم در حال نمایان شدن است؛ از جمله این که به عنوان مثال فراگیر شدن فناوری «نورالینک»‌ یا پیوند هوش انسانی به هوش مصنوعی (به رغم مزایای غیرقابل انکاری که دارد) آیا می تواند موجب سوگیری معرفت اخلاقی انسان و تضعیف اراده و اختیار او شود؟ موارد و مسائلی از این دست بسیار است و از هم اکنون باید برای تحلیل و بررسی آنها آستین همت را بالا بزنیم؛ که در عصر یکه تازی فناوری اطلاعات و هوش مصنوعی، «یک زمان غافل شدن»، صد سال راه مان را دور می کند.

✅۵. آشنایی با مباحث داووس و مانند آن بیان گر یک نکته دیگر هم خواهد بود: لزوم جدی گرفتن نسبت هوش مصنوعی با «حاکمیت و حکمرانی». این فناوری ها شیوه حکمرانی سنتی را دگرگون کرده و حتی به چالش خواهند کشید. همچنین مرزهای جغرافیایی را (از منظر میزان تاثیرگذاری سیاست های فرهنگی رسمی) نسبت به گذشته کم رنگ تر خواهند کرد. طبیعتا چنین وضعیتی می تواند جامعه دینی ما و حاکمیت آن را با چالش های اخلاقی جدی مواجه کند. چه از منظر تعامل اخلاقی شهروندان و حکومت، چه از منظر  وظایف حاکمیت نسبت به شهروندان در زمینه فراهم کردن بسترهای نرم افزاری و سخت افزاری و سیاستگذاری درباره هوش مصنوعی، چه از منظر آموزش هوش مصنوعی به عموم شهروندان و افزایش سواد رسانه ای و تربیت اخلاقی آنها برای استفاده درست از این فناوری ها.
پایان
۱۶ بهمن ۱۴۰۳