تاثیر الگوریتم های هوش مصنوعی بر تصمیم گیری افراد

هشدار محققان ؛

الگوریتم های هوش مصنوعی می توانند بر تصمیم گیری و رأی گیری افراد تأثیر بگذارند

محققان نیاز به آموزش عمومی در مورد تأثیر الگوریتم ها را برجسته می کنند

در یک سری آزمایشات جدید ، الگوریتم های هوش مصنوعی می‌توانند بر ترجیحات مردم برای کاندیداهای سیاسی تأثیر بگذارند. Ujué Agudo و Helena Matute از Universidad de Deusto در بیلبائو ، اسپانیا ، این یافته ها را در 21 آوریل 2021 در مجله دسترسی آزاد PLOS ONE ارائه می دهند.

از فیس بوک گرفته تا نتایج جستجوی گوگل ، بسیاری از افراد با A.I هر روز در حال انجام تحقیقات گسترده در مورد داده های کاربران خود هستند و بینش هایی را در مورد رفتار انسان ایجاد می کنند که در دسترس عموم نیست.

تحقیقات علوم اجتماعی دانشگاهی از تحقیقات خصوصی و دانش عمومی در مورد چگونگی A.I عقب است. الگوریتم ها ممکن است تصمیمات افراد را شکل دهند

Agudo و Matute برای پرتاب نور جدید ، مجموعه ای از آزمایشات را انجام دادند که تأثیر الگوریتم های A.I را در زمینه های مختلف آزمایش کردند. آنها شرکت کنندگان را برای تعامل با الگوریتمهایی که عکسهایی از نامزدهای سیاسی ساختگی یا نامزدهای همسریابی آنلاین را ارائه می دهند ، استخدام کردند و از شرکت کنندگان خواستند که به چه کسی رای دهند یا پیام دهند.

الگوریتم ها برخی از نامزدها را نسبت به دیگران ، به صراحت (به عنوان مثال ، “سازگاری 90٪”) یا پنهانی ، مانند نمایش عکس های آنها بیشتر از دیگران ، ارتقا می دهند.

به طور کلی ، آزمایشات نشان داد که الگوریتم ها تأثیر قابل توجهی در تصمیم گیری های شرکت کنندگان در مورد رای دادن یا ارسال پیام دارند. برای تصمیمات سیاسی ، دستکاری صریح به طور قابل توجهی بر تصمیمات تأثیرگذار است .

محققان حدس می زنند که این نتایج ممکن است منعکس کننده ترجیح افراد برای توصیه های صریح انسانی در مورد موضوعات ذهنی مانند دوست یابی باشد ، در حالی که افراد ممکن است توصیه های الگوریتمی را درباره تصمیمات سیاسی منطقی ترجیح دهند.

با توجه به یافته های خود ، نویسندگان از ابتکاراتی که به دنبال بالا بردن قابلیت اطمینان A.I هستند ، حمایت می کنند ، مانند دستورالعمل های اخلاقی کمیسیون اروپا برای AI قابل اعتماد و برنامه AI (XAI) قابل توضیح DARPA. با این حال ، آنها هشدار می دهند که برای درک آسیب پذیری انسان در برابر الگوریتم ها ، به تحقیقات عمومی بیشتری نیاز است.

در همین حال ، محققان خواستار تلاش برای آموزش مردم در مورد خطرات اعتماد کورکورانه به توصیه های الگوریتم ها هستند. آنها همچنین نیاز به بحث پیرامون مالکیت داده هایی را که این الگوریتم ها را هدایت می کنند ، برجسته می کنند.

نویسندگان اضافه می کنند: “اگر یک الگوریتم ساختگی و ساده مانند ما بتواند بدون ایجاد نمایه های کاملاً سفارشی شده از شرکت کنندگان (و استفاده از عکس های یکسان در همه موارد) به چنین سطحی از اقناع دست یابد ، الگوریتم پیچیده تری مانند مواردی که مردم با آنها تعامل دارند در زندگی روزمره آنها مطمئناً باید بتوانند نفوذ بسیار بیشتری داشته باشند. “