الگوریتمهای فریب؛ آیا هوش مصنوعی در حال تسخیر ذهنهاست؟
یک مدرس دانشگاه با هشدار درباره قدرت الگوریتمهای شبکههای اجتماعی در جهتدهی به افکار عمومی گفت: تکرار محتوای هدفمند، حسابهای جعلی و اتاقهای پژواک دیجیتال میتوانند بدون شلیک حتی یک گلوله، ادراک و تصمیمگیری کاربران را تحت تأثیر قرار دهند.
مرضیه حدادی، در گفتگو با خبرنگار اجتماعی شبکه خبری تحلیلی «تیتر۱»، با اشاره به گسترش استفاده از شبکههای اجتماعی اظهار کرد: در فضای رسانهای امروز، میدان نبرد تنها مرزها و خاک کشورها نیست، بلکه ذهن و درک عمومی نیز به عرصهای برای اعمال نفوذ تبدیل شده است.
دکترای هوش مصنوعی و مدرس دانشگاه، ادامه داد: شبکههای اجتماعی در ظاهر ابزارهایی برای ارتباط، سرگرمی و دریافت اطلاعات هستند، اما الگوریتمهای پیشنهادگر این پلتفرمها با تحلیل رفتار کاربران، محتواهایی را در معرض دید آنان قرار میدهند که میتواند بر نگرش، احساسات و حتی تصمیمگیری افراد اثرگذار باشد.
وی ادامه داد: الگوریتمهایی مانند فید شبکههای اجتماعی، اکسپلور و ویدئوهای پیشنهادی، بر اساس میزان تعامل کاربران عمل میکنند و هدف اصلی آنها افزایش زمان حضور مخاطب در پلتفرم است. همین سازوکار، در صورت سوءاستفاده سازمانیافته، میتواند به ابزاری برای جنگ شناختی و اثرگذاری بر افکار عمومی تبدیل شود.
حدادی با اشاره به یکی از تکنیکهای رایج در این زمینه گفت: زمانی که یک محتوای جهتدار بارها در برابر چشم مخاطب قرار میگیرد، به دلیل آشنایی و تکرار، ممکن است باورپذیرتر به نظر برسد؛ حتی اگر آن محتوا نادرست، ساختگی یا تحریفشده باشد.
این مدرس دانشگاه استفاده از حسابهای جعلی و شبکههای رباتی را از دیگر ابزارهای اثرگذاری بر فضای مجازی دانست و بیان کرد: این حسابها میتوانند با ایجاد حجم مصنوعی از لایک، نظر و بازنشر، یک محتوای خاص را پرمخاطب نشان دهند و زمینه دیدهشدن گستردهتر آن را فراهم کنند.
این متخصص هوش مصنوعی تصریح کرد: در چنین شرایطی ممکن است کاربر بدون آگاهی، وارد نوعی «اتاق پژواک دیجیتال» شود؛ فضایی که در آن، محتواهای مشابه و همسو به شکل مداوم به او نمایش داده میشوند و به مرور، برداشت او از واقعیت را تحت تأثیر قرار میدهند.
حدادی با بیان اینکه مقابله با این پدیده صرفاً یک مسئله فنی نیست، بیان کرد: حتی پیشرفتهترین ابزارهای هوش مصنوعی نیز به تنهایی نمیتوانند مانع تمام اشکال مداخله شناختی شوند و در کنار راهکارهای فنی، باید بر افزایش سواد رسانهای، تقویت تفکر انتقادی و ایجاد تابآوری شناختی در جامعه تمرکز کرد.
وی تأکید کرد: کاربران باید بدانند آنچه در شبکههای اجتماعی میبینند الزاماً تصویری کامل و بیطرف از واقعیت نیست و الگوریتمها بر اساس رفتار و علایق آنها، بخشی از محتوا را انتخاب و برجسته میکنند.
این مدرس دانشگاه گفت: در شرایطی که جنگهای ترکیبی و عملیات روانی به یکی از ابزارهای اثرگذاری بر جوامع تبدیل شده است، افزایش آگاهی عمومی نسبت به سازوکار الگوریتمها اهمیت ویژهای دارد. هر کاربر در صورت ناآگاهی میتواند تحت تأثیر این جریانها قرار گیرد، اما با افزایش سواد رسانهای و شناخت سازوکارهای فریب، میتواند به عاملی برای افزایش تابآوری جامعه در برابر عملیات شناختی تبدیل شود.
حدادی در پایان تأکید کرد: نخستین گام برای مقابله با جنگ شناختی، شناخت میدان و سازوکارهای آن است؛ چراکه کاربری که بداند محتوای مقابل او چگونه انتخاب و تقویت میشود، کمتر در معرض فریب، دستکاری ادراک و شکلدهی هدفمند به افکار قرار خواهد گرفت.
الهه ملاحسینی _ تیتر۱
انتهای خبر/
