در سال‌های اخیر در افغانستان صفحات زیادی در شبکه‌های اجتماعی پیدا شده‌اند که از آن برای نشر دیدگاه‌های تند، قومی، سیاسی یا مذهبی استفاده می‌شود. آنچه تاسف‌برانگیز است این‌که بسیاری از مردم عادی در پخش و دیده‌شدن همان پیام‌های نفرت‌آمیز سهم دارند، بدون آن‌که خودشان بدانند. در این نوشته به نقش ناخواسته مخاطب در بازتولید ادبیات نفرت در فضای دیجیتال می‌پردازیم. فضایی که اکثر کاربران بدون این‌که بدانند ادبیات نفرت را بازتولید می‌کنند.
شبکه‌های اجتماعی مانند فیسبوک، انستاگرام و تیک‌تاک که در میان کاربران افغان از شهرت زیاد برخوردار است، برای هرکسی فرصتی فراهم کرده تا صدای خود را آزادانه با دیگران شریک سازد. هرکسی می‌تواند در فیسبوک، ایکس (توییتر سابق) یا تیک‌تاک چیزی بنویسد، تصویری بگذارد یا دیدگاهی را شریک سازد. در ظاهر، این آزادی بیان است اما در عمل، گاهی همین آزادی به میدان پخش نفرت، دروغ و افراط‌گرایی تبدیل می‌شود. آنچه در این روند از دید ما پنهان می‌ماند، شیوه کارکرد الگوریتم‌های موجود در شبکه‌های اجتماعی است. این الگوریتم‌ها محتوایی را دوست دارند که باعث تولید واکنش (لایک، کامنت، بازنشر) شود. تحقیقات علمی نشان می‌دهد که محتوای تند، خشم‌آور یا ترس‌برانگیز معمولاً بیشتر واکنش می‌گیرد. به همین دلیل، بازنشرِ یک پست نفرت‌پراکن حتا با نیت محکوم‌کردن نیز می‌تواند به دیده شدن آن کمک کند و در نتیجه پیام نفرت را گسترش دهد.
فرض کنید یک نفر در فیسبوک پیامی تند علیه یک گروه قومی یا مذهبی یا شخصیتی که دارای پایگاه مردمی است نشر می‌کند. یک کاربر دیگر آن پست را می‌بیند و می‌خواهد بگوید «این خیلی وحشیانه است!، یا این نشان‌دهنده تعصب است، یا این …»؛ پس پست را بازنشر می‌کند تا دیگران را از وجود این پیام آگاه سازد. به عبارت ساده‌تر با این کار خود می‌خواهد در برابر تاثیرات مخرب آن پست ایستاده‌گی کرده و دیگران را نیز وادار کند که در برابر آن موضع بگیرند. اما هر بار که آن پست بازنشر می‌شود، الگوریتم‌های فیسبوک آن را «محبوب» یا «مورد توجه» تشخیص داده به کاربران بیشتری نشان می‌دهند. در تحقیق مشترکی که از سوی محققان دانشگاه‌های کرنل، واشنگتن و کالیفورنیا تحت عنوان «تعامل، رضایت کاربر و تقویت محتوای تفرقه‌برانگیز در رسانه‌های اجتماعی» انجام شده، آمده است که الگوریتم‌ها بر اساس ترجیحات کاربران، یعنی تعامل کاربر مانند کلیک‌ها، اشتراک‌گذاری‌ها و لایک‌ها، بهینه‌سازی می‌شوند. یعنی شما وقتی به یک پست تفرقه‌برانگیز یا نفرت‌پراکن واکنش نشان می‌دهید؛ مثلاً لایک می‌کنید، بازنشر می‌کنید یا کمنت می‌گذارید، الگوریتم‌های فیسبوک آن پست را به‌عنوان یک پست محبوب تشخیص داده و مخاطبان بیشتری را به سوی آن پست جذب می‌کند. بر اساس نتایج این تحقیق، اگر محتوای پست یا کمنت شما احساسی و تفرقه‌برانگیز باشد، الگوریتم‌ها سریع‌تر و گسترده‌تر آن را تقویت می‌کند.
عامل دیگر که باعث می‌شود ناخواسته در بازتولید ادبیات نفرت در شبکه‌های اجتماعی نقش بازی کنیم این است که احساس می‌کنیم از نظر اخلاقی مسوولیت داریم تا در برابر محتوای نفرت‌پراکن موضع بگیریم. در سال‌های اخیر، بارها شاهد بوده‌ایم که یک جمله یا ویدیوی جنجالی در فیسبوک یا تیک‌تاک، ناگهان در صدها صفحه منتشر می‌شود. در چنین حالت‌ها خیال می‌کنیم با بازنشر یک پست نفرت‌انگیز و نوشتن چند خط نقد تند علیه آن، در حال روشنگری و ایستاده‌گی در برابر ترویج نفرت هستیم؛ غافل از این‌که در زمین بازی الگوریتم‌ها، ما ناخواسته به بلندگوی همان صدایی تبدیل می‌شویم که قصد خاموش کردنش را داریم. وقتی شما محتوای نفرت‌پراکن را حتا با نیت محکوم کردن در صفحه‌تان به اشتراک می‌گذارید، عملاً آن زباله ذهنی را از یک جمع محدود بیرون می‌کشید و با دستان خود جلو چشم هزاران نفر دیگر قرار می‌دهید که شاید روح‌شان هم از ماجرا خبر نداشت. الگوریتم‌های شبکه‌های اجتماعی، خشم و انزجار اخلاقی شما را نمی‌فهمند. آن‌ها فقط تعداد لایک، کمنت و بازنشر را می‌بینند و به پاداش این توجه، آن نفرت را با ضریب بیشتری در حلقه‌های جدید تکثیر می‌کنند. در تحقیقی که در سال ۲۰۱۷ منتشر شد، ویلیام بردی و همکارانش در دانشگاه نیویورک دریافتند که محرک اصلی برای بازنشر یک مطلب در شبکه‌های آنلاین، استدلال منطقی نیست، بلکه بار احساسی کلمات است. داده‌های این تحقیق نشان می‌دهند که وجود هر یک کلمه با بار اخلاقی-احساسی در یک پیام، شانس انتشار آن را تا ۲۰ درصد افزایش می‌دهد. در پاسخ به این پرسش که مخاطبان باید چه کار کنند تا از افتادن به دام بازتولید ادبیات نفرت در فضای دیجیتال جلوگیری کنند، در نوشته‌های بعدی پرداخته خواهد شد.
