‫[نوارِ پلیس - ورود ممنوع]
‫می‌دونم که تمام مجلس از حادثه‌ی بسیار جدی
‫که در ساوت‌پورت رخ داده ‫بسیار نگران خواهد شد.
‫یک پسر ۱۷ ساله اهل بنکس در لانکاشر،
‫که اصالتاً اهل کاردیفه،
‫به اتهام قتل دستگیر شده.
‫[خبر فوری] ‫[ظاهراً مهاجم یک مهاجرِ مسلمان بوده]
‫[انتشار]
‫[مهاجم حمله با چاقو مهاجر بوده]
‫به محض این که اون توییت‌ها رو دیدم،
‫که در مورد هویتِ مهاجم ‫اطلاعات غلط پخش می‌کردن،
‫دقیقاً می‌دونستم قراره چه اتفاقی بیفته. ‫[مارک باروز - عضو تیم ساماندهی توییتر]
‫به مسجد حمله کنید!
‫خشونت بعد از پخش شایعاتِ دروغ ‫در مورد مظنون آغاز شد...
‫[الان بهترین زمان بستنِ مرزهاست!]
‫شبکه‌های اجتماعی راهی هستن که مردم ‫از طریقش بُهت و خشمشون رو ابراز می‌کنن.
‫یه مهاجرِ بدون مدارک تصمیم گرفته ‫به کلاس رقص تیلور سوئیفت بره...
‫وقتی نظراتِ سمّی فراگیر میشن، ‫می‌تونه باعث آسیب‌های واقعی بشه.
‫ولی ساوت‌پورت جدیدترین مورد ‫در زنجیره‌ای طولانی از رویدادها بود.
‫ما دیدیم که شبکه‌های اجتماعی ‫تأثیر زیادی دارن.
‫بارها و بارها.
‫و این به الگوریتم بستگی داره.
‫یه جریانِ توقف‌ناپذیر محتوا.
‫و اون دسته از ما که می‌فهمیم ‫این چطور کار می‌کنه
‫باید جلوی اتفاق افتادنش رو بگیریم.
‫جهانِ ما به طور فعال در حال بازسازیه.
‫[مقر ام‌آی۶، بریتانیا]
‫دروغ سریع‌تر از حقیقت پخش میشه،
‫جوامع رو متفرق و واقعیت رو تحریف می‌کنه.
‫و با از بین رفتن اعتماد، ‫حسِ مشترک ما از حقیقت هم از بین میره.
‫چالشِ تعیین‌کننده‌ی قرن ۲۱ صرفاً این نیست
‫که چه کسی قوی‌ترین ‫فناوری‌ها رو در اختیار داره،
‫بلکه اینه که چه کسی با درایتِ بیشتری ‫اونا رو هدایت می‌کنه.
‫شما این پلتفرم‌ها رو ساختید،
‫و حالا ازشون سوءاستفاده میشه.
‫برای منفعت و پوله.
‫نفوذ و قدرت.
‫مردم نمی‌فهمن دارن چه هیولایی رو تغذیه می‌کنن.
‫وظیفه‌ی ما میشه که حرف بزنیم.
‫[درون ماشین خشم]
‫- راستی می‌خوای به دوربین نگاه کنم؟ ‫- آره.
‫آماده؟ کف بزنم؟
‫از وقتی که یادم میاد، ‫عاشق شبکه‌های اجتماعی بودم.
‫من با فیس‌بوک بزرگ شدم.
‫بخش مهمی از ارتباط برقرار کردن ‫با دوست‌هام بود.
‫بدترین اتفاقی که می‌افتاد ‫این بود که می‌فهمیدی
‫به یه مهمونی یا شب‌نشینی دعوت نشدی.
‫الان دیگه اون حس رو نداره.
‫الان حس خیلی متفاوتی داره.
‫[ماریانا اسپرینگ شرِ مطلقه]
‫فیدم پر از یه سری محتوای سمّی ‫و سرشار از خشمه،
‫مردم توی روم جیغ می‌زنن،
‫و من نمی‌تونم نگاه نکنم ‫چون کارم اینه.
‫به عنوان خبرنگار تحقیقات ‫شبکه‌های اجتماعی بی‌بی‌سی،
‫بخشی از کارم اینه که سعی کنم بفهمم ‫چرا این همه از این چیزها
‫توی این پلتفرم‌ها وجود داره.
‫ولی گرفتنِ جواب‌های درست ‫از شرکت‌ها فوق‌العاده سخته.
‫و افراد کمی که پیش قدم میشن ‫خطرِ بزرگی رو به جون می‌خرن.
‫[سان فرانسیسکو]
‫اگه به عنوان یه افشاگر ظاهر شی ‫و ازت اسم برده شه،
‫یه داغ ننگ روی پیشونیت می‌خوره.
‫پس، هدفم اینه که ازم شکایت نشه.
‫با افشاگری، می‌دونم که آینده‌ی کاری‌ام ‫توی شرکت‌های بزرگ فناوری ‫[مت موتیل - محقق ارشد فیس‌بوک و متا]
‫الان احتمالاً در حد صفره.
‫نشون دادن این بهم چه حسی داره؟
‫یه جورایی وحشتناکه.
‫اوه، وای، کلی از اینا داری.
‫حتماً خیلی طول کشیده ‫که اینا رو مستند کنی.
‫آره، آره.
‫یکم طول کشیده.
‫من چهار سال توی متا بودم،
‫پس اون طرفِ پرده رو دیدم
‫و بعضی از مشکلات رو بیشتر ‫از اونی که دلم می‌خواد می‌دونم.
‫من یه سری اسناد تحقیقاتی سطح بالاتر دارم ‫که نشون میدن...
‫همه جور آسیبی به کاربران ‫این پلتفرم‌ها وارد میشه.
‫اگه این شرکت‌ها قصد ندارن ‫از مردم محافظت کنن،
‫وظیفه‌ی من و افرادی مثل من میشه...
‫به عنوان افرادی که واقعاً می‌فهمیم ‫این سیستم‌ها چطور کار می‌کنن...
‫که حرف بزنیم.
‫خب، خیلی از اسکرین‌شات‌هایی که اینجا دارم
‫روشِ ما برای رده‌بندی محتواست.
‫الگوریتم ساخته شده که ‫چیزهایی رو در اولویت قرار بده
‫که بیشترین تعامل رو می‌گیرن، ‫و محتوای سیاسی که
‫بیشترین تعامل رو می‌گیره ‫اغلب اطلاعاتِ غلطه.
‫اغلب خیلی سمّیه.
‫یعنی مردمی که داد می‌زنن ‫و باهم بدرفتاری می‌کنن.
‫چقدر باید نگرانِ الگوریتم باشیم،
‫از نظر نقشی که در تحمیل ‫چنین محتوایی ایفا می‌کنن؟
‫مردم نمی‌خوان این محتوا رو ببینن.
‫ولی مردم نمی‌دونن که اونا تصمیم می‌گیرن ‫این محتوا رو بهت تحمیل کنن
‫با این که میگی نمی‌خوایش.
‫و عواقبش واقعاً خیلی بده.
‫محصولاتِ متا توسط بیش از ۳ میلیارد نفر ‫استفاده میشن.
‫و هر چقدر مدت بیشتری بتونن ‫توی برنامه‌هاشون نگهت دارن،
‫تبلیغات بیشتری می‌فروشن ‫و پول بیشتری در میارن.
‫ولی خیلی مهمه که این کارها رو ‫درست انجام بدن،
‫چون وقتی این کارو نمی‌کنن، ‫اتفاقات خیلی بدی می‌افته.
‫[فوریه‌ی ۲۰۱۸ - سریلانکا]
‫در سال ۲۰۱۸، فیس‌بوک مثل طوفان ‫سریلانکا رو در بر گرفت.
‫کل این خیابون پر از فروشگاه‌های گوشی ‫در هر دو طرفشه،
‫و فروشگاه پشت فروشگاه پشت فروشگاهه.
‫و مردم از سراسر شهر به اینجا میان،
‫که به قیمتِ خوب گوشی بخرن.
‫فیس‌بوک یه برنامه داشت که با هر گوشی ‫که فروخته می‌شد،
‫فیس‌بوک رو مجانی دریافت می‌کردی، ‫داده‌ات رو مصرف نمی‌کرد. ‫[دکتر سانجانا هاتوتوا - محقق شبکه‌های اجتماعی]
‫پس یه جورایی تبدیل به پلتفرم پیش‌فرض شد.
‫یه حسِ واقعی اجتماعی پیدا می‌کردی،
‫یه حسِ... تعلق.
‫زیرِ اون ظاهر فریبنده، ‫فیس‌بوک تبدیل به روشِ غالبی شد
‫که بدترین عناصر جامعه ازش ‫برای شعله‌ور کردن نفرت استفاده می‌کردن.
‫سریلانکا با اکثریت جمعیت بودایی سینهالی ‫شناخته میشه.
‫ما قرن‌ها جمعیتِ مسلمان داشتیم.
‫ولی گروه کوچکی از راهب‌های بودایی هستن...
‫که از فیسبوک برای هدف قرار دادن مستقیم ‫جامعه‌ی مسلمانان سریلانکا استفاده کردن.
‫من واقعاً پیگیر این بودم که چطور از فیس‌بوک ‫به عنوان سلاح استفاده میشه.
‫و یه ویدیو را از یه مرد مسلمان دیدم.
‫کسایی که فیلم رو ضبط می‌کنن ازش می‌پرسن
‫آیا توی غذایی که اونا می‌خورن ‫قرص ناباروری می‌ریزه یا نه.
‫و اون گیج شده.
‫اون زبانِ سینهالی رو خوب متوجه نمیشه.
‫توی اون قسمت‌های کشور،
‫مردم به زبانِ تامیل حرف می‌زنن، نه سینهالی.
‫ولی صداها اینطور برداشت می‌کنن ‫که این یه مدرک بود، خب؟
‫یعنی، مردی اینجا بود که ‫به این حقیقت اعتراف می‌کرد
‫که جامعه‌ی مسلمان داشت ‫زنان بودایی سینهالی رو نابارور می‌کرد.
‫بنابراین، ظرف ۴۸ ساعت این ویدیو ‫هزاران بار به اشتراک گذاشته شد.
‫مثل یه...
‫نفرتِ جوشان بود.
‫[مولوی مرشد - امام جماعت]
‫جمعیت از خیابون اومدن.
‫از اون طرف اومدن.
‫خیلی‌هاشون سلاح دستشون بود.
‫همه توی خونه‌هاشون بودن.
‫اونا همه چی رو سوزوندن.
‫اوباش بودایی خانه‌ها ‫و مغازه‌ها را به آتش کشیدند،
‫و مسلمانان جوان رو کشتن.
‫به سادگی یکی از بدترین خشونت‌های ضدمسلمان بود
‫که سریلانکا تا به حال دیده بود.
‫فیس‌بوک مثل بادی بود که ‫بذر نژادپرستی را گسترش می‌داد.
‫چیزی که توی پلتفرم بود ‫باعث شد مردم باورش کنن
‫و در نتیجه اقدام کنن.
‫و من هیچ راهی برای تماس گرفتن نداشتم.
‫هیچکس نبود که باهاش تماس بگیرم.
‫ما کاملاً درمونده بودیم.
‫وقتی به مطالبی که مت از داخل فیسبوک ‫به اشتراک گذاشته نگاه می‌کنم،
‫به نظرم دیوونه‌کننده میاد.
‫فکر کنم این سند یکی از افشاگرانه‌ترین‌هاست،
‫چون یه تحقیقات داخلی ‫به رهبری یه داده‌شناسه.
‫اساساً در مورد نحوه‌ی پاداش دادن فیس‌بوک ‫به خشم عمومی صحبت می‌کنه
‫و این که اگه کامنت‌های منفی بیشتری بگیری،
‫کلیک‌های بیشتری می‌گیری.
‫و این قسمتی هست که ‫در مورد انگیزه‌هایی صحبت می‌کنن
‫که شرکت‌ها ایجاد می‌کنن، ‫در اصل میگن:
‫«خشم جلب توجه می‌کند.»
‫و بعدش توضیح میدن و میگن: ‫«مجموعه فعلی مشوق‌های مالی
‫که الگوریتم‌های ما خلق می‌کنند ‫به نظر نمی‌رسد با رسالت ما همسو باشند.»
‫مثلاً، رسالتِ اونا انجام کارهای خوب در دنیاست،
‫و با این حال اون سیستم‌های پیشنهاد، ‫اون الگوریتم‌ها،
‫در حال انتشار محتوایی هستن که ‫از واکنش‌های منفی تغذیه می‌کنه.
‫و بنابراین می‌تونید ببینید ‫چطور روی کاربرها تأثیر میذاره.
‫و اونا اساساً خیلی واضح توضیحش میدن.
‫اینطور نیست که...
‫اینطور نیست که از کسی پنهان باشه. ‫یه جورایی همه‌مون این رو می‌دونیم.
‫ولی مسئله اینه که اونا هم می‌دونن.
‫و سریلانکا یه اتفاق یکباره نبود.
‫تقریباً تا جایی که چشم کار می‌کنه، ‫موجی از انسان‌ها در راهه.
‫اونا با خودشون چیزهایی رو ‫حمل می‌کنن که تونستن
‫از روستاها و خونه‌هاشون ‫نجات بدن که میگن
‫توسط ارتش میانمار به آتیش کشیده شدن.
‫اون بچه کوچولو رو توی سبد ببینید.
‫مثلاً اتفاقی که توی میانمار افتاد رو ‫در نظر بگیرید.
‫فیس‌بوک به طور فعال ‫نفرت‌پراکنی می‌کرد.
‫و فقط این جاها نبودن.
‫این بخشی از الگویی بود که ‫در سراسر جهان در حال وقوع بود.
‫مردم بر اساس چیزهایی که ‫توی فیس‌بوک می‌دیدن، عمل می‌کردن.
‫هیچ اطلاعات دیگه‌ای وجود نداشت ‫که اونا بهش پاسخ بدن.
‫و فکر کنم به همین دلیل فیس‌بوک ‫تقریباً مجبور شد
‫بیاد و معذرت خواهی کنه. ‫چون هیچ‌جوره نمی‌شد گفت:
‫«خب، صبر کنید، این به ما ربطی نداشت.»
‫کاملاً به فیس‌بوک مرتبط بود.
‫باید حرکت کنیم، دوستان.
‫[آوریل ۲۰۱۸]
‫مراقب باشید.
‫[آوریل ۲۰۱۸]
‫[مجلس سنای آمریکا]
‫[آقای مارک زاکربرگ]
‫اخیراً، محققان سازمان ملل متحد، ‫فیس‌بوک را به ایفای نقش
‫در تحریک نسل‌کشی احتمالی ‫در میانمار متهم کردند.
‫اتفاقی که توی میانمار می‌افته ‫یه فاجعه‌ی وحشتناکه،
‫- و ما باید بیشتر... ‫- همه با این موافقیم.
‫من به این دلیل تو متا استخدام شدم که ‫شرکت روابط عمومی خیلی بدی داشت.
‫یعنی، رسواییِ کمبریج آنالیتیکا بود.
‫دخالتِ روسیه تو انتخابات ۲۰۱۶ بود.
‫و از جاهایی مثل میانمار یا سریلانکا،
‫اونا به اندازه‌ی کافی سرمایه‌گذاری نمی‌کردن،
‫و خیلی از نفرت‌پراکنی‌ها از قلم می‌افتادن.
‫مورد توجه قرار نمی‌گرفتن.
‫ما به اندازه کافی دیدگاه گسترده‌ای ‫نسبت به مسئولیت خود نداشتیم،
‫و این اشتباه بزرگی بود
‫و این اشتباه من بود، ‫و معذرت می‌خوام.
‫بنابراین مارک میلیاردها خرج کرد
‫تا یه سری متخصص استخدام کنه
‫و تیم‌های تخصصی صحت‌سنجی ایجاد کنه.
‫شرح وظایف ما کاهش آسیب به کاربران، ‫در مقیاس جهانی بود.
‫گفتم: «اوه، این رویای منه.
‫این حاصل زحماتِ عمرمه.»
‫من فرصتش رو داشتم که ‫به فیس‌بوک ملحق شم،
‫که شخصاً اونجا رو ببینم، ‫[لینا غزال - مدیر سیاسی فیس‌بوک و متا]
‫از داخل.
‫و بنابراین فکر می‌کنم واقعاً فرصتی بود ‫که یکبار توی عمرت پیش میاد.
‫افراد متعهد زیادی بودن که می‌خواستن ‫کار درست رو انجام بدن.
‫می‌دونید، من عمیقاً به شفافیت اعتقاد دارم.
‫و فکر می‌کنم یکی از راه‌حل‌ها ‫به اشتراک گذاشتن داده‌های بیشتری ‫[برندون سیلورمن - مدیر عامل کراودتنگل]
‫با دنیای بیرونه.
‫و بنابراین کراودتنگل رو ساختم.
‫یه داشبورد آنلاین که می‌تونستی واردش شی.
‫کاری که ما کردیم باعث شد ‫خیلی راحت بشه دید چه داستان‌ها
‫و چه محتوایی اون روز توی فیس‌بوک ‫راست یا دروغ بود.
‫اگه به خاطر اون داشبورد کراوتنگل نبود،
‫نمی‌شد اونا رو از هم تشخیص داد.
‫مارک خیلی بهش علاقه داشت ‫و توش شریک شد
‫برای اطمینان از این که فیس‌بوک ‫نقشِ مثبتی توی دنیا داشته باشه.
‫رسالتِ جدید فیس‌بوک چیه؟
‫خب، رسالتِ جدید ما اینه که ‫مردم دنیا رو به هم نزدیک‌تر کنیم.
‫وقتی مارک یه تغییر اساسی الگوریتم به نام ‫تعاملاتِ اجتماعی معنادار رو اعلام کرد،
‫در واقع، حس من این بود که یه علاقه‌ی ‫واقعی و خالصانه برای تلاش برای ساختن
‫یه الگوریتم بهتر در اون سال‌ها وجود داشت.
‫یه بازنگری اساسی در روشِ اساسی
‫برای رده‌بندی محتوا توی فید صورت گرفت.
‫که دوستان و خانواده رو نسبت به محتوای مدنی ‫و سیاسی و اخبار در اولویت قرار می‌داد.
‫اونا گفتن: «آره، از قرار معلوم مردم ‫روی محتوای سیاسی کلیک می‌کنن،
‫ولی در واقع بعد از یه مدت ‫حالشون بدتر میشه،
‫و بنابراین میزانِ سیاست موجود ‫توی فید رو کاهش می‌دیم.»
‫شغلم مستلزم اجرای آزمایش‌هایی در مقیاس بزرگ
‫گاهی روی صدها میلیون نفر بود،
‫که توشون نحوه‌ی رده‌بندیِ محتوا ‫توی فید رو تغییر می‌دادیم.
‫و این آدم‌ها اغلب خبر نداشتن ‫که توی آزمایش‌ها هستن.
‫شاید فقط یه روز حسِ متفاوتی ‫نسبت به فیدت داشته باشی.
‫پس، وارد میشی و بیشتر محتوای مدنی توی فیدت
‫شاید نباشن یا سیستم‌های محافظتی ‫در برابر محتوای مضر
‫شاید خاموش شده باشن.
‫و چیزی که فهمیدم این بود ‫که وقتی منابع خبری موثق
‫و قابل اطمینان رو حذف می‌کنی،
‫آخرش عموی من براتون می‌مونه
‫که دوست داره تئوری‌های توطئه منتشر کنه.
‫این تغییر که قرار بود آدم‌ها رو ‫به هم نزدیک‌تر کنه
‫و بهشون کمک کنه ارتباط برقرار کنن ‫در واقع تأثیر برعکس داشت،
‫که در واقع محتوایی رو تبلیغ می‌کرد ‫که باعث دودستگی بین مردم می‌شد
‫و بیشتر تفرقه‌افکنی می‌کرد
‫و اختلافاتِ بیشتری بین مردم ایجاد می‌کرد.
‫پس با این که عالی به نظر می‌اومد، ‫ما با کاهش محتوای مدنی
‫بازدیدهای اطلاعات غلط رو ‫بیش از دو برابر کردیم.
‫هدف اینه؟ نه، هدف این نیست.
‫این برعکسِ هدفه.
‫خب، ما در این مورد هشدار دادیم
‫توی سندی که به تیم تحویل دادیم،
‫و برای زاکربرگ خونده شده بودن ‫قبل از اجرای
‫این آزمایش‌های گسترده و...
‫همش نادیده گرفته شد.
‫ما خیلی جدی هشدار دادیم که ‫این قرار نیست خوب پیش بره.
‫و بعدش خوب پیش نرفت.
‫شهرهای بزرگ در سراسر کشور ‫بیشتر شبیه شهر ارواح شده‌اند.
‫مغازه‌ها تعطیل شدن، خیابان‌هایی که معمولاً ‫شلوغ بودن، حالا به طرز عجیبی ساکت شدن
‫اولش به نظر شبیه ‫هر رویداد دیگه بود.
‫و بعدش ناگهان یه جهشِ عظیم ‫از نظر حجم داشتیم.
‫مردم زمان زیادی رو ‫توی پلتفرم‌های آنلاین می‌گذروندن،
‫جایی که تمام اطلاعات تازه بودن،
‫و ما نمی‌تونستیم به طور واضح تشخیص بدیم ‫حقیقت دقیقاً چیه.
‫موارد جدید ابتلا و مرگ و میر ‫مرتبط با ویروس کرونا
‫همچنان در سراسر جهان رو به افزایش است.
‫چیزی که پاندمی ایجاد کرد ‫یه طوفانِ عالی بود،
‫چون مردم توی خونه گیر افتاده بودن ‫و زمانِ بیشتری آنلاین می‌گذروندن.
‫و الگوریتم‌ها، سیستم‌های پیشنهاد،
‫داشتن تأثیرگذارتر از همیشه می‌شدن.
‫اونا با واکسن‌هاشون میلیون‌ها نفر رو می‌کشن.
‫فعلاً هیچ واکسنی که روی هر ویروس آر‌ان‌ای ‫مؤثر باشه در برنامه نیست.
‫برام خیلی کلافه‌کننده بود.
‫بیشتر وقتم توی متا صرف این می‌شد ‫که چطوری به سرعت
‫تئوری‌های توطئه ‫و اطلاعات ضد و نقیض رو شناسایی کنم.
‫الان، دارن به شما دروغ میگن!
‫همیشه تشخیص اینکه کدوم یک از اونا به شورش ‫یا خشونت منجر میشه، دشوار بود.
‫هیچ‌کدوم از شما از روز اول ‫حقیقت رو گزارش نکردید.
‫شما توی جرائم علیه بشریت دست دارید.
‫فقط دونستن این که امکانش هست که اتفاق بدی
‫ممکن بوده بیفته و شاید یه فرصتی ‫برای جلوگیری ازش بوده...
‫این برام واقعاً تکان‌دهنده‌ست.
‫کابوسی که پشتِ مغزم جا خوش کرده.
‫قطعاً فضاییه که برام پراسترسه.
‫اطلاعات غلط بیداد می‌کنه...
‫به شما دروغ میگن!
‫اونا میلیون‌ها نفر رو می‌کشن...
‫اون شب که توی شورش‌ها بودی ‫چه حسی داشت؟
‫زمان قرنطینه، هیچ نوری توی شهر نبود.
‫همه‌جا تعطیل شده بود.
‫و به عنوان یه دی‌جی، ‫این شرایط برام ویرانگر بود.
‫خیلی احساس تنهایی می‌کردم.
‫گاهی حتی می‌خواستم گریه کنم.
‫یکم کلافه‌تر از قبل شده بودم.
‫ما می‌خواستیم آزادی‌مون رو پس بگیریم ‫و به حالت عادی برگردیم.
‫پس، وقتی یه پست توی گروه فیس‌بوک دیدم
‫که ضد دولت هلند بود،
‫من رو کنجکاو کرد.
‫اونا هم برای آرمانِ من کار می‌کردن.
‫اولین حضورم توی گروه بود.
‫احساس می‌کردم یه خانواده‌ی جدید پیدا کردم.
‫ما هر روز در تماس بودیم، ‫گاهی حتی شب‌ها هم ارتباط داشتیم.
‫[مردمِ سالم باید آزاد زندگی کنند.]
‫کل پاندمی مردم رو به گروه‌های مختلفی ‫تقسیم کرده بود.
‫ولی بعدش، همیشه افراد کمی هستن
‫که تأثیر زیادی روی بقیه‌ی مردم دارن.
‫اونا قدرت دارن، قدرتِ ذهنی.
‫[وقتِ شورش‌های روزانه‌ی بزرگ در سراسر هلنده]
‫براشون تقریباً یه روتینِ روزانه بود
‫که نفرت‌پراکنی کنن و منفی‌باف باشن.
‫و تنش رو به افزایش بود.
‫احساس می‌کردم که یه اتفاقی داره می‌افته.
‫گفتگوها خشن‌تر و از کنترل خارج‌تر شدن.
‫و مردم واقعاً می‌خواستن یه کاری ‫در موردش انجام بدن.
‫بنابراین برای من جنگیدن برای آزادی
‫حتی از جونِ خودم هم مهم‌تر بود.
‫قبل از شروع اعتراض، ‫فکر می‌کنم همه‌شون هیجان‌زده بودن،
‫بدنشون پر از آدرنالین بودن،
‫و مردم از قبل شروع به تحریک هم کرده بودن.
‫توی یه لحظه‌ی خاص، ‫واقعاً ترسیده بودم،
‫چون جوری که بعضی‌ها نگاه می‌کردن، ‫با نفرت و پرخاشگاری،
‫انگار آماده بودن که حتی یکی دیگه رو بکشن.
‫یا خدا!
‫من پسرهای خیلی جَوون، ‫شاید ۱۳ یا ۱۴ ساله می‌دیدم
‫که به ماشین‌های پلیس سنگ می‌زدن.
‫کل شهر عوض شده بود،
‫و انگار مردم تبدیل به حیوون شده بودن.
‫در عرض ۲۰ دقیقه ‫تبدیل به یه منطقه‌ی جنگی شده بود.
‫اونا با استفاده از شبکه‌های اجتماعی ‫همدیگه رو دیوونه می‌کنن.
‫از این مطمئنم.
‫اون روز بدترین روزِ عمرم بود.
‫اینجا جاییه که من رستوران داشتم.
‫و اونا با وسایل آتیش‌بازی سوزوندنش.
‫تیراندازی هم شد.
‫حتماً خیلی ترسناک بوده.
‫- یعنی، حتی وقتی رفتید، حتماً ترسناک بوده. ‫- بله، البته!
‫گریه می‌کردم و فکر می‌کردم ‫فردا چیزی برای کار کردن نمونده.
‫پاندمی نشونه‌ی خیلی آشکاری بود که فیس‌بوک
‫خیلی بزرگ‌تر از مارک زاکربرگ شده.
‫اون یه جورایی کنترل رو از دست داده بود.
‫فضای مجازی در واقع ‫بین مردم تفرقه می‌انداخت،
‫مخصوصاً توی گروه‌های فیس‌بوک.
‫مردم ناگهان از اعدام دکترها و پرستارها ‫و حمله به مردم حرف می‌زدن.
‫اونا خیلی پرشورن...
‫خب، الان با یه قوطی زدن پشتِ سرم.
‫خیلی درد داشت.
‫مردم در شهرهای سراسر اروپا ‫خواستارِ مجازات و عدالت بودن..
‫خشونتِ مرتبط با اتفاقاتی که ‫در شبکه‌های اجتماعی می‌افتاد،
‫که توی جاهایی مثل سریلانکا شروع شده بود،
‫داشت به خونه نزدیک و نزدیک‌تر می‌شد.
‫آیا حاضرید بپذیرید که فیس‌بوک ‫در مشکلات جامعه،
‫دوقطبی شدن جامعه و موارد دیگه نقش داره؟
‫داره روی آتشِ شعله‌ور جلومون بنزین می‌ریزه؟
‫خب، ببینید، به وضوح برای پلتفرمی که
‫یک سوم جمعیت جهان توش فعالیت دارن،
‫البته که خوب، بد و زشتی بشریت رو می‌بینید
‫که توی پلتفرمِ ما هم ظاهر میشه.
‫وظیفه ما اینه که بدی‌ها رو کم کنیم، ‫شدتش رو کاهش بدیم و خوبی‌ها را تقویت کنیم.
‫این اسناد تحلیل کاربران از داخل فیس‌بوک
‫مربوط به دوره‌ای هستن که این شرکت ‫از این استدلال جدید استفاده می‌کرد.
‫ما مسئول همه چی نیستیم.
‫ما «آینه‌ای» هستیم که ‫جامعه رو انعکاس می‌دیم.
‫این اسناد اساساً در مورد چگونگی فعال شدن
‫فرآیندهای روانشناختی کاربران توسط ‫انواع خاصی از محتوا صحبت می‌کنن.
‫به خصوص، میگن این اتفاق زمانی می‌افته ‫که کاربران محتوای حساس رو می‌بینن
‫که شامل محتواییه که خطر بالایی ‫برای آسیب رسوندن
‫به افراد و تحریک خشونت داره.
‫بنابراین، شما اساساً اذعان می‌کنید ‫که نحوه‌ی ساخت پلتفرم‌ها
‫و نحوه‌ی استفاده از الگوریتم‌ها ‫و سیستم‌های پیشنهاددهنده،
‫در نهایت منجر به این آسیب‌ها میشه.
‫و این می‌تونه پیامدی توی دنیای واقعی ‫برامون داشته باشه.
‫عموماً احساس می‌شد که رهبری ‫مطمئن نبود جواب چیه؟
‫ولی کم‌کم به نوعی حالت تدافعی تبدیل شد.
‫«ما مسئول تمام دوقطبی‌سازی‌های جامعه نیستیم.»
‫هیچکس نمیگه شما مسئول ‫تمام دوقطبی‌سازی‌ها هستید.
‫فقط می‌گیم بهش کمک می‌کنید،
‫و احتمالاً به روش‌هایی که لزومی نداره.
‫و اگه فقط چندتا تغییر ایجاد کنید،
‫شاید دیگه به اون اندازه بهش کمک نکنید.
‫و آره، فکر کنم این دلسردکننده بود،
‫چون به نظر میاد یه فرصتی بود که
‫واقعاً درون‌نگرانه بود.
‫اگه اسمِ اپلیکیشن تیک‌تاک رو نشنیدید، ‫به زودی خواهید شنید.
‫یکی از سریع‌ترین برنامه‌های شبکه‌های اجتماعیه
‫که تونسته از صفر به بیش از ۲۰۰ میلیون ‫کاربر ثبت‌نام‌شده برسه.
‫۶۰ میلیون کاربر فعال روزانه در سراسر جهان، ‫در مدت سه سال.
‫بنابراین رشدش فوق‌العاده بود.
‫خیلی خوش‌شانس بودم ‫که به تیک‌تاک ملحق شدم.
‫شغلم بهبود دادن الگوریتم بود، ‫[روفان دینگ - مهندس یادگیری ماشین]
‫تا بتونی ۵۰ ویدیو رو پشت سر هم ببینی،
‫شاید ظرف پنج یا ده دقیقه.
‫الگوریتم تیک‌تاک می‌تونه اطلاعاتِ ‫خیلی بیشتری ازت جمع کنه.
‫کسِ دیگه‌ای یه ذره حس بدی پیدا نکرده
‫که الگوریتمِ تیک‌تاک واسه صفحه‌ی «برای شما» ‫چقدر دقیق میشه؟
‫از وقتی که فیس‌بوک در اواسط اکتبر ‫به متا تغییر نام داد
‫واقعاً برای پیدا کردن جایگاهش یا جلب توجه ‫در اینجا به مشکل خورده.
‫رشد کاربران متوقف شده یا رو به کاهشه.
‫متا رو به افول بود، چون تیک‌تاک ‫رسماً داشت بازارش رو می‌گرفت.
‫یعنی، هیچی شکی توی ذهنم نیست،
‫مارک زاکربرگ،
‫برای اولین بار توی عمرش،
‫دیشب آسیب‌پذیر به نظر می‌اومد.
‫راستش یادمه ترسِ زیادی از تیک‌تاک بود.
‫به نظر می‌اومد مارک واقعاً نگران بود ‫که اونا از متا سبقت بگیرن.
‫منشِ کلی در اصل حرکتِ سریع ‫و شکستن مرزهاست.
‫و یه راه برای تلاش برای رقابت با تیک‌تاک ‫این بود که صرفاً سریع حرکت کنیم.
‫اون موقع به نظر من می‌اومد
‫که تقریباً یه جور مسابقه‌ی تسلیحاتی ‫بر سرِ تعامل بود.
‫مارک خیلی به رقابت بدبینه.
‫و بنابراین وقتی حس می‌کنه ‫نیروهای رقیب بالقوه وجود دارن،
‫هیچ مقدار پولی براش زیاد نیست.
‫[معرفیِ ریلز اینستاگرام]
‫یه راه برای تلاش برای رقابت ‫با یه شرکت دیگه که
‫یه محصول منحصربفرد ارائه می‌کنه ‫تلاش برای تقلید ازشه.
‫و یه لحظه رو یادم میاد که...
‫پروسه‌ی روند توزیع نیروها بود،
‫و یه سری تیم صحت‌سنجی ‫و تیم امنیتی بودن
‫که دو نفر نیرو می‌خواستن که ‫روی محتوای کودکان کار کنن
‫و ده نفر می‌خواستن روی انتخابات کار کنن،
‫یه تیم دیگه بود که گفت:
‫«اوه، ما ۷۰۰ نفر برای ریلز اینستاگرام می‌خوایم.»
‫منم گفتم: «باشه.»
‫هر وقت که نوع جدیدی از محصول، ‫مثلاً ریلز رو معرفی می‌کنی،
‫ریسکِ بالایی وجود داره،
‫چون زیرساختی که قبلاً وجود داشته،
‫یا اصلاً وجود نداره یا خیلی نابالغه.
‫بنابراین، آماده‌سازی کافی ‫قبل از معرفی دشواره.
‫من کلافه شده بودم، ‫چون یه موازنه‌ی معمول
‫بین محافظت از مردم در برابر محتوای مضر ‫و تعامل وجود داره.
‫یه سری اسناد دیگه وجود دارن ‫که به طور خاص در مورد
‫تفاوت بین تیک‌تاک و ریلز صحبت می‌کنند.
‫طرز کار ریلز به تیک‌تاک شباهت داره.
‫پس، محتوایی بهت تحمیل میشه ‫که بهش علاقه نشون میدی،
‫نه لزوماً از کسایی که می‌شناسی.
‫و این مطالعه‌ی خود متا با آماره،
‫که به طور داخلی به اشتراک گذاشته شده،
‫جایی که به طور فعال اذعان می‌کنن
‫که برای جلوگیری از آسیب‌ها ‫در ریلز با مشکل روبرو هستن.
‫در واقع چیزهایی مثل خشونت و تحریک.
‫پس، اینجا می‌بینید که اعتراف می‌کنن: ‫«نظرات در پُست‌های ریلز
‫درصد گفتار خصمانه‌ی ناقض قوانین بالاتری دارند.»
‫خب، «۷۵ درصد بالاتر ‫برای زورگویی و آزار و اذیت.»
‫«۱۹ درصد بالاتر برای نفرت‌پراکنی.»
‫و «۷ درصد بالاتر برای خشونت و تحریک.»
‫و بنابراین در اصل چیزی که ‫این سند بهم نشون میده.
‫اینه که اونا رابط‌های کاربری جدیدی می‌سازن،
‫اونا محصولاتِ جدیدی به سایتشون اضافه می‌کنن
‫تا با رقباشون مثل تیک‌تاک رقابت کنن،
‫ولی با این حال، به نظر نمیاد که به موقع ‫اقدامات حفاظتی مناسب انجام بدن.
‫پس عجله‌شون برای تکامل، ‫رشد و درگیر نگه داشتن کاربر
‫در نهایت کاربرها رو به خطر میندازه، ‫که خودشون بهش اعتراف می‌کنن.
‫چرا این اتفاق می‌افته؟
‫وقتی توی این تیم‌های صحت‌سنجی کار می‌کنی،
‫اونا در موضع ضعف قرار دارن، ‫چون برای راه‌اندازی چیزی
‫که قراره از مردم در برابر یه جور آسیب ‫توی ریلز یا فید محافظت کنه،
‫باید تیمی رو که مسئول فید ‫یا مسئول ریلزه رو قانع کنی،
‫که تغییر محصولی رو که می‌خوای تأیید کنه.
‫ولی یه عدم تعادلِ قدرت وجود داره.
‫اونا مشوق‌هایی دارن که نذارن ‫اون محصولات راه‌اندازی بشن،
‫چون چیزهای سمّی تعاملِ بیشتری می‌گیرن ‫تا چیزهای غیرسمّی.
‫تیک‌تاک واقعاً سعی داشت ‫بازار رو تصاحب کنه،
‫و شاید هر هفته یه نسخه‌ی جدید بده بیرون ‫و الگوریتم رو بهبود بده.
‫ولی من کم‌کم متوجه مشکلات بیشتر و بیشتری ‫در استفاده‌ی مردم از تیک‌تاک شدم،
‫مخصوصاً محتوای مرزی بیشتر بود.
‫برای مثال یه چیز نامحسوس، ‫مثل تئوری توطئه،
‫یا محتوای مشکل‌سازی که ‫فقط وقتی دیده می‌شدن
‫که بیشتر از یه مدت خاص ‫از برنامه استفاده می‌کردی.
‫فکر می‌کنم با پیشرفته‌تر شدن مدل، ‫مشکل محتوای مرزی برجسته‌تر شد.
‫یادمه توی سال ۲۰۲۲ چطور ‫فیدهای شبکه‌های اجتماعی
‫پر از محتوای مرزی ‫و مطالب مبهم بودن.
‫بعضی‌هاشون به وضوح غیر قابل قبول بودن.
‫شاید اطلاعات غلط یا نفرتِ نژادپرستانه، ‫یا آزار و اذیت یهودستیزانه بود.
‫و راستش یه ذره گیج شده بودم،
‫چون به نظر می‌اومد زمان پاندمی،
‫تلاش‌هایی از طرف شرکت‌ها،
‫شرکت‌های شبکه‌های اجتماعی، ‫برای رسیدگی به این چیزهای مرزی بود...
‫و دوباره برگشته بود ‫و در واقع برای انتقام برگشته بود.
‫چرا این اتفاق می‌افتاد؟
‫خیلی خوشحالم که خواستی با من حرف بزنی
‫و این مصاحبه رو انجام بدی.
‫خب، بهم بگو به عنوان مهندس چیکار می‌کردی.
‫من توی متا کار می‌کردم ‫و الگوریتم‌ها یا برنامه‌هایی می‌ساختم
‫تا میزانِ محتوای مرزی رو کاهش بدن.
‫و به مرور زمان دستورِ کار تیم ما
‫به نحوی تغییر کرد که اجازه می‌داد ‫محتوای مرزی بیشتری تولید شه.
‫فکر می‌کنی این تصمیم به مسابقه‌ی تعامل ‫با تیک‌تاک ربط داشت؟
‫بله، قطعاً به اون ربط داشت.
‫داری به تیک‌تاک می‌بازی،
‫و در نتیجه قیمتِ سهامت افت می‌کنه.
‫و خب در چنین مواقعی آدم‌ها یه جورایی
‫خیلی بدبین و یه جورایی منفعل میشن.
‫و اونا می‌گفتن: «بیاید هر کاری که می‌تونیم ‫برای رسیدن انجام بدیم.
‫از کجا می‌تونیم دو سه درصد درآمد ‫واسه سه‌ماهه‌ی بعد داشته باشیم؟
‫شاید اگه این چیزها واقعاً بد باشن، ‫کاربرها دیگه از برنامه استفاده نمی‌کنن.
‫اگه به استفاده از برنامه ادامه میدن،
‫پس طبعاً بد نیست.»
‫پس اگه کسی محتوای مضر دوست داشته باشه،
‫محتوای مضر بیشتری می‌بینه؟
‫آره. اهمیتِ زیادی بهش نمیدی،
‫چون در بلند مدت به استفاده ازش ادامه میدن.
‫در نهایت کی این تصمیمات رو می‌گرفت؟
‫معاون ارشد.
‫و فکر کنم اون مستقیم ‫به مدیر عامل گزارش می‌داد.
‫پس، یه جورایی بهمون می‌گفتن که ‫این به خاطر کاهش قیمت سهامه،
‫پس شاید بعداً برگردیم سراغش.
‫نمی‌تونست حرفِ دلگرم‌کننده‌ای باشه،
‫«اوه، شاید در آینده برگردیم سراغش.»
‫آره، چون ریسکِ حقوقی نداره، می‌دونی؟
‫هیچکس واقعاً نمی‌دونه ‫فیس‌بوک داره چیکار می‌کنه.
‫بنابراین در واقع هیچ انگیزه‌ای ‫برای هیچ کدوم از این شرکت‌ها وجود نداره.
‫برای من با مهاجرت شروع شد.
‫من یه جورایی نامزد عالی بودم. ‫[کالوم جکسون]
‫وقتی ۱۳ و ۱۴ ساله بودم، با کلی تردید
‫در مورد توانایی‌ام برای داشتن دوست ‫و روابط دست و پنجه نرم می‌کردم.
‫برام خیلی آسون بود که باور کنم ‫دنیا بر علیه منه.
‫باعث شده بود به این ایده‌ی زوال ‫اعتقاد پیدا کنم.
‫من اولش با مقاله‌های ویدیوییِ سطح مبتدی ‫و مبتنی بر واقعیت شروع کردم.
‫وقتشه مرزهامون رو ببندیم.
‫یعنی: «فقط باید مهاجرت رو کاهش بدیم.»
‫بعدش آهسته و پیوسته شروع می‌کنه ‫به پیشنهاد کردن
‫کانال‌های بیشتر و بیشتری در موردش.
‫و بعدش یه جورایی ‫وارد همه‌ی اکوسیستم به طور کلی میشی.
‫و بعدش می‌رسه به این که: ‫«فرهنگِ ما داره تغییر می‌کنه.»
‫قربانی شدن بچه‌هامون ‫در قربانگاه مهاجرتِ دسته جمعی.
‫«غربی که همه‌مون می‌شناختیم ‫در حال جایگزین شدنه.»
‫و بعدش محتوایی از زمینه‌های دیگه ‫در اون فضا بهت پیشنهاد میشه،
‫که بعدش در مورد فمنیسم حرف می‌زنن.
‫و بعدش در مورد حقوق خاص حرف می‌زنن.
‫و بعدش ناگهان از دیدگاهی می‌شنوی
‫که اولش منطقی به نظر میاد
‫و بعدش چند ماه دیگه،
‫رسماً هر چیزی در اون فضا رو باور می‌کنی.
‫ثروتمندترین مرد دنیا رو تشویق کنید.
‫[اکتبر ۲۰۲۲]
‫خبر فوری: توییتر همین الان ‫پیشنهاد ایلان ماسک رو قبول کرد.
‫این پلتفرم شبکه‌ی اجتماعی ‫حالا در دست ثروتمندترین مرد دنیاست.
‫من توی توییتر فهمیدم که ایلان ماسک ‫داره توییتر رو می‌خره.
‫حرکتِ عجیبی به نظر می‌اومد.
‫همه سعی داشتن بفهمن چرا این کارو می‌کنه. ‫[یائو یو - مهندس نرم افزار ارشد توییتر]
‫ماسک در توییتی نوشت: ‫«در حال ورود به دفتر مرکزی توییتر،
‫سعی کنید باهاش کنار بیاید.» ‫(بذارید سینک رو بیارم داخل)
‫من نگرانی‌هایی داشتم...
‫به خاطر میزان منابعی که توییتر ‫اون موقع صرف می‌کرد ‫[لیزا جنینگ یانگ - رئیس طراحی و امنیت توییتر]
‫که پلتفرم امن‌تری باشه.
‫توییتر هیچوقت بی‌نقص نبود، ‫ولی این اولویتِ اول شرکت بود.
‫می‌دونید، یه جور مدل کسب و کار مبتنی بر خشمه.
‫اگه الگوریتم بدون نظارت بمونه
‫الگوریتم می‌تونه بدترین و فتنه‌انگیزترین ‫نظرات رو در اولویت قرار بده. ‫[مارک باروز - عضو تیم ساماندهی توییتر]
‫وظیفه‌ی ما این بود که مطمئن شیم
‫وقتی چیزی رو سرچ می‌کردی، ‫چیزی که می‌دیدی قابل اطمینان و درست باشه.
‫ما خیلی به کاری که می‌کردیم ایمان داشتیم.
‫[پرنده آزاد شد]
‫[توییت]
‫با ایلان ماسک هرگز حوصله‌تون سر نمیره، ‫منتظرِ کلی ایده،
‫کلی تغییر و کلی ابهام باشید.
‫هر وقت با ما حرف می‌زد،
‫می‌خواست توییتر بیشتر مثل تیک‌تاک باشه.
‫تیک‌تاک مثل طوفان آمریکا رو در نوردیده.
‫اون موقع میزان تعامل توی تیک‌تاک ‫به طرز فوق‌العاده‌ای رو به رشد بود.
‫اون روی سرسخت کردن توییتر متمرکز بود.
‫[اون اخراجه]
‫من ۱۵ نوامبر فهمیدم که دسترسی‌ام ‫به لپ‌تاپ کاری‌ام
‫و حساب ایمیلم نصفِ شب قطع شدن.
‫چه احساسی داشت؟
‫بازم میگم شوکه شده بودم ‫چون فکر می‌کردم اقلاً
‫شرکت یکم نجابت داشته باشه
‫که رسماً بهم اطلاع‌رسانی کنه.
‫نه چیزی که انقدر یهویی به نظر می‌اومد.
‫چند درصد از کارمندهات ‫توی توییتر رو اخراج کردی؟
‫فکر کنم الان با ۲۰ درصد ‫نیروهای اصلی کار می‌کنیم.
‫پس ۸۰ درصد رفتن؟
‫عه، آره.
‫ما ۲۵۰ تا طراح داشتیم، ‫توی بخش طراحی داشتیم،
‫و در نهایت احتمالاً ۸ نفر از ما مونده بود.
‫کل بخش اعتماد و ایمنی،
‫تقریباً همه اون موقع رفته بودن، ‫اون اولویت نبود.
‫از قرار معلوم اون همه آدم ‫برای اداره‌ی توییتر لازم نیست.
‫ولی ۸۰ درصد؟ این خیلی زیاده.
‫عه، آره.
‫اگه سعی نداشته باشی یه جور سازمان ‫فعال اجتماعی مجلل اداره کنی...
‫و اهمیتِ زیادی به سانسور کردن ندی،
‫اون وقت واقعاً می‌تونی ‫عذر خیلی‌ها رو بخوای.
‫فکر نکنم هیچکدوم انتظار داشتیم
‫به اون سرعت به اون بدی بشه.
‫یالا، برید عقب، برید عقب. ‫خوشحالم که به توییتر برگشتم.
‫چیزی رو که می‌خونید باور نکنید. ‫رسانه‌های اصلی رو باور نکنید.
‫ایلان بعد از خریدن توییتر ‫حساب توییترم رو برگردوند.
‫بعضی از افرادی که بَن شده بودن،
‫تمام این افرادی که اختلافات زیادی ‫ایجاد کرده بودن،
‫اجازه‌ی برگشتن پیدا کرده بودن.
‫[یهودی‌ها با همون نفرتی از سفیدها حرف می‌زنن ‫که می‌خوان مردم علیه خودشون به کار نبرن.]
‫[تو واقعیت رو گفتی]
‫[درسته، باید اعتراف کنم ترول‌ها...]
‫چون کنترلِ انحصاری اون پلتفرم دستشه،
‫می‌تونه الگوریتم رو تغییر بده و اصلاح کنه
‫برای تقویت برخی از نظرات ‫و تضعیف یه سری دیگه.
‫این یه بازیِ تمام عیار با آزادی بیانه.
‫[پلیس ضد تروریسم، لندن]
‫در واحد ارجاع اینترنتی،
‫ما سالانه هزاران هزار محتوا می‌بینیم ‫که به ما ارجاع داده میشن.
‫اینا نمونه‌هایی از مواردی هستن ‫که روزانه شاهدشون هستیم
‫که عادی‌سازی محتوای زننده ‫در شبکه‌های اجتماعی رو نشون میدن.
‫پس مردم چیزهایی رو می‌بینن ‫و بعدش برای شما می‌فرستن؟
‫آره. خب پُست‌هایی توی ایکس ‫به اشتراک گذاشته شده بودن...
‫که یهودی‌ها رو جونده توصیف می‌کردن. ‫[یهودی‌ها شرورن] - [یهودی‌ها موذین]
‫و واقعاً فقط همین نیست.
‫یعنی، زبونشون به شدت افراطیه.
‫نه، دقیقاً، یهودستیزی افراطیه.
‫یه جورایی حملاتِ بیشتر ‫به یهودها رو تشویق می‌کنه،
‫که توسط هزاران هزار نفر از مردم دیده میشه.
‫[اگه از برتری یهودیان خسته شدید ‫دست بلند کنید.]
‫بله، ما قطعاً شاهد لفاظی‌های ‫راستِ افراطی هستیم.
‫و تصاویر به شدت زننده ‫و نژادپرستانه هستن.
‫و یه جورایی به سطح عجیبی ‫از این خشونتِ بی‌مورد رسیده.
‫اگه کاربری بیشتر و بیشتر ‫از این نوع محتوا ببینه،
‫میشه تصور کرد که چطور شروع به پیدا کردن ‫نسخه‌های افراطی‌تری از اون تصاویر می‌کنه.
‫به نظرم این شبیه به روال افراطی‌سازیه.
‫مردم نسبت به خشونت در دنیای واقعی ‫حساسیت‌زدایی شدن،
‫و از به اشتراک گذاشتن ‫دیدگاه‌هاشون نمی‌ترسن.
‫چهار بار قبل از ما مسلمانان تلاش کردن ‫اروپا رو با حمله نابود کنن.
‫و متوقف شدن...
‫فقط باعث می‌شد دائم حس کنم...
‫اونا بهم انرژی می‌دادن، ‫ولی نه به طرز خوبی.
‫اونا فقط من رو خیلی عصبانی می‌کردن
‫کاملاً منعکس‌کننده‌ی ‫احساس درونی‌ام بود،
‫این‌که از دست اطرافیانم عصبانی بودم.
‫باورش برام خیلی آسون بود ‫که دنیا بر علیه منه،
‫که به نظرم کاملاً محورِ بیشتر محتوای ‫راست افراطی تو یوتیوب و تیک‌تاکه.
‫[مارسِ ۲۰۲۳]
‫سناتور مارکو روبیو از تصویب قانونی دو حزبی
‫برای ممنوعیت فعالیت تیک‌تاک ‫در ایالات متحده خبر داد.
‫پلتفرمِ شما باید ممنوع بشه.
‫تیک‌تاک همه‌ی ما رو زیر نظر داره،
‫و حزب کمونیست چین
‫می‌تونه از این به عنوان ابزاری ‫برای دستکاری کل آمریکا استفاده کنه.
‫تهدیدهایی علیه تیک‌تاک مطرح می‌شد
‫چون تحتِ مالیک یه شرکت چینی ‫به نام بایت‌دنسه.
‫دولتِ آمریکا ادعا می‌کرد
‫که چین قراره از داده‌های حساس ‫سوءاستفاده کنه.
‫بایت‌دنس همیشه این موضوع رو ‫به شدت تکذیب کرده.
‫ولی در واقع اطلاعاتی که ‫تیک‌تاک در مورد ما داره
‫که قدرتمندترینه
‫نحوه‌ی مکثِ ما روی یه ویدیو ‫و نحوه‌ی اسکرول کردن ماست.
‫به عنوان یه مهندس،
‫چطور میشه سیستم‌های پیشنهادی ساخت ‫که ذاتاً ایمن باشن؟
‫این...
‫من واقعاً جواب این سؤال رو نمی‌دونم، ‫در مورد این که چطوری
‫اون رو کاملاً ایمن بسازیم
‫وقتی کنترلی روی الگوریتم یادگیری عمیق نداریم.
‫برای ما ساز و کارِ داخلیش ‫هنوزم یه جعبه‌ی سیاهه.
‫که همین به خودی خود کمی ترسناکه،
‫چون به وضوح تو بهتر از هرکسی
‫که باهاش حرف زدیم ‫از الگوریتم‌ها سر در میاری.
‫راستش رو بخوای ما...
‫ما توجه زیادی به محتواهای به خصوص نمی‌کنیم.
‫برای ما همه‌ی محتواها ‫اعداد مختلفی هستن، خب؟
‫ما مسئول پیشنهاد محتوا هستیم،
‫و تیم ایمنی محتوا مسئول حذف محتواهای بده.
‫مثل کارخونه‌ی ماشین، خب؟
‫یه تیم هست که مسئول شتاب ماشینه، ‫و موتور رو می‌سازه، خب؟
‫پس انتظار داریم تیمی که ‫روی سیستم ترمز کار می‌کنه.
‫من دارم به پیام‌هام
‫با کسی نگاه می‌کنم که الان ‫توی تیک‌تاک کار می‌کنه.
‫و در واقع اون اوایل امسال باهام تماس گرفت.
‫برام یه پیام فرستاد ‫و ما از اون موقع باهم حرف می‌زنیم،
‫سعی داریم یه وقتی قرار بذاریم ‫که بتونیم همدیگه رو ببینیم.
‫اون فقط می‌خواد از نزدیک من رو ببینه.
‫[می‌خواستم بدونم میشه این هفته باهم گپ بزنیم؟]
‫ما از طریق کانال‌های رمزنگاری شده ‫به هم پیام می‌دادیم.
‫اون توی بخش اعتماد و ایمنی کار می‌کنه،
‫و یه چیزهایی هست که نگرانشونه.
‫می‌خواد مردم بدونن پشت پرده چه خبره.
‫خیلی سخته که کسی رو وادار کنی ‫بخواد یه چیزهایی نشونت بده.
‫وقتی هنوز اونجا کار می‌کنی، ‫انجام این کار ریسک بالایی داره.
‫- سلام. ‫- سلام.
‫- خب، این لپ‌تاپته؟ ‫- آره.
‫خیلی خب.
‫چرا تصمیم گرفتی که می‌خوای حرف بزنی،
‫که می‌خوای یه سری از این اسناد ‫و گفتگوها رو نشونم بدی؟
‫اگه هر روز احساس گناه کنی به خاطر
‫کاری که بهت دستور میدن انجام بدی، ‫یه زمانی پیش خودت میگی:
‫«باید یه چیزی بگم؟»
‫چه مسائلی ریسک بالایی دارن؟
‫چه چیزهایی بیشتر نگرانت می‌کنن؟
‫نشونت میدم.
‫توی داشبورد، اولین چیزی که می‌بینی حجمه.
‫خب، اینا موارد خیلی زیادین.
‫آره.
‫بچه‌ها از پلتفرم استفاده می‌کنن.
‫پس وظیفه‌ی اون پلتفرمه
‫که سطح بالایی از پاسخگویی داشته باشه.
‫و محتوایی اون بیرونه ‫مرتبط به تروریسم...
‫خشونت غیراخلاقی، خشونت فیزیکی، سوءاستفاده،
‫قاچاق.
‫به نظر میاد در حال افزایشه.
‫و خیلی آسیب‌زاست
‫چون بچه‌ها خیلی راحت‌تر ‫تحت تأثیر قرار می‌گیرن.
‫پس گمونم ریسکِ فعال شدن ‫به طرز منفی رو دارن...
‫آره. مخصوصاً توی نسلی که رسماً ‫به این اپلیکیشن وابسته شده..
‫مثلاً به این نگاه کن.
‫آره. خب این پی۲، پی۳، پی۱،
‫اونا در اصل سطح اولویت رو نشون میدن.
‫دقیقاً. اگه به کشوری که این گزارش ‫ازش اومده نگاه کنی،
‫ریسکش خیلی بالاست چون یه بچه‌ست
‫- و شامل اخاذی غیراخلاقی میشه. ‫- آره.
‫و بعدش می‌تونی اینجا اولویتش رو ببینی
‫- فوریتش چندان بالا نیست. ‫- اولویت ۲.
‫می‌بینی که همه‌ی اینا گزارش میشن.
‫اوه، آره. آره، آره، آره.
‫پس ریسکش خیلی بالاست. آره.
‫تشویق مردم به ارتکاب جرم،
‫ترویسیم یا پیوستن به سازمان‌های تروریستی.
‫- و این... ‫- چی، پی۲؟
‫و بعدش یه مورد دیگه هست که ‫به عنوان پی۱ طبقه‌بندی شده،
‫یه مورد با اولویتِ بالا.
‫در اصل یه مورده که ‫به یه سیاستمدار مربوط میشه.
‫فقط برای حفظ یه رابطه‌ی قوی،
‫نه به خاطر این که ریسکِ بالایی ‫برای کاربر وجود داره.
‫وقتی به تمام این اسنادی که ‫افشاگرِ تیک‌تاک بهم داد نگاه می‌کنم،
‫فقط مات و مبهوت شدم از این‌که ‫چندتاشون به یه چیز اشاره دارن،
‫که اینه که ظاهراً سیاست مهم‌تر از محافظت ‫از بچه‌ها و نوجوون‌هاست
‫و موردی که در موردش حرف زدیم ‫شامل دختر ۱۶ ساله‌ای
‫که گزارش کرده یه اکانتِ تیک‌تاک
‫عکسش رو در کنار تصاویر ناشایست منتشر کرده.
‫و این اولویت شماره دوئه.
‫ولی این در مورد یه بچه‌ی ‫زیر ۱۸ ساله که در اصل
‫نگرانِ تصاویر ناشایسته.
‫و بعدش یه بچه‌ی ۱۷ ساله هست که گزارش میده
‫توسط دو حساب کاربری ‫قربانی زورگویی مجازی شده.
‫این اولویتِ شماره دوئه.
‫خب مثلاً اولویت شماره ۱ رو در نظر بگیرید.
‫«در عکس تصویری از یک مرغ هست...»
‫و شخص داخلش نامزد انتخابات ‫مجلس عراق در سال ۲۰۲۵ـه.
‫پس این توی همون کشوره.
‫یه نوجوون دارید و بعدش
‫سیاستمداری رو دارید که عکسِ یه مرغ ‫تحت تأثیر قرارش میده،
‫و سیاستمداره اولویتِ اوله.
‫افشاگره میگه چنین مواردی ‫همیشه اتفاق می‌افتن،
‫و اونا واقعاً از این موضوع معذب هستن.
‫که وقتی بچه‌ها در خطرن، ‫وقتی زیر ۱۸ ساله‌ها در خطرن،
‫اولین چیزی نیست که وظیفه دارن ‫بهش رسیدگی کنن.
‫در عوض وظیفه دارن ‫به چیزهایی رسیدگی کنن
‫که به سیاستمدارها یا شخصیت‌های سیاسی ‫مربوط میشن،
‫یا در جاهایی که رسیدگی بهش ‫در اولویت قرار داره.
‫ولی برای مثال این مورد
‫موج بعدی چیزهاییه که باید بیان سراغشون،
‫و اونا قبلاً
‫یه عالمه مثال از موارد و آسیب‌هایی دارن ‫که باهاشون روبرو هستن.
‫به یه پدر یا مادر که بچه‌اش از تیک‌تاک ‫استفاده می‌کنه چی میگی؟
‫پاکش کنید.
‫اونا رو تا جایی که می‌تونید ‫از برنامه دور کنید،
‫تا هر وقت که می‌تونید.
‫[بیانیه‌ی تیک‌تاک] ‫[تیک تاک این ایده را که محتوای سیاسی ‫بر امنیت جوانان اولویت دارد، رد می‌کند.]
‫[و این اساساً نحوه عملکرد سیستم‌های مدیریت ‫محتوای آنان را نادرست نشان می‌دهد.]
‫[گردش‌های کاری تخصصی برای برخی مسائل منجر به ‫از اولویت خارج شدن موارد ایمنی کودک نمی‌شود]
‫[بلکه به این موارد توسط تیم‌های اختصاصی ‫در ساختارهای بررسی موازی رسیدگی می‌شود.]
‫[مدرسه‌ی هرست - بریتانیا]
‫- سلام. ‫- سلام!
‫وقتی شروع به استفاده از شبکه‌های اجتماعی کردید ‫چند سالتون بود؟
‫زمانِ قرنطینه، یعنی وقتی تقریباً ۹ سالم بود.
‫چون ما همش خونه بودیم
‫و فقط از اون طریق می‌تونستم ‫با دوست‌هام ارتباط برقرار کنم،
‫واسه همین خیلی بیشتر ازش استفاده می‌کردم.
‫کی فکر می‌کنه زمانِ بیشتری توش می‌گذروند؟
‫تقریباً روزی حدود ۵ ساعت.
‫من صبح‌ها قبل از مدرسه چکش می‌کنم،
‫و بعدش به محض این که از مدرسه ‫به خونه برمی‌گردم.
‫بهم حس خیلی خوبی نمیده ‫چون احتمالاً باید...
‫یکم بیشتر معاشرت می‌کردم ‫و بیشتر سرم رو از تو گوشی‌ام در می‌آوردم،
‫ولی بهش معتاد میشم.
‫پس، یعنی، دستِ خودم نیست ‫و نمی‌تونم دست بردارم.
‫و محتوایی که تماشا می‌کنی بیشتر ‫به سبک ویدیوهای کوتاه هستن؟
‫منظورم تیک‌تاک و ریلز و از اینجور چیزهاست.
‫آره، فقط ساعت‌ها اسکرول می‌کنم.
‫منم این کارو می‌کنم.
‫چیزهایی توی فیدت ظاهر میشن ‫که با خودت فکر کنی،
‫«واقعاً دیگه نمی‌خوام بازم از اینا ببینم؟»
‫احتمالاً ویدیوهای خشن.
‫مثل زورگویی و دعوا، راستش،
‫چون دوست ندارم اونا رو ببینم.
‫یعنی، فقط باعث میشه ‫آدم‌ها فکر کنن درسته.
‫و بعد گزارشش می‌کنی ‫و یکی دو روز اونا رو نشونت نمیده
‫و بعدش دوباره پیداشون میشه.
‫و بعدش مدام این کارو می‌کنم ‫و بازم برمی‌گرده.
‫یه جورایی باعث میشه حس کنم: ‫«اوه، اونا به حرفم گوش نمیدن.»
‫بهشون میگم نمی‌خوام ‫اینجور چیزها رو ببینم.
‫وقتی همچین محتوایی می‌بینی ‫چه احساسی پیدا می‌کنی؟
‫واقعاً کلافه میشم. ‫یعنی، بهشون گفتم
‫نمی‌خوام این رو ببینم،
‫نمی‌خوام بارها و بارها این رو ببینم،
‫و اونا بازم اونجا نگهش می‌دارن.
‫چون لزوماً چیزی نیست که مردم ‫باهاش موافق باشن،
‫ولی انقدر بازدید و لایک می‌گیره
‫که دوباره و دوباره ویدیوها رو نمایش میدن
‫چون مردم بهشون واکنش نشون میدن.
‫اگه زیاد ویدیو ببینم
‫بعدش یه چیزی برام میاد،
‫یکی توی اینترنت که دنبال محبوبیته.
‫نباید زیاد بابتش اذیت بشم،
‫ولی چون توی اون وضعیتم
‫نظرِ خیلی محکمی در موردش دارم،
‫برای همین می‌تونه باعث شه ‫خیلی آزرده و عصبانی بشم.
‫چیزی که اون موقع فهمیدم ‫این بود که چقدر زیاد
‫بارها و بارها محتوای یکسانی رو می‌دیدیم
‫که نمی‌خواستیم ببینیم،
‫از کسایی که نمی‌شناسیم،
‫خیلی فراتر از محدوده‌ی چیزی که ‫در حالت عادی جستجو می‌کردی.
‫و فکر کنم وقتی به نوجوانان و کودکان می‌رسه
‫این یه مشکل جدی میشه ‫چون هنوز سعی داری
‫سر در بیاری که چه کاری درسته ‫و چه کاری خوب نیست.
‫و فیدت شروع به تعیین دیدگاهت به جهان می‌کنه.
‫من الان بیشتر از یک ساله که می‌خوام ‫علناً در این مورد حرف بزنم،
‫و حالا بالأخره شجاعتش رو پیدا کردم
‫که در مورد چیزهایی حرف بزنم ‫که پیش خودم نگه داشتم.
‫من شروع به کنار گذاشتن دیدگاه‌های نژادپرستانه ‫و زن‌ستیزانه قدیمی‌ام کردم،
‫چون اونا دیگه توی ذهنم ‫منطقی به نظر نمی‌اومدن.
‫فکر کنم مردم باید آگاه بشن ‫که میزان خشم موجود
‫در خیلی از محافل راست افراطی خیلی شدید بود.
‫اگه تنها چیزی که می‌شنوی
‫در مورد ارتکابِ جرائم خیلی بد ‫توسط پناهنده‌ها باشه،
‫اگه مدام این رو توی فیدت ببینی،
‫قطعاً قراره افراطی‌ات کنه.
‫یعنی، ۱۰۰ درصد اینطوره.
‫[ژوئیه ۲۰۲۴ - ساوت‌پورت بریتانیا]
‫می‌دونم که تمام مجلس از حادثه‌ی بسیار جدی
‫که در ساوت‌پورت رخ داده ‫بسیار نگران خواهد شد.
‫دو کودک در حادثه‌ای کشته شدند که پلیس آن را
‫حمله وحشیانه با چاقو در یک کلاس رقص ‫در ساوت‌پورت نامید.
‫و مادری که داشتم بهش دلداری می‌دادم.
‫فقط طرز نگاهش
‫چون می‌دونست یه اتفاقی برای بچه‌اش افتاده.
‫با خودت میگی خدای من ‫چطور می‌تونی درک کنی؟
‫هیچ کاری نمی‌تونی بکنی.
‫توی توییتر، وقتی یه حادثه‌ی خبری ‫خیلی جدی مثل این اتفاق می‌افتاد،
‫وظیفه‌ی ما این بود که مطمئن شیم هرکسی که
‫اطلاعات کاملاً غیرموثق منتشر می‌کنه ‫توی الگوریتم پایین بره.
‫حفاظ‌های ایمنی برداشته شده بودن.
‫[خبر فوری: ظاهراً ضارب مهاجرِ مسلمان است]
‫چون این اولین کاری بود ‫که ماسک انجام داد.
‫نظرات بی‌اساسی در مورد هویت مهاجم ‫در ساوت‌پورت وجود داشت،
‫و مردم بهشون گوش می‌دادن.
‫[او پناهنده‌ای بوده که سال گذشته ‫با قایق به بریتانیا آمده.]
‫و این تار عنکبوتی از اطلاعات غلطه
‫که رشد می‌کنه و رشد می‌کنه و رشد می‌کنه.
‫یه مهاجرِ بدون مدارک تصمیم گرفته ‫به کلاس رقص تیلور سوئیفت بره...
‫و به شش تا دختر کوچولو چاقو بزنه.
‫می‌دونستیم افرادی که دستور کار مشخصی دارن ‫می‌تونن الگوریتم رو بازی بدن،
‫می‌تونن از این قدرتِ عظیم بهره‌برداری کنن.
‫دقیقاً می‌دونستم چه اتفاقی قراره بیفته.
‫[ساوت‌پورت اگه این حقیقت داشته باشه ‫پس قراره جهنم به پا شه.]
‫[کنار هم می‌ایستیم ‫از فرزندانمان محافظت می‌کنیم]
‫یادمه اون رو توی ویدیوم دیدم.
‫یعنی، ظرف چند ساعت،
‫سیل عظیمی از جمعیت وارد شهر شد.
‫یک پسر ۱۷ ساله اهل بنکس در لانکاشر،
‫که اصالتاً اهل کاردیفه،
‫به اتهام قتل دستگیر شده.
‫شبکه‌های خبری مداخله کردن و گفتن: ‫«ما می‌دونیم کی این کارو کرده،»
‫ولی تا اون موقع دیگه خیلی دیر شده بود.
‫و بعدش مسجد اولین جایی بود ‫که هتک حرمت شد.
‫برید عقب! همین الان برید عقب! ‫برید عقب!
‫و همه‌ی اینا خودتقویت‌کننده‌ست، ‫یه چرخه‌ی باطله.
‫چون وقتی این اتفاقات می‌افتادن،
‫بعدش توی شبکه‌های اجتماعی گزارش می‌شدن،
‫و سریع‌تر و سریع‌تر می‌چرخه
‫و مردم عصبانی‌تر و عصبانی‌تر میشن.
‫لعنتی.
‫و من یادمه که اون موقع می‌خواستم
‫ته و توش رو در بیارم که کی پشتِ ‫این شایعات دروغ بوده،
‫ادعاهایی مبنی بر این‌که ‫مهاجم یه پناهجو بوده،
‫که با قایق به بریتانیا اومده و مسلمانه.
‫و فکر کنم اگه الان نگاه کنم...
‫یکی از اولین جاهایی که برخی از ‫گمانه‌زنی‌ها رو منتشر کرده بود
‫اسمش «کانال ۳ اکنون» بود.
‫یه جورایی فله‌ای گزارش منتشر می‌کرد.
‫و رد یکی رو زدم،
‫یه مرد به اسم فرهان توی پاکستان،
‫و بالأخره یه ایمیل بهم داد.
‫ما فقط سعی داریم اخبار رو منتشر کنیم.
‫در اصل، ما یه جورایی سعی داریم کلیک بگیریم
‫و قصد بدی نداشتیم.
‫این به وضوح محصول الگوریتم‌هاست،
‫سیستم‌های شبکه‌های اجتماعی،
‫چون «کانال ۳ اکنون» نمی‌خواست
‫این محتوا رو منتشر کنه اگه نمی‌دونست
‫که قراره بازدید و کلیک و لایک بگیره
‫اگه هرچه سریع‌تر منتشرش کنه،
‫حتی اگه غلط باشه. و در واقع،
‫غلط بودنش به این معنا بود که لایک، ‫بازدید و کلیک‌های بیشتری می‌گرفت
‫چون تعامل می‌گرفت.
‫باعث واکنش می‌شد، احساسی بود.
‫ساوت‌پورت واقعاً حس یه تغییر رو داشت.
‫یعنی خشونت مربوط به اتفاقی که ‫توی شبکه‌های اجتماعی می‌افتاد،
‫دیگه زیاد دور نیست.
‫ما حکمِ قناری توی معدن زغال سنگ رو داریم.
‫خیلی از مشکلاتی که در شبکه‌های اجتماعی ‫وجود داره،
‫توی کشورهایی مثل سریلانکا تست شده بودن، ‫چون هیچکس به ما اهمیتی نمیده.
‫تمام بازارهامون آزمایش‌های فعال هستن،
‫و بنابراین چیزی که الان ‫توی بریتانیا آشکارتره،
‫و در جاهای دیگه‌ی دنیا،
‫سال‌ها قبل توی کشورهایی مثل سریلانکا ‫خیلی آشکار بود.
‫پس چیزی که من در موردش هشدار دادم، ‫چیزی که براش فریاد زدم،
‫نشون میده که این مشکل سریلانکا نیست.
‫این مشکل شبکه‌های اجتماعیه.
‫مشکل سیلیکون‌وَلیه.
‫مشکل حکومته. مشکل دموکراسیه.
‫مشکلی برای همه‌ی ماست.
‫الگوریتم‌ها حالا زندگیِ همه‌مون رو ‫تحت تأثیر قرار میدن.
‫مراکز مهاجرتی در سراسر کشور هدف قرار گرفتن.
‫پلیس تحت فشار قرار گرفته.
‫تا الان صدها نفر دستگیر شدن.
‫قانون کیفری هم به صورت آنلاین ‫و هم به صورت آفلاین اعمال میشه.
‫تقریباً همون زمان توی متا ‫یه تغییری ایجاد شد.
‫وقتشه که به ریشه‌هامون در مورد آزادی بیان ‫توی فیس‌بوک و اینستاگرام برگردیم.
‫اونا اعلام کردن که برنامه‌ی ‫راستی‌آزمایی رو تعطیل می‌کنن،
‫و به شدت نظارت بر محتوا رو کاهش میدن.
‫ما سیاست‌های محتوایی‌مون رو ‫ساده‌سازی می‌کنیم
‫و از شر یه سری محدودیت‌ها در مورد موضوعاتی ‫مثل مهاجرت و جنسیت خلاص می‌شیم
‫که هیچ ارتباطی با گفتمان رایج ندارن.
‫به نظر می‌اومد اونا تعهدشون رو از دست دادن
‫برای مبارزه با خیلی از این آسیب‌ها
‫و انگار واقعاً هیچ اهمیتی به این نمی‌دادن
‫که واقعاً به داده‌ها گوش بدن
‫و واقعاً سعی کنن مسائل رو حل کنن.
‫بزرگ‌ترین نگرانی‌ام ‫سیاسی شدن این پلتفرم‌هاست.
‫مارک در کل سعی داشت بی‌طرف باشه،
‫ولی حالا ایلان، فکر کنم
‫مخصوصاً از ایکس به عنوان یه وسیله‌ی سیاسی ‫برای بیان دیدگاه‌هاش استفاده می‌کنه.
‫و فکر نمی‌کنم هر شرکتی ‫باید اجازه داشته باشه
‫این میزان نفوذ و قدرت روی بیش ‫از ۴ میلیارد نفر داشته باشه.
‫- می‌تونم یه عکس باهات بگیرم، چارلی؟ ‫- چارلی! چارلی.
‫من می‌خوام ترامپ رئیس‌جمهور شه. ترامپ.
‫الان به نظر میاد ما توی دنیایی هستیم
‫که به طور فزاینده‌ای توسط ‫نوع جدیدی از افراد اشغال میشه.
‫می‌خوای باهم گفتگو کنیم؟
‫حتماً. کاملاً. آره، آره.
‫خیلی خب. من ازت خوشم نمیاد.
‫به نظرم تو نفرت‌پراکنی ‫و تعصب‌پراکنی می‌کنی.
‫به نظرم خیلی‌ها رو عصبانی می‌کنی؟
‫دوربین‌ها واسه چین؟
‫ما همه رو ضبط می‌کنیم تا بتونیم
‫بذاریمشون توی اینترنت تا مردم بتونن ‫تقابل این ایده‌ها رو ببینن.
‫وقتی مردم حرف نمی‌زنن، ‫خشونت به وجود میاد.
‫اینفلوئنسرهایی که ظرفیتشون
‫برای ایجاد تعامل در اینترنت ‫بخش بزرگی از شهرتشونه.
‫خدای من.
‫خدای من، اون تیر خورد.
‫اون تیر خورد!
‫چارلی کرک به ضرب گلوله کشته شد
‫وقتی در محوطه‌ی دانشگاهی در یوتا ‫برای دانشجوها سخنرانی می‌کرد.
‫فیلم‌های ترورش
‫در سراسر جهان میلیون‌ها بازدید گرفتن.
‫دلایل قاتل در ابتدا مشخص نبودن.
‫در حال حاضر بازرسان فدرال میگن
‫که در حال صحبت با این مرد، تایلر رابینسون،
‫در مورد دلیل احتمالی قتل چارلی کرک هستن.
‫توطئه‌هایی در مورد این‌که کیه ‫و چه اعتقاداتی داشته در حال شکل‌گیریه.
‫ولی اون سرنخ‌هایی سرِ صحنه به جا گذاشته بود.
‫نوشته‌های حک شده روی پوکه‌های فشنگی
‫که گمون می‌رفت متعلق ‫به تیرانداز ادعایی باشن.
‫فقط اگه زمان زیادی رو توی شبکه‌های اجتماعی ‫گذرونده باشید، معنیِ اونا رو می‌فهمید.
‫اونا حاوی تعدادی عبارت ‫به ظاهر طعنه‌آمیز و بی‌ادبانه هستن ‫[بلا چائو. هی فاشیست! بگیرش!]
‫که در جوامع گیمینگ و آنلاین رایج هستن.
‫یه دانشجوی به ظاهر معمولی که در فرهنگ ‫تاریک و پوچ‌گرایانه‌ی میم گرفتار شده.
‫آیا قاتل نیم‌نگاهی به واکنش‌های آنلاین ‫ناشی از خشونتش داشته؟
‫ما شاهد یه ایدئولوژی جدید تعامل هستیم؟
‫سیستم‌های الگوریتمی که ‫به سیاست شکل میدن،
‫به جامعه شکل میدن،
‫به چگونگی وقوع رویدادها شکل میدن.
‫اگه الان بچه داشتم،
‫تشویقش می‌کردم که تا حد امکان ‫زمانِ کمی رو توی اینترنت بگذرونه.
‫خیلی از ماها جونشون رو ‫به خاطر این از دست دادن.
‫ما می‌دونیم آخرش به کجا ختم میشه.
‫پلتفرم‌های شبکه‌ی اجتماعی
‫مسئولیتی اساسی در قبال حقیقت دارن.
‫اگه ما این نوع پاسخگویی ‫و شفافیت رو می‌خواهیم،
‫باید را از نظر قانونی الزامی‌اش کنیم.
‫مشکلات قراره بدتر بشن.
‫من بدون تلاش برای مبارزه ‫نمی‌تونم به زندگی ادامه بدم.
‫[تیک‌تاک به ما گفت این ادعاهای ساختگی اساساً واقعیت این را ‫نادیده می‌گیرند که تیک‌تاک چگونه میلیون‌ها نفر را قادر می‌سازد]
‫[تا علایق جدید خود را کشف کنند، جامعه‌ای را پیدا کنند ‫و از یک اقتصاد پررونق در بریتانیا حمایت می‌کند.]
‫[اطمینان از ایمنی تیک‌تاک مهم‌ترین کار ماست و پارسال ‫تقریباً ۹۰ میلیون حساب زیر سن قانونی را حذف کردیم]
‫[و حساب‌های کاربری نوجوانان بیش از ۵۰ ویژگی و تنظیمات ایمنی ‫از پیش تعیین‌شده دارند که به طور خودکار فعال می‌شوند.]
‫[ما در فناوری‌هایی سرمایه‌گذاری می‌کنیم که ‫به جلوگیری از مشاهده محتوای مضر کمک می‌کند]
‫[سیاست‌های سختگیرانه برای پیشنهادات داریم و ویژگی‌هایی برای افراد] ‫[فراهم می‌کنیم تا تجربیاتِ خود را تنظیم کنند.]
‫[متا به ما گفت هر ادعایی مبنی بر اینکه ما عمداً محتوای ‫مضر را برای سود مالی تقویت می‌کنیم، اشتباه است.]
‫[حقیقت این است که ما سیاست‌های سختگیرانه‌ای ‫برای محافظت از کاربران در پلتفرم‌های خود داریم]
‫[و در دهه گذشته سرمایه‌گذاری‌های قابل توجهی ‫در زمینه ایمنی و امنیت انجام داده‌ایم.]
‫[ما به والدین و متخصصان گوش داده‌ایم، ‫در مورد مسائل مهم تحقیق کرده‌ایم]
‫و تغییرات واقعی برای محافظت] ‫[از نوجوانان آنلاین ایجاد کرده‌ایم
‫[مانند معرفی حساب‌های کاربری نوجوانان که دارای محافظت‌ها و ابزارهای ‫داخلی برای والدین هستند تا تجربیات نوجوانان خود را مدیریت کنند.]
‫[ایکس به ما گفت که ایکس اخیراً الگوریتم خود را ‫متن‌باز کرده و در دستورالعمل‌های خود می‌گوید که]
‫[«ترویج گفتگوهای سالم یکی ‫از اصول اصلی ایکس است».]
‫[این پلتفرم می‌گوید که «به مردم قدرت می‌دهد ‫تا جنبه‌های مختلف یک موضوع را درک کنند»]
‫[اما «همچنین برای جلوگیری از تقویت محتوای ‫مضر در ایکس سخت تلاش می‌کند».]
‫برای کسب اطلاعات بیشتر از من و متخصصان
‫در دانشگاه آزاد در مورد چگونگی ‫هشیار ماندن در برابر الگوریتم‌ها،
‫کیوآر کد روی صفحه را اسکن کنید،
یا به وبسایت زیر مراجعه کنید connect.open.ac.uk/ragemachine.
www.Doostihaa.com