في نوفمبر/تشرين الثاني من العام الماضي 2017، نشرت نيويورك تايمز مقالاً عن مقاطع مزعجة تستهدف الأطفال عبر يوتيوب.
وبحسب الآباء، فإن أطفالهم يصادفون نسخاً مقلدة من شخصياتهم الكارتونية المفضلة في مواقف عنيفة ومميتة، مثل الخنزير بيبا يشرب الكلور، أو ميكي ماوس تدهسه سيارة.
وأظهر بحثٌ عبر جوجل عن بعض المصطلحات المذكورة في المقال مزيداً من الروايات عن المحتوى غير اللائق، في منشورات فيسبوك وموضوعات المجموعات الإخبارية وصحف أخرى، بل وقصصاً مثيرة للقلق عن تأثيرات هذا المحتوى.
وصار أطفال، كانوا قبلها سعداء متأقلمين، يخافون الظلام ويتعرضون لنوبات بكاء، أو تصدر منهم سلوكيات عنيفة وأحاديث عن إيذاء النفس، وكل هذه من الأعراض الاعتيادية للتعرض للإيذاء.
هذه المقاطع تتغذى على أسوأ مخاوف الأطفال
علاوة على ذلك، بدا أن لا أحد يفهم حقاً من أين تأتي هذه المقاطع وكيفية إنتاجها، أو حتى سبب وجودها في المقام الأول.
جيمس بريدل كاتبٌ وفنان يركز على التأثيرات الثقافية والمجتمعية الواسعة للتقنيات الجديدة، وهكذا بدأت أغلب هواجسه يقول: "ينتابني فضولٌ متزايد حيال شيء وأتعمق فيه، وأبقي عيني على البنى التحتية المخفية والعمليات الخفية".
قاده هذا النهج سابقاً إلى التحقيق في نظام رحلات الترحيل البريطاني، وشبكة مراقبة الطرق المعقدة ببريطانيا، وهذه المرة تعمق إلى الأرض النائية السريالية الغريبة والباعثة على الاضطراب في أغلب الأحيان لمقاطع الأطفال على يوتيوب.
وهذه المقاطع مقلقة على عدة أصعدة، وبحسب الفنان البريطاني الذي قضى وقتاً كبيراً من الوقت في مشاهدتها، ازداد قلقه ليس فقط من محتواها، بل من الطريقة التي يُعيد بها النظام نفسه إنتاج هذه المقاطع ويزيد من انتشارها، ويتغذى على أسوأ مخاوف الأطفال ويجمعها في قوائم تشغيل كابوسية، في حين يكافئ صناع هذه المقاطع على ازدياد أعداد المشاهدات حتى مع انحدار المقاطع إلى المحاكاة الساخرة عديمة المعنى.
ويبدو أن الغرابة التامة التي تتسم بها هذه المقاطع تقلق البالغين أكثر من العنف البادي فيها. وهذا هو الجزء الذي يصعب شرحه -ويصعب على الناس فهمه- إن لم تنغمس في مشاهدة هذه المقاطع.
تحت مقاطع التقليد البسيطة والمستفزة، يوجد صنفٌ كامل من المحتوى الفارغ الذي تولده الخوارزميات.
كلما زادت نسبة مشاهدتها زادت كميات إنتاجها
ملايين المقاطع التي لا تهدف إلا إلى جمع المشاهدات وجني الأرباح، وهي مصنوعة من مزيجٍ من أغاني الأطفال وتقييمات الألعاب وسوء الفهم الثقافي.
أُنتِج بعضها من مولدات عشوائية فيما يبدو، بينما البعض الآخر -وهو كثير- يشترك فيه بشر حقيقيون، من ضمنهم أطفال صغار، موزعين في جميع أنحاء الكرة الأرضية، ينفذون بلا توقف المتطلبات "المخبولة" لخوارزميات الترشيح على يوتيوب، حتى وإن كانت لا تعني شيئاً على الإطلاق، حتى وإن كان عليك أن تذل نفسك تماماً من أجل تنفيذ المطلوب.
حين كتب الفنان مقالاً عن المقاطع على شبكة الإنترنت، كان رد الفعل العام مماثلاً لرد فعله، من ناحية، ارتعب الناس حين علموا بوجود هذه المقاطع، ومن ناحية أخرى، تعجبوا من حجم ما وجدوه وغرابته، وهذا المزيج أدى إلى انتشار المقال انتشاراً واسعاً؛ إذ شاركه وقرأه الملايين على شبكة الإنترنت، ونشرته المواقع والصحف في أنحاء العالم، بل ونتجت عنه أسئلة طُرِحت في البرلمان الأوروبي. وأخيراً، بدأ يوتيوب في الاستجابة، مع أنَّ الجهود المبذولة ونتائجها متباينة.
يوتيوب لم يتخذ خطوات جدية.. ويكتفي بالإبلاغ عن المحتوى
كان مقترح يوتيوب المبدئي هو حظر عرض الإعلانات على المحتوى المثير للاضطراب الذي يستهدف الأطفال، لكن مقترحات الشركة فشلت في التعامل مع منصتها.
إذ تشير تقديراتٌ إلى أن 400 ساعة من المحتوى تُرفَع إلى المنصة كل دقيقة؛ لذا فمراقبة كل هذا المحتوى يدوياً مستحيلة.
وعوضاً عن ذلك، يعتمد يوتيوب على إبلاغ المشاهدين عن المحتوى غير اللائق؛ لكي يخضع للمراجعة، وهي طريقة غير مناسبة حين يكون أول من يشاهد المحتوى هم الأطفال الصغار ويكون الضرر قد وقع بالفعل.
ولا تزال هناك أعدادٌ لا تحصى من المقاطع على الموقع، مع أن الكثير منها قد حُذِف. ففي مارس/آذار، وثَّق موقع Wired الأميركي عدداً هائلاً من المقاطع العنيفة وأظهر إمكانية الانتقال من مقطع واسع الانتشار للأطفال عن الأبجدية إلى فيلم تُرتكب فيه جريمة حقيقية من بطولة ميني ماوس في 14 خطوة، فقط باتباع ترشيحات يوتيوب نفسه.
الصدمة.. أن عبارة Safe for Kids، لا تعني أنه آمن!
هل عبارة Save for Kids من المفترض أن تُقرأ Safe for Kids، أي "آمن للأطفال"؟ هو ليس آمناً للأطفال على كل حال، ومن الواضح أن الاكتفاء بلعب لعبة whack-a-mole مع مصطلحات البحث والحسابات المحظورة لن يحل أبداً المشكلات المتشابكة المتعلقة بانتهاك حقوق الملكية الفكرية وترشيحات الخوارزميات والحوافز المادية الناشئة عن الإعلانات على منصةٍ تحصل على مليارات المشاهدات دون رقابة بشرية فعالة.
ليست المسألة ما إن كانت هذه المقاطع مؤذية عن عمد، أم هي محض استفزاز، أم هي النتيجة الظاهرة للأنظمة المعقدة.
الجديد هنا أن النظام الذي يتكاثر فيه هذا العنف موجودٌ أمامنا مباشرة، ومتواطئ بوضوحٍ للعيان، إن أردنا رؤية الأمر على ما هو عليه. اخترت للمقال الأول عنوان "هناك مشكلةٌ على شبكة الإنترنت"؛ لأنه قد بدا حينها -وما زال يبدو لي- أن المشكلات التي أوضحتها الفضيحة للعيان لا تقتصر على محتوى الأطفال، ولا على يوتيوب. وأولى هذه المشكلات هي أنَّ أنظمة الإدارة بالخوارزميات، بدلاً من أن تقودنا إلى واحة المساواة والتمكين المشرقة، تعزز تحيُّزاتنا المسبقة وتُقويها باستمرار، في حين تؤذي من هُم أقل فهماً للأنظمة التي وقعوا في شباكها، ومن ثَمَّ، تُسيطر عليهم.
لننظر في البداية إلى نظام ترشيحات يوتيوب، الذي لا يُفرِّق بين أفلام ديزني وبين الرسوم المتحركة الرديئة المصنوعة في مزارع الروبوتات في الصين. ما تفعله آلية "إن أعجبك هذا فسيعجبك هذا" -التي تبدو حميدةً للوهلة الأولى- هو أنَّها تدرب الأطفال الصغار عملياً منذ ولادتهم على النقر على أول شيء يظهر في طريقهم، بغض النظر عن مصدره. وهي الآلية نفسها التي جعلت فيسبوك يضع الإعلانات والسياسات الزائفة ونظريات المؤامرة في صفحات ملايين المصوتين الساخطين، والنتيجة هي هي تقريباً: المزيد من المحتوى المتطرف والانقسام في وجهات النظر. أضف إلى هذا استحالة معرفة مصدر هذه المقاطع (معظمها من حسابات مجهولة تحمل آلاف المقاطع المتشابهة)؛ ليغرق المشاهد في بحرٍ من الشك الوجودي، وهو ما يبدو مألوفاً إلى درجةٍ مقلقة في عالم تتزايد فيه سيطرة الأنظمة التي تفتقر إلى الشفافية والمساءلة على جوانب بالغة الأهمية من حياتنا اليومية.
الفلاتر ونظرة قاصرة
رأينا كيف كانت برامج الحاسوب المصممة لتقديم توصيات متوازنة لأحكام القضاء في المحاكم الأميركية أكثر عُرضةً لاعتبار المدعى عليهم من ذوي البشرة السوداء أميل إلى ارتكاب جريمة أخرى؛ ليصل معدل الخطأ في اتهام السود إلى ضعف المعدل بالنسبة للبيض (45% مقابل 25%).
ورأينا كيف تفضل أنظمة الخوارزميات الرجال على النساء في الوظائف العليا؛ إذ وجدت دراسةٌ أن نظام الإعلانات بجوجل أظهر الوظائف الأعلى راتباً 1852 مرة للرجال مقابل 318 مرة فقط لمجموعة نسائية بالمواصفات نفسها.
وحين أطلقت الحكومة الأسترالية برنامج robo-debt الآلي لاسترداد الديون، فرض البرنامج بالخطأ والمخالفة للقانون عقوباتٍ على الفئات الأضعف في المجتمع، الذين لم يكن لهم مأوى يدعمهم أو مشورة قانونية تمكنهم من تحدي النظام.
وفي الأشهر التي تلت كتابة أولى مقالاتي عن مشكلة المقاطع الغريبة على يوتيوب، التقيت بعدد من الأشخاص من شركة يوتيوب، إضافةً إلى عاملين بمنصات أخرى تعرضت لعواصف مماثلة. وفي حين أن أغلبهم حسن النية، لا يفهم سوى قليل منهم المشكلات البنيوية الأكبر في المجتمع، التي تتربح منها أنظمتهم وتؤدي إلى تفاقمها في الوقت نفسه. فهُم مثل أغلب العاملين في شركات التقنية الكبرى، يظنون أن هذه المشكلات يمكن حلها بتطبيق المزيد من التكنولوجيا المتمثلة في خوارزميات أفضل، إدارة أكثر، هندسة أكثر. وهناك كثيرون خارج فقاعة التقنية -لا سيما في الغرب والمناطق مرتفعة الدخل- تروعهم فكرة أن يسمح أحدٌ لأطفاله بزيارة يوتيوب من الأساس.
لكننا لن نحل هذه المشكلات بإلقاء اللوم على الشركات أو حثها على أداء أفضل، كما أننا لن نحل مشكلة السمنة عن طريق شيطنة الوجبات السريعة، لكن سنحلها بانتشال الناس من الفقر. فإن كان يوتيوب يسد عجزاً في العناية بالطفل، فالحل هو زيادة تمويل العناية بالطفل والتعليم عامةً، وليس إصلاح يوتيوب.
ما يحدث للأطفال على يوتيوب، وللمدعى عليهم في المحاكمات المعززة بالخوارزميات، وللمدينين الفقراء في أستراليا، سيحل بنا جميعاً. كل وظائفنا وأنظمة الدعم الحياتية والعقود الاجتماعية معرضة للأتمتة، وهذا لا يعني بالضرورة أن تحل الروبوتات محلنا فعلياً، لكن مجرد أن نكون تحت رحمتها.
نجوم يوتيوب يحتاجون إلى استراحة
ويوتيوب يعلمنا درساً آخر ناجعاً هنا: ففي الأسبوع الماضي فقط، نُشر تقريرٌ عن أنَّ أنجح نجوم يوتيوب الشباب -الذين يتابعهم ويحبهم الملايين من أقرانهم- يغلبهم الإنهاك وينهارون بالجُملة. وذكرت مجلة بوليغون، إلى جانب أمثلة أخرى، روبن غندرسن، أو "إل روبيوس"، ثالث أكثر صناع الفيديوهات على يوتيوب انتشاراً في العالم بعدد مشتركين في قناته يقترب من الثلاثين مليوناً. خرج روبن في بثٍّ حي مؤخراً يتحدث مع مشاهديه عن مخاوفه من انهيار وشيك، ويعلمهم بقراره أخذ استراحة من يوتيوب. وإل ميلز، صانعة فيديوهات ذات شعبية واسعة على يوتيوب بنحو مليون ومئتي ألف متابع، نشرت مقطعاً يظهرها تمر بنوبة قلقٍ، في مقطع بعنوان Burn Out at 19.
ربما كان من السهل الاستهزاء بهؤلاء المشاهير الشباب، لولا حقيقة أن تجربتهم هي أكثر الأمثلة الملهمة على التوظيف بالخوارزميات الذي يعانيه كثيرون بالفعل. والمواصفات -قبل كل شيء- هي نفسها: ساعات عملٍ طويلة دون عطلات أو حوافز أو دعم مؤسسي، وضغط العمل بمعدل الآلة تحت نظامٍ تتغير أهدافه وآلياته غير الواضحة باستمرار، ولا يتدخل فيها الخاضعون لها. (في لمحةٍ باعثة على الاكتئاب، تأثر الكثير من صناع الفيديوهات هؤلاء بتراجعٍ في الأرباح جاء نتيجةً مباشرة لمحاولات يوتيوب نزع الأرباح عن المحتوى "غير اللائق" للأطفال؛ لذا فحل مشكلةٍ في النظام لا يؤدي إلَّا إلى تفاقم مشكلات أخرى).
غرابة مقاطع يوتيوب، وتطرف فيسبوك وتويتر، والتحيزات الكامنة في أنظمة الخوارزميات، كلها تحمل شيئاً واحداً مشتركاً مع الإنترنت نفسه، وهو أنَّ لا أحد صممها عمداً لتعمل بهذه الطريقة، باستثناءات قليلة قذرة.
ربما يكون هذا هو الدرس الأغرب والأنجع الذي نتعلمه من هذه الأمثلة، إن أردنا التعلم.
يبدو أن العنف والغرابة الناتجين عن هذه الأشياء يرتبطان ارتباطاً مباشراً بقصور فهمنا لآليات عملها وما هو مخفي عنَّا، عن قصدٍ أو غير قصد، لأغراض الفعالية وسهولة الاستخدام، واستجابةً لدواعي السرية في المؤسسات والسرية الوطنية، ومطالب النطاق الواسع الذي يمتد عبر كوكبٍ بأكمله.
نعيش في عصرٍ يميزه العنف وانهيار مثل هذه الأنظمة، من الرأسمالية العالمية إلى التوازن المناخي. وإن كان هناك أمل لمن تعرضوا لهذه التجاوزات من المهد، فربما يكمن في أنهم سيكونون أول الأجيال القادرة على التفكير في التعقيد العالمي بطرقٍ تزيد من دورنا الفاعل، ولا تقلّله.
