Как свинка Пеппа стала видео кошмар для детей

Опубликованно 10.07.2018 14:09

В ноябре прошлого года я прочитал статью в Нью-Йорк Таймс о тревожных роликов, ориентированных на детей, которые распространяются через YouTube. Родители сообщили, что их дети сталкиваются с стук-офф выпуски своих любимых мультяшных героев в ситуации насилия и смерти: Пеппа свиньи выпивая отбеливатель, или Микки Мауса, которого сбил автомобиль. Краткая погуглить некоторые термины, упомянутые в статье воспитываются не только много больше счетов нежелательного Контента, постов в Facebook, потоки новостей, и других газет, а также тревожных последствий. Ранее счастливым и хорошо воспитанных детей стал бояться темноты, подверженный приступам плача, или проявления агрессии и говорили о себе вредить – все классические симптомы злоупотребления. Но несмотря на эти сообщения, YouTube и его материнской компании, как Google, мало было сделано для их решения. Кроме того, по-видимому, существует мало понимания того, где эти ролики шли, как они были произведены, или даже почему они существовали в первую очередь.

Я писатель и художник, с акцентом на широкие культурные и социальные последствия новых технологий, и это, как большинство моих навязчивых идей начала: все что волнует и копать глубже, с оглядкой на скрытую инфраструктуру и скрытые процессы. Это подход, который ранее вел меня расследовать система Великобритании перелета депортации или его сложные наблюдения сети дорог, и на этот раз он привел меня в странные, сюрреалистические, и часто тревожные глубинки Ютуб детские видео. И эти видео вызывают беспокойство на нескольких уровнях. Как я проводил все больше и больше времени с ними, я обеспокоилась не только по своему содержанию, но кстати сама система, казалось, воспроизводить и усугублять свои самые отвратительные эксцессы, наживаться на детях худшие опасения и связывать их в кошмар плейлисты, а слепо награждение их создателей для повышения их мнению считается даже как видео, сами спустились в бессмысленной пародии и бессмысленные истории.

Для взрослых, это явная странность многих видео, что кажется более тревожным, чем насилие. Это то, что труднее объяснить – и труднее для людей, чтобы понять – если Вы не погрузитесь в видео, которое я бы не рекомендовал. Не просто стук-offs существует и провокации целого класса бессмысленным, алгоритм-контент; миллионы видео, которые служат лишь для того, чтобы притягивать взгляды и производить доход, слепленный из потешки, обзоры игрушек, и культурные недоразумения. Некоторые, кажется, быть продуктом случайных звание генераторы, другие – и многие другие – связаны с реальными людьми, включая маленьких детей, распределенных по всему земному шару, действуя из бесконечно безумные требования Ютубе и рекомендации, алгоритмы, даже если нет смысла, даже если придется растоптать себя полностью, чтобы сделать это.

Сцена из Минни Маус поперхнулся Пицца для еды слишком много. Фотография: На YouTube

Когда я писал очерк о видео онлайн, реакция общественности во многом отражало мое собственное. С одной стороны, люди были в ужасе, когда узнала, что такие видео существуют, а с другой, совершенно ошарашило масштабами и странность, что они нашли. Сочетание отправлен в статье вирусный: это был общий и читать онлайн миллионы раз, подобрал сайты и газеты по всему миру, и даже в результате вопросов, задаваемых в Европейском парламенте. Наконец, YouTube начал отвечать, несмотря на свои усилия, и результаты были неоднозначными.

Первоначальное предложение ютубе заключалась в том, чтобы ограничить рекламу на спорные материалы, направленные на детей, но его предложения не честно вести свою собственную платформу. Подсчитано, что 400 часов видео загружаются на сайт каждую минуту. Полиции это на руку невозможно; вместо этого, на YouTube полагается на слабеющую зрителей езды официальный комментарий, который вряд ли подойдет для первых людей, чтобы смотреть эту гадость еще маленькие дети, и ущерб уже нанесен. YouTube также расхваливали технологической панацеей машинного обучения в качестве предпочтительного решения, но в апреле он, наконец, согласился с тем, что выделенного YouTube дети приложение будет переключаться на совсем человеческая модерация, фактически признав, что этот подход не работал.

Как результат, многие видео были удалены с сайта, несчетное число все еще. В марте, проводной каталогизировал множество насильственных счетов и показали, что можно перейти от популярных детских видео-алфавит с Минни фильм мышь в 14 шагов, просто следуя рекомендациям на YouTube. По состоянию на прошлую неделю, Погугли по названию одного из ныне сняли видео, упомянутые в статье Нью-Йорк Таймс (“ЩЕНЯЧИЙ патруль дети делают вид, что умирают самоубийство Аннабель под гипнозом”) дает ссылку на почти одинаковых видео, размещенного на сайте (“ЩЕНЯЧИЙ патруль дети делают вид, что умирают монстр руки от зеркала! Щенячий патруль щенки сохранения анимации для детей”), в котором очаровательные щенки не уродский клип-арт, монстр, маска для устрашения друг друга, прежде чем заманили на крышу с привидениями кукла. “Сохранить для детей,” должен читать “безопасный для детей”? В любом случае, это не так, и это очевидно, что просто играя вжик-а-моль с поиском условий и запретили счета не собирается решать запутанные проблемы авторских прав, алгоритмические рекомендации, и действие денежных стимулов на миллиард-вид платформы без осмысленного человеческого контроля.

Ютубер Элли Миллс, который опубликовал кадры из самой середины тревожности фотография атаки: на YouTube Элли Миллс

Будут ли эти видео являются заведомо вредоносными, “просто” троллинг, или эмерджентного эффекта сложных систем, не в этом суть. Что нового в том, что система, в которой такие размножается насилие прямо перед нами, и явно замешаны, если мы выбираем, чтобы увидеть ее такой, какая она есть. Я назвал, что Оригинальное эссе “что-то не так в интернете”, потому что мне казалось, и до сих пор мне кажется, что вопросы сделаны абсолютно очевидно, что скандал не ограничивается содержание ребенка, ни на YouTube. Первым среди них является, как систем алгоритмического управления, а не ведет нас в направлении на солнечных возвышенностях равенства и расширения прав и возможностей, постоянно воссоздавать и укреплять существующие предрассудки, а угнетает эти хотя бы понимание, и, таким образом, власть над, систем они опутаны.

Взять систему рекомендаций на YouTube для начинающих, которая не делает различия между фильмами Диснея и зернистой анимация готовят бот фермы в Китае. По существу, что, казалось бы, доброкачественной “если вам нравится, что вы такой” механизм делает обучение детей раннего возраста – практически с рождения – нажать на первого, кто попадется, независимо от источника. Это тот же механизм, что видит Facebook слайд поддельные объявления, содержащие политическую рекламу и теории заговора в для миллионов недовольных голосов, а результат – еще более экстремальный контент и делятся мнениями – это то же самое. Добавьте абсолютной невозможности работы, где эти видео приходят из (большинство анонимных счетов с тысячами едва дифференцированной загрузки) и просмотра плывет по течению в море экзистенциальная неопределенность, которая начинает чувствовать неприятное знаком в мире, где непрозрачным и неподотчетным систем все больше и больше контролировать критические аспекты нашей повседневной жизни.

Мы видели, как компьютерные программы, предназначенные для обеспечения сбалансированного рекомендации приговоров в судах США были более склонны к ошибке лейбла Black подсудимых чаще рецидивистами – ошибочно пометив их почти в два раза быстрее, что и для белых людей (45% против 24%). Мы видели, как алгоритмические системы целевых мужчины старше женщин на престижные должности в сфере занятости: в одном исследовании, объявления система Google показала самый высокий высокооплачиваемую работу 1,852 раза для мужчин — но только 318 раз к женской группе с такими же предпочтениями. И мы также видели, как трудно обжаловать эти системы. Когда правительство Австралии ввело “робо-долг”, автоматизированная задолженности программы восстановления, это неправильно и незаконно нарушает наиболее уязвимых слоев общества, которые не имели возможности получить поддержку или совет, чтобы бросить вызов системе.

‘Явная странность многих видео на YouTube, кажется чуть ли не большее беспокойство, чем их насилия’.

В течение нескольких месяцев после первой записи о странных проблемы видео на YouTube, я встретил несколько человек из компании, а также с других платформ, которые были оказавшихся в подобных вихрей. А наиболее благонамеренные, мало похоже на понимание широкой структурные проблемы в обществе, которые их систем как прибыль, так и усугубить. Как и большинство людей, которые работают в крупных технологических компаний, они думают, что эти проблемы могут быть решены с помощью применения технологии: лучше алгоритмы, более умеренности, тяжелее машиностроения. Многие за пределами тек пузырь – особенно на Западе и в высших доходами – попросту шокированы, что никому не позволила бы своим детям использовать YouTube в первую очередь. Но мы не будем исправлять эти проблемы перекладывают на компании, или убеждая их сделать лучше, так как мы не разрешим кризис ожирения по демонизации фастфуда, но и помочь людям выбраться из нищеты. Если YouTube является преодоление разрыва в уходе за ребенком, ответ-увеличить финансирование по уходу за детьми и обучения в целом, не фиксируя на YouTube. Сколько экранного времени-это слишком много для детей? Это сложно Подробнее

Что происходит с детьми на Ютубе, обвиняемым в алгоритмически расширенные судебных процессов, и для бедных должников в Австралии, близится для всех нас. Все наши рабочие места, системы жизнеобеспечения и социальные контракты являются уязвимыми для автоматизации – которая не значит на самом деле быть заменены роботами, но лишь на их милость. YouTube предлагает еще один полезный урок здесь: только на прошлой неделе сообщалось, что самый успешный YouTube-это молодые звезды – “Ютюберов”, а затем и восхищаются миллионы своих сверстников – горят и ломаются массово. Полигон журнал цитируется, среди многих других, примеры Рубен “Эль Рубиус” Гундерсен, третий самый популярный Ютубер в мире с 30 миллионов абонентов, которые недавно вышли в эфир, чтобы поговорить со своим телезрителям о страхах надвигающегося срыва и его решение сделать перерыв с YouTube, и Элли Миллс популярный Ютубер с 1,2 миллиона подписчиков, которые опубликовали кадры из самой середины паническая атака в видео под названием сгореть в 19.

Ютуб звезда Рубен Гундерсен говорил о своей боязни срыва. Фото: Карлос Альварес/Getty Изображения

Это будет просто издеваться над этими молодыми знаменитости, если бы не тот факт, что их опыт-это просто самый харизматичный пример алгоритмической занятости, при которых многие другие уже труда. В особенности, в конце концов, те же: долгие часы без отдыха, льготы и организационная поддержка, и давление, чтобы работать в темпе машины в системе, цели и механизмы неясны и постоянно меняются, и к которой ее субъекты имеют никакой привлекательности. (В удручающем закрутки, многие из этих же странах пострадали от снижения доходов напрямую связана с попытками YouTube в demonetise “неподобающий” контент для детей – решение одной проблемы в системе лишь усугубляет другие.)

Странности Ютуб видео, экстремизм Facebook и Twitter мобы, скрытые предубеждения алгоритмических систем: все они имеют одну общую черту с самого интернета, который заключается в том, что – с несколько грязных исключений – никто специально их таким образом. Это, пожалуй, самый странный и самый полезный урок мы можем извлечь из этих примеров, если мы хотим узнать все. Странности и насилия, которые они производят, кажется, находится в прямой корреляции, как мало мы понимаем их работу – и как многое от нас скрыто, сознательно или иначе, требований эффективности и удобства использования, корпоративной и национальной тайны, и прозрачные планеты, охватывающей шкалу. Мы живем в век характеризуется насилию и разрушению таких систем, от глобального капитализма к балансу климата. Есть ли надежда для тех, кто подвержен его эксцессы с пеленок, возможно, что они станут первым поколением, способным думать о глобальной сложности в отношениях, которые увеличивают, а не уменьшают, агентство всех нас.

Джеймса Брайдла является автором новые темные века, (Версо ?16.99). Заказать копию за $ 14.44 идти guardianbookshop.com или позвоните 0330 333 6846

14

Категория: Технологии