Facebook может взяться за ум?

Опубликованно 24.09.2018 02:48

Технологические компании любят говорить об огромном доброкачественные изменения их продукты принесет. Взять Facebook, со своей миссией, чтобы “дать людям возможность создавать сообщества и приблизить мир вместе”. Или Google, которая хочет, чтобы “организовать мировую информацию и сделать ее универсально доступной и полезной”. Microsoft надеется “расширить возможности каждого человека и каждой организации на планете, чтобы достичь большего”. Даже Snapchat, который открывает свои корпоративные био со смиренной утверждают, что “привязка Inc является фотоаппаратом фирмы”, не могу не отметить: “мы вносим свой вклад в прогресс человечества путем расширения возможностей людей, чтобы выразить себя, жить в данный момент, познавать мир и весело провести время вместе.”

Такие заявления демонстрируют масштаб амбиций, что является нормой среди крупнейших компаний технологии. Это редко, однако, чтобы найти много времени или усилий, направленных на незапланированные последствия в мире новых технологий.

Есть исключения. Когда Google приобрел лондонский AI компанию DeepMind в 2014 году, одним из требований учредителей было создано комиссии по этике, чтобы убедиться, что любое дальнейшее использование технологии регулируется строгими моральными принципами. Год спустя, Элон Маск выступил инициатором создания А. И. исследование группы OpenAI, высказавшись за необходимость “продвижения цифрового интеллекта в сторону, что скорее всего в интересах человечества в целом, без необходимости генерировать финансовую отдачу”.

Но иногда, возникают огромные потрясения от продуктов и функций, которые не были предназначены, чтобы изменить ход мировых событий. Принять решение Facebook, а в 2017 году, чтобы проверить, является ли ввод новостей в отдельном разделе с – теперь иронически названный – лента новостей позволит увеличить вовлеченность пользователей. При этом у компании может быть тяжело ранен независимого медиа-экосистемы некоторых развивающихся демократий, таких, как Камбоджа, в котором протестировали функции.

Но это меркнет по сравнению с обвинение в том, что Facebook может случайно включили этническую чистку меньшинства Рохингья в Мьянме. На платформе увидел вирусным распространением “фейковых новостей” и гипер-партизанских общин, но без стабильного гражданского общества, чтобы обеспечить уравновешивающая сила, взорвала страну в насилие.

Теперь Facebook пытается избежать повторения такого рода событий, а также избавиться от негативных новостей, как Кембридж Аналитика скандал, с создания “следственного отдела” (ИОТ), чтобы попробовать и место серьезные нарушения его платформе, прежде чем они произойдут. Команда рекламно-преподавательский состав, ученые, и бывшие шпионы, работающие с компанией “заглянуть в будущее и выяснить, что будет за углом”, директор деловой этики Facebook по Линда Тальго сказал BuzzFeed две недели назад.

Человек читает "Пномпень пост", Камбоджа: сделал решения Facebook о своих новостей оказывают влияние на независимые СМИ в стране? Фото: Samrang Принг/Рейтер

Но вам не нужно сидеть внутри кавернозных Facebook в Менло-Парк офис, чтобы получить представление о пожарах компании придется бороться в ближайшем будущем – или бомбы с часовым механизмом и все остальные отрасли, сидя на, либо. Поэтому я собрал свою собственную команду следственных действий, от людей, которые наблюдали отрасли издалека, и спросил их, что предупреждения они бы в Силиконовую долину.

Исследователь безопасности Инти де Ceukelaire имеет рекордный для выявления проблем, которые пропустили Facebook. В прошлом месяце он призвал компанию устранить утечку данных, что увидел личную информацию от 120 миллионов пользователей популярного приложения Quiz (nametests.com) подвергаются воздействию злоумышленников. Он говорит, что подобные проблемы по-прежнему остаются на месте – и в то время как компания спешит подавить плохие актеры, слишком пресыщенный о своих “партнеров”.

“Facebook не временно заблокирован nametests.com пока проблема не была исправлена, что заняло около двух месяцев”, - сказал он. Но “когда я начал конфиденциальности апреля осведомленности дураков кляп, он был заблокирован в течение нескольких часов, а позже все домены, связанные со мной получил бан от Facebook.” Кроме того, он предупреждает, что у некоторых партнеров “имеют особые привилегии доступа к данным [что] помогите установить монополию Facebook даже больше: это не им решать, кто получает доступ к данным, а кто нет”.

Томас Хассон, главный аналитик Forrester, бросить сеть шире, чем просто вопросы безопасности, утверждая, что даже со всем вниманием этот сектор дает ИИ, он по-прежнему создает риски. “Использование искусственного интеллекта и возможность автоматизации процессов поднимут много этических вопросов. Цифровые платформы, такие как Facebook или Google должен убедиться, что они избегают вредных предубеждений и дискриминации. Ай-технологии, как распознавание лиц или биометрии будет способствовать дальнейшему увеличению неприкосновенности частной жизни потребителей”.

Обеспокоенность по поводу признания лица разделяют Kaltheuner Фредерике конфиденциальности International, который предупреждает, что если компании не беспокойтесь о последствиях технологий, они склонны думать слишком мал. “Проблема в том, что системы отражать уклон в данных обществах. Повсеместное признание лица приведет к массовому уличного наблюдения, которые будут несоизмеримо больше вреда, люди, которые уже ежедневно сталкиваются с проявлениями дискриминации. Гражданское общество и другие должны продолжать борьбу с массовыми распознавания систем, развертываемых в камеры видеонаблюдения”.

Для Kaltheuner, слон в комнате-это бизнес-модель отрасли. “У нас есть проблемы при эксплуатации данных бизнес-модели. Мы тщательно выбираем наши слова здесь – это не о том, что продукты и услуги нужны данные функции. Проблема в том, когда товары и услуги становятся поводом для беспрецедентного интеллектуального анализа данных”.

Самый большой риск для сектора, однако, вероятно, саму проблему, что вызвало нынешний приступ Facebook по интроспекции: доверие. “Вы не можете доверять PR-группа компании, особенно если эта компания не смогла защитить данные от миллионов пользователей,” де Ceukelaire спорит. “Мы делаем шаги в правильном направлении, но это давно назрело. Он должен идти быстрее, быть более прозрачной и менее пр скороговоркою. Это относится не только к Facebook, это относится к любой крупной технологической компании там”.

Арал Балкан: ‘у меня нет желания помочь капиталистической видеонаблюдения улучшить свои общественные отношения.’ Фотография: Ларс Dareberg для опекуна

В более сдержанном тоне, Хассон Форрестер делает много одной и той же точке. “Учитывая, Facebook или Google являются цифровые платформы подключения потребителей и брендов, доверие клиентов является основным фактором”, - говорит он. “Это будет все сложнее – не только из-за более сложных правовых требований, как GDPR [общих правил по защите данных]– а просто потому, что потребители все больше требуют, чтобы бренды закона о ценностях”.

Доверие-это особенно важный ресурс, потому что это также не хватает в отношениях Facebook и Google с их реальных клиентов: рекламодатели, которые составляют подавляющее большую часть своих доходов. Facebook неоднократно был вынужден извиниться за завышая показатели, которые он отчитывается перед рекламодателями, даже как YouTube от Google столкнулся с атаками рекламодателям по вопросам безопасности (например, как известно, работает платная реклама за Исламское государство пропаганды). “В этой связи, Amazon, безусловно, находится впереди Google или Facebook,” Хассон заметки.

Группа расследования, очевидно, хороший способ, чтобы вернуть доверие. Возможно, подозрительно хороший способ. Арал Балкан, защитник частной жизни и Киборг правозащитник, отказывается дать доверие “ограничение ущерба и пр. упражнение”, что Facebook работает.

“То, что мы имеем здесь дело с птицефабрики для человека, который был публично унижен, как он относится к своим живыми животными, управлением внутреннего аудита, чтобы избежать будущих пиар-катастрофы,” Балкан говорит. Его спросили, что он бы выделил, если бы он оказался на той же команды, он одергивает: “я бы не на одной из тех команд, начнем с того, как у меня нет желания помочь капиталистической наблюдение улучшить свои общественные отношения. У меня есть все намерения, с другой стороны, обеспечить его нарушениях, эффективно регулируется и помогает создание этической альтернативы.”

Реальной мерой команды не будет проблем, они заметят, однако, но в силу они должны изменить планы компании, чтобы избежать этих минных полях – даже если несет вперед может быть самый выгодный курс действий. Если ИОТ делает свою работу хорошо, мы больше никогда не слышать об этом. Для Facebook, это может быть лучший исход из всех. Академических инициатив в изучении непреднамеренных последствий технологии

Центра исследований научно-исследовательского центра экзистенциального риска в Crassh (Центр Исследований в области искусства, социальных и гуманитарных наук) в Кембриджском университете, посвященных “изучению и минимизации рисков, которые могут привести к исчезновению человека или краха цивилизационного”.

Основана в 2012 году Мартин Рис, королевский астроном; цена Хью, Бертраном Расселом профессор философии; и Яан Таллинн, со-основатель Skype.

Будущее человечества InstituteFounded в 2005 году, Научно-исследовательский институт Оксфордского университета направлена на “принести инструменты математики, философии, общественных наук и науки, чтобы опереться на большой картинке вопросы о человечестве и его перспективы”.

Его основатель и директор, шведский философ Ник Бостром, также приводит стратегического исследовательского центра искусственного интеллекта и является автором бестселлера Нью-Йорк Таймс Суперинтеллект: пути, опасности, стратегии.

Миссия Беркли экзистенциальный InitiativeBeri риска“, чтобы улучшить долгосрочные перспективы человеческой цивилизации для выживания и процветания”. Созданы в Беркли, штат Калифорния, это способствует тому, что он называет “Х-риск экосистемы” - сеть аналитических центров, некоммерческих организаций, отдельных ученых и меценатов.

Данная статья содержит партнерские ссылки, что означает, что мы можем заработать небольшую комиссию, если читатель нажмет на них и делает покупку. Вся наша журналистика независимой и никоим образом не влияет каким-либо рекламодателем или коммерческую инициативу. Ссылки работают на Skimlinks. Нажав на партнерскую ссылку, вы признаете, что печенье Skimlinks будет установлен. Дополнительная информация.

14

Категория: Технологии