Цифровая красная линия - Digital redlining

Цифровая красная линия это практика создания и увековечения неравенства между и без того маргинализованными группами, в частности, посредством использования цифровых технологий, цифрового контента и Интернета.[1] Концепция цифровой красной черты - это расширение практики красная линия в жилищной дискриминации,[2][3] историческая юридическая практика в Соединенных Штатах и ​​Канаде, восходящая к 1930-м годам, когда красные линии были нанесены на карты для обозначения бедных и преимущественно чернокожих районов, которые считались непригодными для ссуд или дальнейшего развития; это создало большое экономическое неравенство между районами.[4][5] Доктор Крис Гиллиард, специалист по вопросам конфиденциальности, определил цифровую красной черту как «создание и поддержание технологических практик, политик, педагогических методов и инвестиционных решений, которые обеспечивают соблюдение границ классов и дискриминируют определенные группы».[6]

Хотя цифровая красная линия связана с цифровой разрыв и такие методы, как веб-лайнинг и персонализация, он отличается от этих концепций как часть более крупных сложных системных проблем.[7][8] Это может относиться к практике, которая создает неравенство в доступе к технологическим услугам в географических регионах, например, когда интернет-провайдеры решают не обслуживать определенные географические районы, поскольку они считаются не столь прибыльными, и тем самым ограничивают доступ к важнейшим услугам и гражданскому участию.[9] Его также можно использовать для обозначения неравенства, вызванного политикой и практикой цифровых технологий.[2] Например, с помощью этих методов неравенство достигается за счет разделения, которое создается с помощью алгоритмов, скрытых от пользователя технологии; использование большое количество данных и аналитика допускают гораздо более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения.[10] Эти алгоритмические средства становятся возможными благодаря использованию нерегулируемых технологий обработки данных, которые применяют оценку к людям, которые статистически классифицируют личностные черты или тенденции, которые похожи на кредитную оценку, но являются собственностью технологических компаний и не находятся под внешним контролем.[11][2]

Цифровая красная линия и география

В то время как корни красной черты лежат в исключении населения по географическому признаку, цифровая красная линия имеет место как в географическом, так и не географическом контексте.[2] Пример обоих контекстов можно найти в обвинениях, выдвинутых против Facebook 28 марта 2019 г. Министерство жилищного строительства и городского развития США (HUD). HUD обвинил Facebook в нарушении Закона о справедливом жилищном обеспечении 1968 года, «поощряя, разрешая и вызывая жилищную дискриминацию через рекламную платформу компании».[12] HUD заявил, что Facebook позволяет рекламодателям «исключать людей, живущих в определенном районе, из просмотра рекламы, проводя красную линию вокруг этого района». Дискриминация, названная HUD, включала расистских, гомофобных, эйлистских и классических сторонников.[12] Помимо этого примера географически привязанного цифрового красного списка, HUD также обвинил Facebook в использовании информации профиля и обозначений для исключения классов людей. В обвинении говорилось: «Facebook позволял рекламодателям исключать людей, которых Facebook классифицировал как родителей; не рожденных в Америке; не христиан; заинтересованных в доступности; интересующихся латиноамериканской культурой; или широкого круга других интересов, которые тесно связаны с справедливым жилищным фондом. Защищенные классы закона "[12] Несколько средств массовой информации указали на собственную историю HUD в отношении дискриминации в жилищной сфере посредством красной черты, принятия Закона о справедливых жилищных условиях для борьбы с красной чертой и того, как цифровая платформа воспроизводила эту дискриминационную практику.[13][14][15][16]

Цифровая красная линия в географическом контексте

Хотя цифровая красная линия относится к сложному и разнообразному набору практик, она чаще всего применяется к практикам с географическим измерением. Общие примеры включают в себя, когда интернет-провайдеры решают не обслуживать определенные географические районы, потому что они считаются не столь прибыльными, что приводит к дискриминации в отношении сообществ с низкими доходами, что в результате сказывается на доступе к важнейшим услугам и гражданскому участию.[9][17] AT&T столкнулась с особым вниманием к этой форме цифровой красной линии, сообщалось, что AT&T была классической в ​​своих предложениях широкополосных интернет-услуг в более бедных областях. [18]

Цифровая красная линия по географическому принципу может также применяться к цифровому контенту или распространению товаров, продаваемых в Интернете. Географические игры, такие как Покемон Го было показано, что они предлагают больше виртуальных остановок и вознаграждений в географических областях, которые менее разнообразны в этническом и расовом отношении. [19] В 2016 году Amazon упрекали в том, что они не предлагали услуги доставки Prime в тот же день многим сообществам, которые в основном были афроамериканцами и имели доходы ниже среднего по стране.[20][21] Это может повлиять даже на такие службы, как электронная почта, поскольку многие администраторы электронной почты создают фильтры для пометки определенных сообщений электронной почты как спама на основе географического происхождения сообщения.[22]

Цифровая красная линия вне географического контекста

Хотя часто сочетается с дискриминацией, которая попадает в географический контекст; не вся цифровая красная линия является географической. Цифровая «красная черта» также относится к случаям, когда уязвимые группы населения становятся жертвами или исключаются из определенного контента или доступа к Интернету, что наносит им вред. Было обнаружено, что профессиональные училища и общественные колледжи, в которых обычно больше учеников из рабочего класса, блокируют доступ своих учеников к общедоступному интернет-контенту, тогда как элитные исследовательские учреждения этого не делают.[23] Использование больших данных и аналитики позволяет применять более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения.[24] Например, Facebook критиковали за предоставление инструментов, позволяющих рекламодателям настраивать таргетинг рекламы по этническому признаку и полу, эффективно блокируя доступ меньшинств к конкретной рекламе жилья и работы.[25][26][27] В октябре 2019 года против Facebook был подан крупный коллективный иск о дискриминации по признаку пола и возраста в финансовой рекламе.[28][29] Широкий круг потребителей может быть особенно уязвим для цифровой красной черты, когда она используется вне географического контекста. Помимо нацеливания на уязвимые группы населения на основе традиционных и признанных законом классификаций, таких как раса, пол, возраст и т. Д., Было показано, что персональные данные, добытые и затем перепроданные брокерами, могут использоваться для нацеливания на тех, кто был идентифицирован как страдающих болезнью Альцгеймера или слабоумие, или его просто называют импульсивным покупателем или легковерным.[30][31]

Термин различия

Различия между веблайнингом и цифровым красным

Ранее проводилось различие между сетью - процессом взимания с клиентов разных цен на основе информации профиля - и интернетом или цифровым красным списком, при этом цифровая красная линия была сосредоточена не на ценообразовании, а на доступе.[7] Еще в 2002 г. Энциклопедия электронной коммерции Gale выдвигает различие, которое чаще используется сегодня: веб-лайнинг - это распространенная и общепринятая (или, по крайней мере, допустимая) практика персонализации доступа к продуктам и услугам способами, невидимыми для пользователя; цифровая красная линия - это когда такие персонализированные схемы, основанные на данных, увековечивают традиционные преимущества привилегированной демографии.[32] Поскольку веб-лайнинг стал более распространенным, этот термин вышел из употребления в пользу более общего термина персонализация.

Различия между цифровым разрывом и красной чертой

Ученые часто связывают цифровой разрыв и цифровая красная линия.[33] На практике «цифровая пропасть» рассматривается как одно из множества последствий «красной черты», а цифровая «красная линия» - один из множества способов сохранения или увеличения разрыва.[23][34]

Критика

В отчете 2001 г. была предпринята попытка выяснить, была ли причина разрыва в доступе к широкополосному Интернету для групп населения с низким доходом и меньшинств из-за отсутствия доступа или из-за других факторов.[33] В отчете было обнаружено, что существует «мало доказательств того, что цифровое выделение красной черты основано на доходе или концентрации чернокожих или латиноамериканцев», но есть смешанные доказательства красной черты, основанной на областях, в которых коренное американское или азиатское население было больше.[33]

Рекомендации

  1. ^ Гиллиард, Кристофер (21.11.2019). Подготовленные свидетельские показания и заявление для протокола доктора философии Кристофера Гильярда, Слушание о банковском обслуживании ваших данных и роли больших данных в ваших финансовых услугах, перед Целевой группой Комитета по финансовым услугам Палаты представителей по финансовым технологиям. Дата обращения 21 ноября 2019
  2. ^ а б c d Подеста, Джон; Пенни, Прицкер; Moniz, Earnest, J .; Холдрен, Джон; Зиентс, Джеффри (май 2014 г.). "Большие данные: использование возможностей, сохранение ценностей " Whitehouse.gov. Проверено 18 декабря 2018 г.
  3. ^ Гиллиард, Крис (2017-07-03). «Педагогика и логика платформ». er.educause.edu. EDUCAUSE Обзор. Получено 2019-04-04.
  4. ^ Мадригал, Алексис К. (22 мая 2014 г.). «Расистская жилищная политика, которая сделала ваш квартал». Атлантический океан. Получено 2018-11-11.
  5. ^ Харрис, Ричард; Форрестер, Дорис (2003-12-01). «Пригородные истоки красной черты: пример из Канады, 1935-54». Урбанистика. 40 (13): 2661–2686. Дои:10.1080/0042098032000146830. ISSN  0042-0980. S2CID  154651681.
  6. ^ Эвелет, Р. (2020). Flash Forward [Аудиоподкаст]. Босс Бот. https://www.flashforwardpod.com/2020/09/29/boss-bot/
  7. ^ а б Биджоли, Хоссейн (26 апреля 2004 г.). Интернет-энциклопедия, том 3 (P - Z). Джон Вили и сыновья. ISBN  9780471689973.
  8. ^ Степанек, Марсия (2 апреля 2000 г.). «Интернет-лайнинг». Bloomberg BusinessWeek.
  9. ^ а б Нейдиг, Харпер (2017-09-25). «AT&T подала вторую жалобу на дискриминацию кварталов с низкими доходами». Холм. Получено 2018-11-11.
  10. ^ О'Нил, Кэти (2016-09-06). Оружие разрушения математики: как большие данные увеличивают неравенство и угрожают демократии. Корона / Архетип. ISBN  9780553418828.
  11. ^ Тейлор, Астра; Садовски, Джатан. «Как компании превращают вашу активность в Facebook в кредитный рейтинг | Нация». Нация. ISSN  0027-8378. Получено 2018-11-11.
  12. ^ а б c «HUD обвиняет Facebook в жилищной дискриминации из-за адресной рекламной практики компании». www.hud.gov (в интернет-архиве). 2019-03-28. В архиве из оригинала 2020-04-10. Получено 2020-04-26.
  13. ^ Правление, Редакция (2019-03-29). «Мнение | Facebook ждет расплата за« красную черту »». Нью-Йорк Таймс. ISSN  0362-4331. Получено 2019-03-31.
  14. ^ Брэндом, Рассел (2019-03-28). «Facebook был обвинен правительством США в жилищной дискриминации». Грани. Получено 2019-03-31.
  15. ^ Джонс, Сара (28 марта 2019 г.). «Facebook обвиняется в дискриминации, несмотря на то, что Бен Карсон отказался от справедливых жилищных условий». Интеллигенсер. Получено 2019-03-31.
  16. ^ Хиггинс, Эоин. "'Похвально, если не просрочено »: HUD Files обвиняет Facebook в виртуальном Redlining». Общие мечты. Получено 2019-03-31.
  17. ^ Нейдиг, Харпер (2017-08-24). «Адвокат по гражданским правам обвиняет AT&T в дискриминации малообеспеченных слоев населения». Холм. Получено 2018-11-11.
  18. ^ Каллахан, Билл (2019-08-06). «Цифровое выделение Далласа AT&T: новое исследование доктора Брайана Уитакра». Национальный альянс цифровой интеграции. Получено 2019-10-29.
  19. ^ Ахтар, Аллана (09.08.2016). «Является ли Pokémon Go расистом? Как приложение может выделять цветные сообщества». США СЕГОДНЯ. Получено 2018-11-11.
  20. ^ Ингольд, Дэвид; Сопер, Спенсер (2016-04-16). «Amazon не учитывает расу своих клиентов. Разве?». Bloomberg. Получено 2018-11-11.
  21. ^ Талбот, Дэвид. «Служба доставки Amazon в тот же день усиливает неравенство». Обзор технологий MIT. Получено 2018-11-14.
  22. ^ Люг, Кристофер; Джефф, Хуанг; Твидейл, Майкл (2007-03-01). "Новый взгляд на Mystery Meat: спам, меры по борьбе со спамом и цифровая красная линия". Вебология. 4.
  23. ^ а б Гиллиард, Крис; Кулик, Хью (2016-05-24). «Цифровая пометка, доступ и конфиденциальность». Здравый смысл образование. Получено 2018-11-11.
  24. ^ Подеста, Джон (2014-05-01). «Результаты обзора рабочей группы по большим данным и конфиденциальности». whitehouse.gov. Получено 2018-11-14.
  25. ^ Ангвин, Джулия; Пэррис младший, Терри (2016-10-28). «Facebook позволяет рекламодателям исключать пользователей по расе». ProPublica. Получено 2018-11-11.
  26. ^ Коул, Саманта; Коблер, Джейсон (4 апреля 2019 г.). «Исследователи считают, что алгоритм таргетинга рекламы Facebook изначально предвзят». Материнская плата. Получено 2019-04-04.
  27. ^ Мухаммед Али; Сапезинский, Петр; Боген, Миранда; Королова, Александра; Mislove, Алан; Аарон, Рике (2019-04-03). «Дискриминация через оптимизацию: как размещение рекламы в Facebook может привести к искаженным результатам». arXiv:1904.02095. Bibcode:2019arXiv190402095A. Дои:10.1145/3359301. S2CID  102353579. Цитировать журнал требует | журнал = (помощь)
  28. ^ Меррилл, Джон Детрикс, Джереми Б. «Борьба с финансовыми рекламодателями, использующими Facebook для красной линии». Кварцевый. Получено 2019-11-02.
  29. ^ «Facebook поразил массовым коллективным иском в отношении гражданских прав женщин и пожилых людей, лишенных доступа к финансовым услугам на Facebook в течение многих лет | Outten & Golden LLP». Outten & Golden. Получено 2019-11-02.
  30. ^ Паскуале, Франк (2017-11-17). "Алгоритмы: как решения компаний относительно данных и контента влияют на потребителей ” Письменное свидетельство Фрэнка Паскуале, профессора права Университета Мэриленда, перед Комитетом Палаты представителей США по энергетике и коммерции Подкомитетом по цифровой торговле и защите потребителей. Проверено 14 ноября 2018 г.
  31. ^ «Манипулирование цифровым рынком» (PDF). Обзор закона Джорджа Вашингтона. 2014-10-03. Получено 2019-11-02.
  32. ^ Малонис, Джейн А. (2002). Энциклопедия электронной коммерции Gale. Гейл Групп. С. 758–760.
  33. ^ а б c Пригер, Джеймс Э. (декабрь 2001 г.). Сторона предложения цифрового разрыва: есть ли красные границы на рынке широкополосного доступа в Интернет? Рабочий документ Объединенного центра АЕИ-Брукингс № 01-16. Доступно в SSRN: https://ssrn.com/abstract=297499 или же https://dx.doi.org/10.2139/ssrn.297499
  34. ^ Ферро, Э., Кантамесса, М., и Паолуччи, Э. (2005). Городской и региональный разрыв: сравнение и классификация цифрового разрыва. В Электронное правительство: к электронной демократии (стр. 81-90). Шпрингер, Берлин, Гейдельберг. По состоянию на 13 декабря 2008 г. https://www.researchgate.net/publication/221460528_Urban_Versus_Regional_Divide_Comparing_and_Classifying_Digital_Divide