Локальная дифференциальная конфиденциальность - Local differential privacy

Локальная дифференциальная конфиденциальность это модель дифференциальная конфиденциальность с добавленным ограничением, что даже если злоумышленник имеет доступ к личным ответам человека в базе данных, он все равно не сможет узнать слишком много о личных данных пользователя. Это контрастирует с глобальной дифференциальной конфиденциальностью, моделью дифференциальной конфиденциальности, которая включает центральный агрегатор с доступом к необработанным данным.^[1].

История

В 2003 г. Александр В. Евфимиевский, Йоханнес Герке, Рамакришнан Шрикант^[2] дал определение, эквивалентное локальной дифференциальной конфиденциальности. В 2008 году Kasiviswanathan et al.^[3] дал формальное определение, соответствующее стандартному определению дифференциальной конфиденциальности.

Типичным примером локально дифференцированного частного механизма является рандомизированный ответ Методика опроса, предложенная Стэнли Л. Уорнером в 1965 году, предшествовавшая современным дискуссиям о конфиденциальности.^[4] Нововведением Уорнера было введение модели «ненадежного куратора», в которой организация, собирающая данные, может быть ненадежной. Перед тем, как ответы пользователей будут отправлены куратору, ответы рандомизируются контролируемым образом, что гарантирует дифференцированную конфиденциальность и позволяет делать достоверные статистические выводы для всего населения.

ε-локальная дифференциальная конфиденциальность

Определение ε-локальной дифференциальной конфиденциальности

Пусть ε - положительное настоящий номер и ${\displaystyle {\mathcal {A}}}$ быть рандомизированный алгоритм который принимает на вход личные данные пользователя. Позволять ${\displaystyle {\textrm {im}}{\mathcal {A}}}$ обозначить изображение из ${\displaystyle {\mathcal {A}}}$. Алгоритм ${\displaystyle {\mathcal {A}}}$ как говорят, обеспечивает ${\displaystyle \epsilon }$-локальная дифференциальная конфиденциальность, если для всех пар возможных личных данных пользователя ${\displaystyle x}$ и ${\displaystyle x^{\prime }}$ и все подмножества ${\displaystyle S}$ из ${\displaystyle {\textrm {im}}{\mathcal {A}}}$:

${\displaystyle \Pr[{\mathcal {A}}(x)\in S]\leq e^{\epsilon }\times \Pr[{\mathcal {A}}(x^{\prime })\in S],}$

где вероятность берется за случайность используется алгоритмом.

Основное различие между этим определением и стандартным определением дифференциальной конфиденциальности заключается в том, что при дифференциальной конфиденциальности вероятности являются выходными данными алгоритма, который принимает данные всех пользователей, а здесь речь идет об алгоритме, который принимает данные одного пользователя.

Иногда определение принимает алгоритм, который имеет все данные пользователей в качестве входных данных, и выводит набор всех ответов (например, определение в Раф Бассили, Кобби Ниссим, Ури Стеммер и Абхрадип Гуха Тхакурта газета 2017 года ^[5]).

Развертывание

Локальная дифференцированная конфиденциальность была развернута в нескольких интернет-компаниях:

• ДОКЛАД^[6], куда Google использовали локальную дифференциальную конфиденциальность для сбора данных от пользователей, как и другие запущенные процессы и Хром домашние страницы
• Набросок среднего числа частных (и отклонений)^[7] куда яблоко использовали локальную дифференциальную конфиденциальность для сбора данных об использовании смайликов, слов и другой информации из iPhone пользователи

Рекомендации

1. «Локальная и глобальная дифференциальная конфиденциальность - Тед пишет». desfontain.es. Получено 2020-02-10.
2. Евфимиевский, Александр В .; Герке, Йоханнес; Срикант, Рамакришнан (9–12 июня 2003 г.). «Ограничение нарушений конфиденциальности при сохранении конфиденциальности данных». Материалы двадцать второго симпозиума ACM SIGMOD-SIGACT-SIGART по принципам систем баз данных. С. 211–222. Дои:10.1145/773153.773174. ISBN  1581136706. S2CID  2379506.
3. Kasiviswanathan, Шива Прасад; Ли, Хомин К .; Ниссим, Кобби; Расходникова, Софья; Смит, Адам Д. (2008). «Чему мы можем научиться в частном порядке?». 2008 49-й ежегодный симпозиум IEEE по основам компьютерных наук. С. 531–540. arXiv:0803.0924. Дои:10.1109 / FOCS.2008.27. ISBN  978-0-7695-3436-7.
4. Уорнер, Стэнли Л. (1965). «Рандомизированный ответ: метод исследования для устранения уклончивого ответа». Журнал Американской статистической ассоциации. 60 (309): 63–69. Дои:10.1080/01621459.1965.10480775. PMID  12261830.
5. Бассили, Раф; Ниссим, Кобби; Стеммер, Ури; Такурта, Абхрадип Гуха (2017). «Обучение с учетом конфиденциальности». Практичные местные частные тяжеловесы. Достижения в системах обработки нейронной информации. 30. С. 2288–2296. arXiv:1707.04982. Bibcode:2017arXiv170704982B.
6. Эрлингссон, Эльфар; Пихур, Василий; Королова, Александра (2014). «ДОКЛАД: рандомизированный агрегированный порядковый ответ с сохранением конфиденциальности». arXiv:1407.6981. Bibcode:2014arXiv1407.6981E. Дои:10.1145/2660267.2660348. S2CID  6855746.
7. «Обучение с конфиденциальностью в масштабе». 2017.