Рейтинг:1

Дифференциальная конфиденциальность: механизм Гаусса, когда $\epsilon >1$, механизм Лапласа, когда $\epsilon = 0$

флаг cn

В ресурсах дифференциальной конфиденциальности предельные случаи $\эпсилон, \дельта$ недостаточно обоснованы.

Например, на Википедия, говорят, что механизм Гаусса работает только тогда, когда $\эпсилон < 1$. Однако любой гауссовский механизм, удовлетворяющий, например, $(0,1, \дельта)$-дифференциальная конфиденциальность, уже удовлетворяет $(1, \дельта)$-дифференциальная конфиденциальность, или $(5^{100}, \дельта)$-дифференциальная конфиденциальность, я прав?

Точно так же в некоторых ресурсах определение DP предназначено для $\эпсилон\geq 0 $, но тогда утверждается, что механизм Лапласа достигает $(\эпсилон, 0)$-дифференциальная конфиденциальность для любого $\эпсилон$. Однако как насчет $\эпсилон = 0$? Распределение Лапласа с плотностью $\пропто 1/\эпсилон$ в данном случае не определяется. Есть ли у нас хоть какой-нибудь добавка механизм, удовлетворяющий $(0,0)$-дифференциальная конфиденциальность?

Изменить: я понимаю следующее. Не существует механизма аддитивного шума, который может обеспечить DP с $\эпсилон = 0 , \дельта = 0$. Это просто невозможно, так как мы Добавлять некоторый шум (конечно, при условии, что чувствительность не $0$ в этом случае нам даже не нужно добавлять шум). Кроме того, механизм Лапласа обеспечивает ДП с $\epsilon>0,\delta = 0$, а это означает, что также любой $\epsilon>0,\delta\geq 0$ будет возможно. С другой стороны, механизм Гаусса требует $\эпсилон, \дельта > 0$, так что это ничего не обобщает в случае Лапласа с точки зрения осуществимости (т. Е. Что достижимо, что недостижимо). Поэтому я думаю, что единственная двусмысленность заключается в следующем: есть ли у нас аддитивный механизм, который достигает DP с $\эпсилон = 0$ и любой $\дельта > 0$?

Рейтинг:2
флаг ru

В случае механизма Гаусса важно различать использование $\эпсилон$ для параметризации распределения Гаусса и его использования для количественной оценки уровня дифференциальной конфиденциальности. Для любой $0<\эпсилон<1$ и $0<\дельта<1$ мы можем построить механизм, который добавляет шум, распределенный $$\mathcal N(0,2\log(5/4\delta)(\Delta f)^2/\epsilon^2)$$ и тогда у нас есть статистическая гарантия, что это обеспечивает $(\эпсилон,\дельта)$-дифференциальная конфиденциальность и действительно $(\эпсилон',\дельта')$-дифференциальная конфиденциальность для любого $\эпсилон'\ге\эпсилон$ и $\дельта'\ге\дельта$. Однако если (например) мы возьмем, скажем, $\эпсилон=2$ и $\дельта=1/2$ хотя мы все еще можем построить функцию шума $$\mathcal N(0,2\log(5/2)(\Deltaf)^2/4),$$ мы не можем использовать теорему, чтобы сказать, что мы имеем $(2,0.5)$-дифференциальная безопасность. Википедия пытается выразить ограничения того, что доказуемо, используя конструкцию Гаусса, а не ограничивать диапазон значений дифференциальной конфиденциальности.

Аналогично, в случае Лагранжа конструкция не определена для $\эпсилон=0$ и поэтому не может использоваться с этим параметром. Опять же, это ограничение конструкции Лагранжа, а не предел диапазона значений дифференциальной конфиденциальности.

С точки зрения $(0,0)$-дифференциальная конфиденциальность, это будет означать, что наш алгоритм $\математический А$ производит одинаково распределенные выходные данные для всех наборов данных. Это означает, что $\математический А$ не зависит от набора данных и не может быть смоделирован путем добавления шума к алгоритму, зависящему от набора данных.

independentvariable avatar
флаг cn
Спасибо за отличный ответ! В целом, есть ли у нас механизмы, работающие с $\epsilon = 0$ и $\delta > 0$? Или это полностью зависит от структуры набора данных?
Daniel S avatar
флаг ru
Здесь мы подходим к пределу моих знаний. Очевидно, что любой механизм обеспечивает $(0,1)$-дифференциальную конфиденциальность. Для промежуточных значений $\delta$ я подозреваю (но не знаю), что это будет очень зависимо от $\mathcal A$ и его взаимодействия с наборами данных.
independentvariable avatar
флаг cn
именно это было моей интуицией, большое спасибо!

Ответить или комментировать

Большинство людей не понимают, что склонность к познанию нового открывает путь к обучению и улучшает межличностные связи. В исследованиях Элисон, например, хотя люди могли точно вспомнить, сколько вопросов было задано в их разговорах, они не чувствовали интуитивно связи между вопросами и симпатиями. В четырех исследованиях, в которых участники сами участвовали в разговорах или читали стенограммы чужих разговоров, люди, как правило, не осознавали, что задаваемый вопрос повлияет — или повлиял — на уровень дружбы между собеседниками.