Поддающаяся проверке честность: расчет справедливости для систем машинного обучения с сохранением конфиденциальности: заключение

Таблица ссылок

Аннотация и введение

Предыстория и сопутствующая работа

FaaS-архитектура

Анализ внедрения и производительности

Заключение

Благодарности и ссылки

5. Вывод

В этом документе предлагается «Справедливость как услуга» (FaaS), надежная архитектура обслуживания и безопасный протокол для расчета алгоритмической справедливости. FaaS спроектирован как сервис, который рассчитывает справедливость, не запрашивая у системы ML предоставления исходного набора данных или информации о модели. Вместо этого требуется зашифрованное представление значений функций данных, предоставляемых системой машинного обучения, в форме криптограмм. Мы использовали неинтерактивные доказательства с нулевым разглашением в криптограмме, чтобы гарантировать, что протокол выполняется должным образом. Эти криптограммы размещаются на общедоступной доске честности, чтобы каждый мог проверить правильность вычислений на предмет честности системы ML. Это новый подход к расчету справедливости с сохранением конфиденциальности, поскольку в отличие от других подобных предложений, использующих подход федеративного обучения, наша архитектура FaaS не полагается на конкретную модель машинного обучения или определение показателя справедливости для своей работы. Вместо этого у вас есть свобода применения желаемой модели и показателя справедливости по выбору.

В этой статье мы доказали, что протокол безопасности гарантирует конфиденциальность данных и не допускает утечки информации о модели. По сравнению с более ранними разработками, доверие к нашему проекту заключается в правильном построении криптограммы системой ML. Возможно, это более реалистичное решение, чем предоставление полного доступа к данным доверенной третьей стороне, принимая во внимание множество юридических, деловых и этических требований систем ML. В то же время это создает новую задачу по повышению доверия к системе ML. Повышение доверия к построению криптограмм остается интересной исследовательской задачей, вытекающей из представленного протокола.

Мы реализовали концепцию FaaS и провели эксперименты по производительности на обычном оборудовании. Для завершения протокола требуется несколько секунд на каждую точку данных, что приводит к проблемам с производительностью, если количество точек данных велико (десятки тысяч). Чтобы смягчить проблемы с производительностью, протокол безопасности организован таким образом, что построение криптограммы может выполняться в автономном режиме. Выполнение расчета справедливости на основе криптограммы — это задача, которую предстоит решить в будущей работе. В целом мы считаем, что FaaS и представленный базовый протокол безопасности обеспечивают новый и многообещающий подход к расчету и проверке честности алгоритмов ИИ.