Этот документ   под лицензией CC BY 4.0 DEED. доступен на arxiv   Авторы:  (1) Эхсан Торейни, Университет Суррея, Великобритания;  (2) Марьям Мехрнежад, Лондонский университет Ройал Холлоуэй;  (3) Аад Ван Мурсел, Бирмингемский университет.  Таблица ссылок   Аннотация и введение   Предыстория и сопутствующая работа   FaaS-архитектура   Анализ внедрения и производительности   Заключение   Благодарности и ссылки  5. Вывод  В этом документе предлагается «Справедливость как услуга» (FaaS), надежная архитектура обслуживания и безопасный протокол для расчета алгоритмической справедливости. FaaS спроектирован как сервис, который рассчитывает справедливость, не запрашивая у системы ML предоставления исходного набора данных или информации о модели. Вместо этого требуется зашифрованное представление значений функций данных, предоставляемых системой машинного обучения, в форме криптограмм. Мы использовали неинтерактивные доказательства с нулевым разглашением в криптограмме, чтобы гарантировать, что протокол выполняется должным образом. Эти криптограммы размещаются на общедоступной доске честности, чтобы каждый мог проверить правильность вычислений на предмет честности системы ML. Это новый подход к расчету справедливости с сохранением конфиденциальности, поскольку в отличие от других подобных предложений, использующих подход федеративного обучения, наша архитектура FaaS не полагается на конкретную модель машинного обучения или определение показателя справедливости для своей работы. Вместо этого у вас есть свобода применения желаемой модели и показателя справедливости по выбору.  В этой статье мы доказали, что протокол безопасности гарантирует конфиденциальность данных и не допускает утечки информации о модели. По сравнению с более ранними разработками, доверие к нашему проекту заключается в правильном построении криптограммы системой ML. Возможно, это более реалистичное решение, чем предоставление полного доступа к данным доверенной третьей стороне, принимая во внимание множество юридических, деловых и этических требований систем ML. В то же время это создает новую задачу по повышению доверия к системе ML. Повышение доверия к построению криптограмм остается интересной исследовательской задачей, вытекающей из представленного протокола.  Мы реализовали концепцию FaaS и провели эксперименты по производительности на обычном оборудовании. Для завершения протокола требуется несколько секунд на каждую точку данных, что приводит к проблемам с производительностью, если количество точек данных велико (десятки тысяч). Чтобы смягчить проблемы с производительностью, протокол безопасности организован таким образом, что построение криптограммы может выполняться в автономном режиме. Выполнение расчета справедливости на основе криптограммы — это задача, которую предстоит решить в будущей работе. В целом мы считаем, что FaaS и представленный базовый протокол безопасности обеспечивают новый и многообещающий подход к расчету и проверке честности алгоритмов ИИ.

EScholar Technologies

EScholar

Этот звук создан на языке оригинала истории!

Слишком долго; Читать

Make resilience your competitive advantage

Поддающаяся проверке честность: расчет справедливости для систем машинного обучения с сохранением конфиденциальности: заключение

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Нажмите, чтобы заработать: Telegram может привлечь следующие 10 миллиардов пользователей криптовалюты до Соланы

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Краткое введение в теорию мозга Больцмана

Нажмите, чтобы заработать: Telegram может привлечь следующие 10 миллиардов пользователей криптовалюты до Соланы

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Краткое введение в теорию мозга Больцмана

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps