Машинное обучение:

Машинное обучение стало неотъемлемой частью нашего технологического ландшафта, поддерживая различные приложения и стимулируя инновации. Однако опасения по поводу конфиденциальности и безопасности конфиденциальных данных подняли важные вопросы, касающиеся конфиденциальности моделей машинного обучения и защиты пользовательской информации. В ответ на эти вызовы концепция нулевого знания (ZK) стала мощной парадигмой, обеспечивающей машинное обучение с сохранением конфиденциальности. В этом блоге мы рассмотрим пересечение нулевых знаний и машинного обучения, подчеркнув потенциал машинного обучения с нулевыми знаниями (ZKML) для революционного преобразования ИИ при сохранении конфиденциальности.

Понимание нулевого знания:

Нулевое знание — это криптографическая концепция, которая позволяет одной стороне (доказывающей) убедить другую сторону (проверяющую) в истинности утверждения без раскрытия какой-либо дополнительной информации, выходящей за рамки достоверности утверждения. Этот подход обеспечивает средства для достижения конфиденциальности и приватности, при этом обеспечивая целостность передаваемой информации.

Применение нулевых знаний в машинном обучении:

Методы с нулевым разглашением можно применять к различным аспектам машинного обучения, обеспечивая гарантии конфиденциальности и обеспечивая безопасный анализ данных. Вот некоторые ключевые области, в которых нулевое знание играет решающую роль:

  • Проверка подлинности:

Вы должны быть уверены, что модель машинного обучения, которая, как утверждается, используется объектом, действительно используется. Примером может быть случай, когда поставщик модели предлагает несколько версий с разной ценой и точностью, и вы хотите подтвердить, что модель с более высокой производительностью, за которую вы заплатили, является той, которую вы получаете. Этого можно добиться, внедрив схему обязательств с нулевым разглашением, такую ​​как функциональные обязательства, предложенную Дэном Боне, Уилсоном Нгуеном и Алексом Оздемиром. При этом владелец модели может гарантировать, что заявленная модель была выполнена. Некоторые приложения, созданные на Risc Zero, виртуальной машине общего назначения на основе STARK, и другие исследования также предлагают аналогичную проверку.
Однако также важно убедиться, что реализованная модель является точной, что требует стороннего аудита. Хотя функциональные обязательства подтверждают, что использовалась заявленная модель, они не дают информации о точности зафиксированной модели. Будущие достижения потенциально могут предложить эти гарантии.

  • Обеспечение согласованности:

Вам требуется подтверждение того, что алгоритм машинного обучения последовательно применяется к разным пользовательским данным. Это имеет решающее значение в таких секторах, как кредитный скоринг и заявки на получение кредита, где необходимо избегать предвзятости. Этого можно добиться с помощью функциональных обязательств или путем публикации модели и ее параметров, что позволит пользователям убедиться, что их данные обрабатываются правильно. Такой подход может быть особенно полезен в сфере здравоохранения, где конфиденциальность данных является обязательной.

  • Подтверждения подтверждения:

Вы хотите включить подтверждения от проверенных внешних сторон в модель или смарт-контракт, работающий в сети. Этого можно добиться, используя доказательство с нулевым разглашением для проверки цифровой подписи. Последние достижения в этой области были рассмотрены в выпуске подкаста Zero Knowledge, который ведут Анна Роуз и Тарун Читра.
Кроме того, существуют способы проверки того, что изображения, снятые сертифицированными датчиками, претерпели допустимые изменения, такие как обрезка или изменение размера. Любая информация с цифровой подписью может быть кандидатом на эту проверку.

  • Децентрализованная обработка:

Вы хотите выполнять операции машинного обучения децентрализованно с предоставлением общедоступных данных. Этому может способствовать развертывание существующей модели в сети или создание новой сети, а также использование доказательств с нулевым разглашением для уплотнения модели. Библиотека EZKL Джейсона Мортона предлагает метод преобразования файлов ONXX и JSON в схемы ZK-SNARK, что позволяет проверять модели с большими параметрами. Другие группы, такие как Modulus Labs, тестируют различные системы доказательств для обработки в цепочке, а Gensyn разрабатывает децентрализованную вычислительную систему для обучения моделей.

  • Подтверждение личности:

Вы стремитесь подтвердить чью-то уникальную личность, не посягая на ее частную жизнь. Это может быть выполнено путем разработки процесса проверки, такого как биометрическое сканирование или отправка зашифрованного государственного удостоверения личности, и использования доказательств с нулевым разглашением для подтверждения проверки без раскрытия личной информации.
Примером этого является протокол подтверждения личности Worldcoin. , где уникальные коды радужной оболочки обеспечивают уникальность пользователя, не раскрывая никакой идентифицируемой информации. Этот пример демонстрирует, как свойства сохранения конфиденциальности доказательств с нулевым разглашением могут использоваться для противодействия потенциально вредоносным приложениям искусственного интеллекта.

Проблемы и достижения в области машинного обучения с нулевым разглашением:

Хотя методы с нулевым разглашением предлагают многообещающие решения, есть проблемы, которые необходимо преодолеть. Одной из основных проблем являются вычислительные затраты, связанные с выполнением криптографических операций, которые могут повлиять на масштабируемость и эффективность систем ZKML. Однако текущие исследования и достижения в области криптографических протоколов и аппаратного ускорения решают эти проблемы.

Недавние разработки в ZKML показали большой потенциал. Например, исследователи изучили использование zk-SNARK (кратких неинтерактивных аргументов знаний с нулевым разглашением) для создания компактных и проверяемых доказательств для вычислений машинного обучения. Эти доказательства позволяют верификаторам проверять правильность вычислений без необходимости повторного запуска всего процесса, что снижает вычислительные затраты.

Кроме того, федеративное обучение, подход к распределенному обучению в сочетании с методами нулевого знания, предлагает многообещающее направление для машинного обучения с сохранением конфиденциальности. Федеративное обучение позволяет проводить обучение на пользовательских устройствах с агрегированием моделей при сохранении конфиденциальности с помощью методов шифрования и дифференциальной конфиденциальности. Протоколы с нулевым разглашением могут еще больше повысить конфиденциальность, гарантируя, что в процессе агрегации не произойдет утечка конфиденциальной информации.

Теперь давайте немного поговорим об Алео:

Aleo, блокчейн-платформа, ориентированная на конфиденциальность, вносит значительный вклад в области машинного обучения с нулевым разглашением. Aleo использует доказательства с нулевым разглашением и zk-SNARK, чтобы обеспечить частные и поддающиеся проверке смарт-контракты, в том числе с использованием моделей машинного обучения. С Aleo разработчики могут создавать приложения, сохраняющие конфиденциальность, которые используют возможности машинного обучения, обеспечивая при этом конфиденциальность данных.

Платформа Aleo обеспечивает безопасные вычисления и передачу конфиденциальных данных, гарантируя, что конфиденциальная информация останется зашифрованной на протяжении всего процесса машинного обучения. Этот подход открывает новые возможности для децентрализованных приложений, которым требуются задачи машинного обучения с учетом конфиденциальности, такие как анализ медицинских данных или финансовые прогнозы.

Сочетая силу доказательств с нулевым разглашением, zk-SNARK и децентрализованных технологий, Aleo прокладывает путь к машинному обучению, ориентированному на конфиденциальность. Их усилия вносят вклад в более широкий ландшафт машинного обучения с нулевым разглашением и подчеркивают потенциал технологий повышения конфиденциальности, которые могут изменить будущее ИИ.

Заключение

В заключение машинное обучение с нулевым разглашением, подкрепленное достижениями таких проектов, как Aleo, предлагает преобразующий подход к решению проблем конфиденциальности в области ИИ. Благодаря применению доказательств с нулевым разглашением и криптографических методов мы можем раскрыть потенциал машинного обучения, сохраняя при этом конфиденциальность пользователей и конфиденциальность данных. Вклад Алео демонстрирует осуществимость смарт-контрактов, сохраняющих конфиденциальность, с использованием моделей машинного обучения, прокладывая путь для инновационных приложений в различных областях. По мере того, как исследования и разработки в этой области продолжаются, мы можем ожидать появления новых инноваций и приложений, которые расширят возможности отдельных лиц и организаций с помощью систем искусственного интеллекта, сохраняющих конфиденциальность.