Ассоциация больших данных совместно с компанией Guardora провела комплексное тестирование безопасности программной платформы вертикального федеративного обучения GUARDORA VFL. Тестирование стало следующим этапом работы АБД по развитию и расширению разработанной риск-методики за счет ее апробации на еще одном подходе к работе с распределенными данными – Federated Learning.

GUARDORA VFL позволяет нескольким участникам совместно обучать модели машинного обучения на распределенных данных без объединения исходных наборов данных в едином хранилище. В рамках тестирования была рассмотрена реализация модели градиентного бустинга на деревьях решений на основе принципов алгоритма SecureBoost.

Эксперты АБД изучили техническую документацию и программный код платформы, конфигурацию системы, механизмы межузлового взаимодействия и криптографической защиты, а также проверили отдельные протокольные сценарии и устойчивость системы к известным классам атак.

«Для АБД это тестирование стало возможностью проверить риск-модель повторной идентификации на технологии федеративного обучения и конкретном решении – GUARDORA VFL. Мы выявили уязвимости, связанные с особенностями технологии и её реализацией, и вместе с командой Guardora проработали их. В результате Ассоциация уточнила подход к оценке рисков приватности, а Guardora доработала механизмы безопасности платформы. Для нас это еще один опыт совместной работы с вендором, который помогает одновременно развивать методику оценки рисков и сам продукт», – отмечает Алексей Нейман, Исполнительный директор Ассоциации больших данных.

«Федеративное обучение позволяет компаниям использовать ценность распределённых данных для совместного обучения моделей, сохраняя исходные данные внутри своих информационных контуров. Чтобы применять эту технологию на практике, необходимо проверять устойчивость конкретного решения к атакам и определять условия его безопасной работы. Совместное тестирование с АБД помогло нам доработать механизмы защиты GUARDORA VFL и уточнить границы её применения. Мы считаем, что развитие таких технологий должно опираться на проверяемые результаты и прозрачное описание возможностей и ограничений», – отметил Фаннур Ермаков, Директор по развитию бизнеса Guardora.

По итогам тестирования АБД признала платформу GUARDORA VFL пригодной для применения в контролируемых сценариях – исследовательских проектах, технологических песочницах, закрытых пилотах и отдельных промышленных задачах. Ограниченное промышленное применение также возможно при наличии утвержденной модели угроз, изолированного контура, контроля входных данных, журналирования и мониторинга, а также дополнительных процедур проверки результатов.