Уязвимости в Google Vertex AI: Специалисты выявляют слабые места в защите ИИ-моделей

Недавнее исследование пролило свет на неожиданную легкость, с которой можно взломать популярную облачную платформу. Эксперты из Palo Alto Networks обнаружили важные уязвимости в платформе Google Vertex AI, которые могут использоваться злоумышленниками для кражи моделей машинного обучения (ML) и крупных языковых моделей (LLM).

Исследователи выявили два основных вектора атаки. Первая уязвимость связана с возможностью повышения привилегий через так называемые специальные задания в Vertex AI Pipelines. Это позволяет злоумышленникам получить несанкционированный доступ к облачным ресурсам и базам данных. Как оказалось, с помощью этих уязвимостей можно извлечь конфиденциальную информацию и скачать ценные данные и ML-модели.

Вторая и более опасная уязвимость заключается в возможности загрузки заражённых моделей из открытых репозиториев, после чего они получают доступ ко всем остальным развернутым моделям в системе. Это позволяет утаскивать сконфигурированные слои LLM и другие файлы с уникальными параметрами и данными, содержащими артефакты бизнес-логики.

В ходе тестирования эксперты создали и использовали заражённую модель в контролируемой среде Vertex AI, получая доступ к сервисным аккаунтам и крадя другие модели, включая файлы адаптеров, которые играют важную роль в функциональности моделей LLM.

После выявления угроз компания Google быстро отреагировала, выпустив исправления для платформы, что значительно повысило её безопасность. Теперь разработчики и пользователи могут быть более уверены в недоступности своих данных для злоумышленников.

Соблюдая рекомендации по безопасности и тщательно проверяя каждую модель перед развертыванием, компании могут защитить свои интеллектуальные активы. Настоятельно рекомендуется изолировать тестовые и производственные среды и строго контролировать доступ ко всем этапам работы с моделями.

Значимость этих находок в мире ИИ

Эти уязвимости ещё раз подчеркивают, как важно поддерживать высокий уровень кибербезопасности в современных облачных и ИИ-системах. Стремительное развитие технологий не только открывает новые возможности, но и предоставляет новые способы атак для хакеров. Заботясь о безопасности, компании могут избежать утечки данных, потери интеллектуальной собственности и финансовых потерь, которые могут исчисляться миллионами долларов.

В современной цифровой экосистеме, где данные — это валюта, защита систем от взломов становится одним из главных приоритетов. Никакая компания не может позволить себе пренебрегать проверками и мерами безопасности, а задача специалистов по кибербезопасности — стоять на страже новейших технологий.