Уязвимость Google Gemini: как злоумышленники взломали умный дом

Уязвимость Google Gemini позволяет злоумышленникам получить контроль над умным домом

Исследователи кибербезопасности обнаружили уязвимость в Google Gemini, искусственном интеллекте, используемом для управления умными устройствами. Используя косвенные инъекции подсказок в приглашениях Google Calendar, они смогли получить контроль над подключенными устройствами.

Уязвимость в Google Gemini

Когда пользователь запрашивал сводку своего календаря и благодарил Gemini за результаты, вредоносная подсказка приказывала агенту Google Home AI выполнять действия, такие как открытие окон или выключение света.

Косвенные инъекции подсказок позволяют злоумышленникам манипулировать Gemini.
Уязвимость была продемонстрирована на конференции Black Hat.

Реакция Google

Исследователи поделились своими находками с Google в феврале, и компания приняла их чрезвычайно серьезно. Andy Wen, старший директор по управлению безопасностью продуктов Google Workspace, отметил, что компания работает над созданием лучших инструментов для блокировки этого типа атак.

Будущие меры безопасности

Google использует результаты исследования для ускорения работы над улучшением безопасности и обнаружением аномалий. Однако растущая сложность больших языковых моделей означает, что злоумышленники могут искать новые способы их эксплуатации.

"Это будет с нами еще некоторое время, но мы надеемся, что сможем достичь точки, где обычный пользователь не будет беспокоиться об этом слишком сильно," - сказал Andy Wen.