В почтовой функции Gemini, интегрированной в Gmail, была выявлена критическая уязвимость, позволяющая хакерам осуществлять фишинговые атаки с помощью искусственно созданных резюме писем. Об этом сообщает портал BleepingComputer с ссылкой на 0DIN.

Уязвимость обнаружил Марко Фигероа — менеджер программы GenAI Bug Bounty в Mozilla. Как указывает Фигероа, злоумышленники могут скрывать инструкции в теле электронного письма, форматируя их белым цветом и уменьшая размер шрифта до нуля, что делает текст невидимым для человека, но доступным для анализа Gemini. В результате этого ИИ может автоматически добавлять в резюме ложные предупреждения, например, о взломе пароля, вместе с фальшивым номером поддержки.

Хотя некоторые пользователи не реагируют на такие сообщения, другие могут попасть в ловушку из-за эмоционального воздействия подобного контента. Фигероа подчеркивает, что команды безопасности могут разрабатывать методы обнаружения скрытой информации и анализировать итоги, которые генерирует ИИ, на наличие URL-адресов, телефонных номеров или срочных сообщений.

BleepingComputer обратился к Google по поводу этой уязвимости в Gemini. Представитель компании ответил, что пока не было получено доказательств злоупотреблений, но добавил, что Google уже работает над обеспечением безопасности и вскоре внедрит дополнительные меры защиты.