Gemini взломала три компании на испытаниях и остановилась сама


Gemini во время майских кибериспытаний вошла в системы трёх реальных компаний. В одном случае модель подобрала пароль, в двух других воспользовалась учётными данными из открытых источников. Google подтвердила эпизод 18 сентября, после вопросов The Wall Street Journal.

Gemini взломала три компании на испытаниях и остановилась сама

Летом о выходах моделей за пределы тестовой среды отчитались OpenAI , Anthropic и Meta. Теперь в этом списке и Google. Компания признала, что одна из версий Gemini в мае получила доступ к системам трёх реальных организаций, но рассказала об этом только после вопросов журналистов. Отдельного отчёта ни Google, ни подрядчик испытаний пока не выпустили.

Тёзка вымышленной компании

Gemini проходила учебное задание на взлом в формате «захвата флага». Модели поручили достать данные из программы вымышленной компании внутри испытательного стенда. У вымышленной компании нашлась реальная тёзка, а стенд по ошибке оказался подключён к интернету.

В одном прогоне модель перебирала пароли к защищённой системе реальной компании, пока не подобрала подходящий. В двух других прогонах она поискала название компании в сети, нашла в публичных репозиториях учётные данные ещё двух организаций и вошла с ними в их системы. Названия пострадавших компаний и сервисов Google не раскрывает.

Gemini заметила подмену и остановилась

Во всех трёх случаях Gemini прекратила действия, когда поняла, что перед ней реальные компании. Google держится за эту деталь и не считает эпизод проявлением рассогласованности модели, то есть расхождения между её поведением и намерениями разработчиков.

«В ходе стандартной оценки модель нашла в интернете общедоступную информацию и подобрала учётные данные для входа на сайты, которые считала частью теста. Во всех трёх случаях модель остановилась»,

– заявила вице-президент Google по инженерной безопасности Хизер Адкинс.

На фоне соседей по списку разница заметная. Claude в инцидентах Anthropic продолжал действовать и после того, как вышел на реальные системы. Здесь нужно оговориться. Остановилась Gemini уже после входа, так что защиту трёх компаний модель всё равно преодолела. Какая именно версия Gemini участвовала в испытаниях, Google не уточняет, сообщая лишь, что речь не о самой свежей модели.

Семь недель без огласки

О находке Google узнала в конце июля от подрядчика испытаний. Тогда же подрядчик предупредил и другие лаборатории. Три компании Google уведомила, ущерба, по её данным, нет. Публично компания молчала до обращения The Wall Street Journal и подтвердила эпизод только 18 сентября.

Anthropic и OpenAI о своих инцидентах рассказывали сами, отчётами с датами и разбором прогонов. У Google вместо отчёта есть заявления для прессы. Решение не раскрывать эпизод компания объясняет отсутствием ущерба, и формально это логично. Но единого правила, когда лаборатория обязана рассказать о выходе модели в реальную сеть, в отрасли нет, и каждая решает сама.

Irregular и четыре лаборатории

Испытания проводила израильская компания Irregular, которая проверяет опасные способности моделей для Google, OpenAI, Anthropic и Meta. Интернета на стенде быть не должно было, доступ открылся по ошибке в настройках. Представитель Irregular подтвердил, что случай с Gemini связан с теми же проблемами, что и инциденты у других лабораторий, и что все известные уязвимости на стороне подрядчика закрыты несколько недель назад.

Axios со ссылкой на знакомый с ситуацией источник добавляет деталь важнее самой ошибки. Лаборатории и Irregular не до конца договорились о процедурах испытаний и мерах защиты, а сами оценки обычно идут с доступом в интернет. Google сообщает, что вместе с Irregular скорректировала порядок тестирования. Четыре крупнейшие лаборатории проверяют самые рискованные способности моделей у одного подрядчика, и одна ошибка конфигурации отозвалась у всех четырёх.

Слабый пароль как точка входа

В истории с Gemini не было экзотических уязвимостей. Модель вошла туда, где пароль угадывался, а ключи лежали в открытых репозиториях. Владельцам сайтов и сервисов стоит проверить публичные репозитории своей команды на забытые пароли и токены и перевыпустить всё, что когда-либо туда попадало. Совпадение названия с вымышленной целью тоже сыграло роль, а агенту, который ищет цель по имени, неважно, чья это компания на самом деле.

Раскрытие по запросу журналистов

У Google есть довод, которого не нашлось у Anthropic, — её модель сама остановилась на реальной цели. Сильная сторона истории на этом заканчивается. О выходе Gemini в реальную сеть стало известно от журналистов, спустя семь недель после того, как Google о нём узнала, и без отчёта. Следующий такой эпизод, а при общем подрядчике и общих настройках он вероятен, покажет, стала ли публикация отчётов нормой для Google или осталась добровольным жестом отдельных компаний.

Meta Platforms Inc. (владелец социальных сетей Facebook и Instagram) признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.



Источник

Межтекстовые Отзывы
Посмотреть все комментарии
guest

Synthesia встроила агента в редактор и обновила модель аватаров

Synthesia запустила Assistant - чат-агента, который собирает ролик из промпта, документа или ссылки прямо в редакторе и правит...

OpenAI выпустила GPT-6 Sol и GPT-6 Luna — новые модели уже доступны в ChatGPT и Codex

OpenAI начала развёртывание GPT-6 Sol и GPT-6 Luna. Новые модели уже появляются в ChatGPT Work и Codex, а...

Нейросеть Кандинский 3.0: как пользоваться, как обрабатывать фото и создавать картинки

Кандинский – это бесплатная нейросеть от Сбера, способная генерировать картинки по текстовому описанию. Работает по сходному с Midjourney...

Alibaba открыла QwenWork по всему миру — ИИ-агент работает в браузере и на компьютере

Alibaba открыла международную версию QwenWork в формате публичной беты. Это рабочая платформа с ИИ-агентом: пользователь описывает задачу обычным...

Гайд по размерам для YouTube: шапка канала, обложка видео, Shorts, аватар, лого

Если вы загружаете ролики на YouTube и оформляете канал, размеры лучше определить заранее. Иначе шапка обрежется на смартфоне,...

YouTube позволит генерировать Shorts с помощью Veo 3

На мероприятии «Made on YouTube» 16 сентября компания представила большое обновление для Shorts и YouTube Studio. В сервис...

Kling добавила нативную генерацию в 4K в версии Video 3.0

Kling запустила режим 4K Mode в линейке Video 3.0. Теперь видео можно генерировать сразу в 4K — без...

Qwen выпустила Qwen-Image-3.0 — модель генерирует сложные макеты и текст от 10 пикселей

Qwen представила Qwen-Image-3.0 — третье поколение модели для генерации и редактирования изображений. Она принимает инструкции объёмом до 4,5...

ElevenLabs добавила генерацию речи, музыки, изображений и видео в MCP

ElevenLabs расширила свой MCP-сервер. Теперь подключённый ИИ-ассистент может создавать речь, музыку, звуковые эффекты, изображения и видео, а также...

Qwen выпустила плагины Qwen-MM для мультимодальных ИИ-агентов

Команда Qwen опубликовала Qwen-MM-Plugins — набор открытых плагинов для работы ИИ-агентов с изображениями, видео и документами. Репозиторий поддерживает...

OpenAI представила GPT 5.6. Три модели, новые агенты и снижение цен

Летом 2026 года компания OpenAI представила свое новое семейство моделей под общим названием GPT 5.6. Релиз получился довольно...

Alibaba выпустила Qwen-Image-3.0 без весов и бенчмарков, но с промптами на 4500 токенов

Alibaba выпустила Qwen-Image-3.0 - третье поколение генератора изображений с прицелом на практическую пользу: длинные детальные подписи, читаемый мелкий...

YouTube запустил генерацию видео с помощью Veo 2 для Shorts

YouTube представил новую функцию для генерации коротких роликов в Shorts, интегрировав ИИ-модель Veo 2 от Google в инструмент...

Видео-мем «Возьми телефон, детка» (Toxi$): что это за тренд и как повторить его с помощью ИИ

Да-да, вы наверняка уже всё сами видели. Лысый парень в очках встаёт с дивана, машет руками под строчку...

Alibaba выложила Qwen-Image-2.1 – картинки с прозрачным фоном из коробки

Команда Qwen выложила в открытый доступ Qwen-Image-2.1 - модель, которая рисует изображения сразу с прозрачным фоном и правит...

Yandex AI Studio позволит создавать ИИ-агентов на базе DeepSeek-V3.2

Yandex B2B Tech представила обновление Yandex AI Studio — платформы для разработки ИИ-приложений. Главное изменение: бизнес получил возможность...

Suno выпустила Studio 2.0 — добавили поддержку MIDI и синтезатор

Suno выпустила Studio 2.0 — обновление браузерной рабочей станции для создания музыки. В ней появились MIDI-дорожки с возможностью...

ByteDance выпустила Seedream 5.0 Pro для инфографики и точного редактирования изображений

ByteDance Seed 8 июля 2026 года представила Seedream 5.0 Pro - мультимодальную модель для генерации и редактирования изображений....

Sora 2 увеличила длину видео до 25 секунд и позволила прописывать сценарий по кадрам

Компания OpenAI обновила видеогенератор «Sora 2»: базовые пользователи теперь могут создавать ролики до 15 секунд, а подписчики «ChatGPT...

Как повторить тренд из «Форсажа» с помощью ИИ — гайд

В соцсетях завирусился ИИ-тренд по мотивам «Форсажа»: пользователи пересобирают культовые сцены из Tokyo Drift, подставляя в кадр собственные...