Hugging Face взломал автономный ИИ-агент
25 июля 2026, 12:35
18
0 отзывов
0
0
0
0
0
0
0
0
На этой неделе был взломан Hugging Face — одна из важнейших платформ в мире ИИ.
Казалось бы, обычная кибератака и ничего особенного. Но есть один нюанс: по заявлению самой Hugging Face, во взломе не участвовали люди. Инфраструктуру от начала и до конца атаковала автономная ИИ-система, которая самостоятельно искала слабые места, эксплуатировала найденные уязвимости, повышала себе привилегии, перемещалась по внутренней Сети и собирала учётные данные, а также другую критически важную информацию. За время атаки система сгенерировала около 17 тысяч различных событий. Было вообще непонятно, как всё это разбирать.
Обнаружить и остановить атаку помогли ИИ-модели, которые использовала Hugging Face. И получается довольно сюрреалистичная картина: одни ИИ атаковали, а другие ИИ помогали защищаться. При этом было неизвестно, кто именно создал эту систему и зачем вообще всё это было.
А теперь главный сюжетный поворот: Вчера OpenAI заявили, что за атакой стоит их собственная экспериментальная ИИ-система, которая... вырвалась наружу. Точнее, это была комбинация их флагманской GPT-5.6 Sol и ещё более мощной неназванной модели, о которой простым людям пока не положено знать.
Их поместили в изолированную тестовую среду, чтобы проверить на ExploitGym — одном из самых сложных бенчмарков по кибербезопасности, который оценивает, насколько хорошо ИИ умеет искать и использовать уязвимости. (Спойлер: уязвимость была найдена, но не там, где надо).
Для чистоты эксперимента и более точной оценки у моделей отключили обычные защитные механизмы, запрещающие опасную киберактивность. Но во время теста нейронки не стали честно решать задания. Они захотели найти уже готовые ответы и, по сути, просто «списать». В этой изолированной среде модели нашли уязвимость, о которой разработчики не знали, и использовали её для «побега». Затем они получили себе более высокий уровень доступа и начали перемещаться между внутренними сервисами OpenAI, пока не добрались до машины с полноценным выходом в интернет.
И вот нейронки сделали вывод, что раз Hugging Face является самой важной платформой для ИИ, то там есть ответы на их бенчмарк. Тогда они решили совершить полноценную кибератаку на сервис. Все уязвимости и украденные данные они попытались использовать, чтобы просто сжульничать в тесте.
Собственно, это всё, о чём компании публично сказали. Такого ещё никогда не было: экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды, получила доступ к интернету и атаковала инфраструктуру другой компании. Остаётся только гадать, что бы могло произойти, будь у неё другая цель. Так что этот инцидент теперь точно будут внимательно изучать разработчики ИИ, специалисты по кибербезопасности и власти по всему миру.
Вопросов остаётся ещё много. Была ли это просто безобидная атака по типу школьника, который залез в интернет, чтобы найти ответы на контрольную работу? — неизвестно. Осознавала ли ИИ-модель свои действия? — неизвестно. Скопировала ли она себя, чтобы остаться в интернете перед тем, как её остановили? — тоже неизвестно.
Вот в таком мире мы теперь живём, впереди еще много интересного.
0
0
0
0
0
0
0
0
pttop-лента
Лента новостей Портала "Мой Город" Талдом-
Ventoy 1.1.17
Ventoy - это инструмент с открытым исходным кодом для создания загрузочного USB-накопителя для файлов ISO/WIM/IMG/VHD(x)/EFI не требующий установки.
-
Hugging Face взломал автономный ИИ-агент
На этой неделе был взломан Hugging Face — одна из важнейших платформ в мире ИИ.
-
Запрет соцсетей для детей до 15 лет
Франция готовится закрыть социальные сети для детей младше 15 лет.
-
LG уличили в слежке через телевизоры
Техника LG на этой неделе оказалась в центре сразу двух скандалов о приватности — с телевизорами и с мониторами.
-
«День города Талдома»
Талдому 349 лет!
Приходите, отметим День города вместе!С 11:00 - праздничная торговля.
С 12:00 до 15:00 - Кубок Талдома по силовым видам спорта — смотрим, болеем, гордимся нашими богатырями.
С 13:00 до 16:30 раскинется Арт-фестиваль «БашмакЪ — территория гостеприимства».Это целый мир внутри парка:
«АРТ-Чайная мастерская»: создаём красоту своими руками;
«КаЧАЙ»: интерактивные игры, старинные викторины и чайнворды;
«Чайная атмосфера»: самые уютные фотозоны и невероятные арт-объекты;
«Чайный код»: секреты правильного чаепития, дегустации и новые рецепты;
«Чайный базар»: ярмарка пузатых самоваров, изящной посуды и редких сортов чая.С 14:00 до 15:00 — гастрономический фестиваль «Скатерть-самобранка».
Забудьте о диетах! Прямо под открытым небом Международный альянс профессиональных кулинаров научит вас жарить идеальные драники, печь сырники и лепешки с зеленью. А яблоки в карамели и оладушки как у бабушки? Они будут сводить с ума своим ароматом весь парк! Но главное событие кулинарной сцены — варим более 200 литров густого тыквенно-клюквенного варенья «Тыквенно-клюквенный фейерверк».
Вы увидите всё: от кипящего чана до розлива по баночкам. И тут же — мастер-класс по росписи резных пряников для детей и взрослых.Что еще будет разрывать парк от эмоций:
В 14:30 - семейный конкурс "Парад колясок и велосипедов".
В 16:00 - пенная вечеринка — смываем усталость и продолжаем веселится с новыми силами!
С 16:30 до 21:00 - концерты со звёздами и главными талантами нашей земли.
С 21:00 до 22:45 дискотека с нашим любимым и бессменным Dj Artem Sunshine.
С 22:45 до 23:00 - грандиозное пиротехническое огненное шоу, которое подсветит ночное небо над Талдомом.Талдом умеет гулять так, чтобы об этом вспоминали весь год. Ждем каждого 1 августа в парке культуры и отдыха «Победа».
О портале
Партнерам
Мы в соц. сетях
Комментарии