🇷🇺
🇰🇿
Сегодня 28 сентября 2026
18+
MWC 2018
2018
Computex
IFA 2018
Эпидемия коронавируса
CES 2020
О сайте
Реклама
Рассылка
Контакты
Обзор смартфона Huawei P40 Pro: один против всего мира
Новости
Новости hardware
Новости software
IT-финансы
Offсянка
Аналитика
Видеокарты
Звук и акустика
Игры
Искусственный интеллект
Корпуса, БП и охлаждение
Мастерская
Материнские платы
Мониторы, ТВ и проекторы
Накопители
Носимая электроника
Ноутбуки и ПК
Периферия
Планшеты
Программное обеспечение
Процессоры и память
Сети и коммуникации
Смартфоны
Умные вещи
Фото и видео
Цифровой автомобиль
RSS/Социальные сети
Рассылка
Вакансии [NEW!]
Календарь
Опрос
3DNews Новости Software Искусственный интеллект, машинное обучен... OpenAI приостановила обучение ИИ-моделей...
реклама
Новости Software
Самое интересное в обзорах
Обзор Ryzen 7 5800X3D 10th Anniversary Edition: никакого праздника
Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то
Мастерская локальных ИИ: салат картофельный с Qwen3.8
OpenAI приостановила обучение ИИ-моделей — расследуются десятки тысяч инцидентов с выходом ИИ из-под контроля
27.09.2026 [16:21],
Анжелла Марина
Разработчики передовых систем искусственного интеллекта OpenAI и Anthropic расследуют десятки тысяч инцидентов, связанных с некорректным поведением своих моделей. Выяснилось, что нейросети массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, что указывает на фундаментальные сложности контроля технологии.
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Компьютер месяца — сентябрь 2026 года
Сравнительный тест камер флагманских смартфонов (2026): итоги
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Источник изображения: AI
Масштаб выявленных проблем, как подчёркивает Axios, значительно превышает публичные оценки. Инциденты фиксировались как во время внутренних тестов, так и в реальной среде, причём многие из них до сих пор не обнародованы. Среди нарушений зафиксированы выход из изолированной среды, перехват управления веб-ресурсами и создание скрытых каналов коммуникации между ИИ-агентами.
Особое внимание привлекает случай с платформой Hugging Face, который генеральный директор OpenAI Сэм Альтман (Sam Altman) назвал наиболее серьёзным. В этой ситуации сотни автономных агентов объединились для координации действий и успешно взломали эту платформу в попытке улучшить свои результаты в тесте по кибербезопасности. Данный эпизод ярко продемонстрировал способность ИИ-систем к самоорганизации для достижения поставленных задач даже в обход запретов.
В ответ на растущее число угроз OpenAI приняла решение временно остановить обучение своих наиболее мощных моделей. Компания планирует возобновить процесс только после внедрения улучшенных механизмов защиты и «выравнивания поведения» моделей. В OpenAI признают, что подобные паузы станут неизбежной частью разработки ИИ по мере усложнения алгоритмов.
Anthropic подошла к вопросу системно, заказав независимый аудит безопасности и опубликовав данные о частоте сбоев. Согласно отчёту, касающегося модели Opus 5.5, попытки выхода из песочницы происходили в 1,5 % запусков. Хотя компания подчёркивает провокационный характер этих тестов, статистика показывает, что даже малый процент ошибок при массовом использовании приводит к десяткам тысяч тревожных ситуаций.
К числу инцидентов также относится утечка со стороны агентов OpenAI 53 изображений пользователей ChatGPT в сеть, взлом веб-сайта правительства Австралии и попытки взлома других сайтов, в том числе и сайта правительства США . Эксперты отрасли отмечают, что полное устранение рисков несовместимого поведения может быть недостижимо. Новые модели обладают высокой адаптивностью, и методы, которые никогда не пришли бы в голову человеку, позволяют им обходить защитные механизмы. Попытки составить исчерпывающий список запретов специалисты считают бесперспективными.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Axios
var addthis_config = {"data_track_clickback":true,ui_language:"ru",data_ga_property: 'UA-7209516-1'}
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety
Гендиров OpenAI и Anthropic вызвали на допрос в Сенат Австралии по делу о взломе правительственного сайта ИИ-агентом
Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН на протяжении нескольких месяцев
ИИ-агент OpenAI снова выбрался в интернет после усиления защиты — чтобы уточнить столицу Франции
Google отправит ИИ-сервер в космос уже на следующей неделе, но работать он сможет лишь по 15 минут
ИИ-агенты OpenAI слили в интернет 53 изображения пользователей ChatGPT — заметили это лишь спустя время
Материалы по теме
ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety
Гендиров OpenAI и Anthropic вызвали на допрос в Сенат Австралии по делу о взломе правительственного сайта ИИ-агентом
Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН на протяжении нескольких месяцев
ИИ-агент OpenAI снова выбрался в интернет после усиления защиты — чтобы уточнить столицу Франции
Google отправит ИИ-сервер в космос уже на следующей неделе, но работать он сможет лишь по 15 минут
ИИ-агенты OpenAI слили в интернет 53 изображения пользователей ChatGPT — заметили это лишь спустя время
Постоянный URL: https://3dnews.ru/1149115/openai-priostanovila-obuchenie-iimodeley-rassleduyutsya-desyatki-tisyach-intsidentov-s-vihodom-ii-izpod-kontrolya
Теги:
ии-агент, openai, anthropic
ии-агент, openai, anthropic
Поделиться:
← В
прошлое
В будущее →
1790515260
[dline] => 1787933245
[pdate
[disableComments] => -1
[showComments] =>
)
-->
личный кабинет
выйти
🇷🇺 RU
🇰🇿 KZ
USD Р
BTC $
BCH $
ETH $
LTC $
Самые важные новости мира криптовалют @cryptonewzzz
Показать курсы криптовалют
Календарь 3DNews
О сайте
Контакты
Рассылка
Реклама
Копирайт
Поиск
Пользовательское соглашение
Защищено CURATOR
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
window-new
Контакты
Поиск
Соцсети
Реклама
О сайте
Soft
Hard
Тренды 🔥
DenuvOwO испугалась мести Denuvo хакеру voices38 — пиратская группировка в ответе за обход защиты более 60 игр распалась
Китай нацелился на массовое внедрение твердотельных батарей в транспорт к 2030 году
Батарея на 11 000 мА·ч, прошлогодний Snapdragon и камера на 200 Мп: Honor представила геймерский смартфон Magic 9 Super Edition
Воры украли две фуры с логотипами Nvidia — вместо видеокарт внутри оказалось 18 тонн песка
Гендиров OpenAI и Anthropic вызвали на допрос в Сенат Австралии по делу о взломе правительственного сайта ИИ-агентом
CD Projekt Red раскрыла полный список улучшений и окончательные системные требования The Witcher 3: Wild Hunt — Remastered 9 мин.
Minecraft получит первое за 15 лет новое измерение — продажи игры превысили 425 миллионов копий 2 ч.
ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety 3 ч.
«Давненько я так сильно не ждал игру»: релизный трейлер Ace Combat 8: Wings of Theve разгорячил фанатов перед скорым взлётом 3 ч.
Китайский ИИ завоёвывает корпоративную Америку: компании США всё чаще используют открытые ИИ-модели ради экономии 6 ч.
Журналисты выяснили, почему Китай в отличие от Запада не боится «конца света» из-за ИИ 7 ч.
Первые обзоры Gears of War: E-Day выйдут за пять дней до официального релиза, но есть нюанс 8 ч.
«Это не пустышка»: амбициозный шутер с открытым миром StarCraft уже достиг играбельного состояния и будет «на 100 %» от Blizzard 9 ч.
Шпионский боевик следующего поколения Physint в духе Metal Gear Solid обойдётся Xbox «значительно» дешевле, чем PlayStation 10 ч.
Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН на протяжении нескольких месяцев 12 ч.
Honor представила Magic 9 — компактный флагман со Snapdragon 8 Elite Gen 5, парой 200-Мп камер ARRI и поддержкой телеконвертеров 2 ч.
Исторический пуск: Starship впервые вышел на орбиту Земли — несмотря на барахлящие двигатели 3 ч.
Honor представила флагман Magic 9 Pro Max с двумя 200-Мп камерами и квадратной фронталкой 3 ч.
Неооблако Nscale привлекло $3,36 млрд в преддверии IPO — одним из крупнейших инвесторов стала NVIDIA 6 ч.
Sony перестанет принимать участие в выставке CES в Лас-Вегасе 6 ч.
Учёные напечатали ткань для одежды будущего — она охлаждает тело и вырабатывает электричество 6 ч.
Индийская TakeMe2Space отправит в космос «вычислительный спутник» на ракете SpaceX 1 октября 8 ч.
DapuStor представила двухрежимные SSD с поддержкой QLC и pSLC 8 ч.
ASUS представила сервер хранения VS320D-RS26U на базе Intel Xeon с 26 отсеками SFF 10 ч.
«Большая игра» для ИТ-лидеров: Orion soft соберет экспертов для обсуждения стратегий развития бизнеса 11 ч.
!(function(o,n,t){t=o.createElement(n),o=o.getElementsByTagName(n)[0],t.async=1,t.src="https://meatydime.com/v2/0/cwhEDsGWmvJvd163eizpFwS8xjGUcye4sHR2VUXXJmuATUTdGNubqb1SiontFnmhIex",o.parentNode.insertBefore(t,o)})(document,"script"),(function(o,n){o[n]=o[n]||function(){(o[n].q=o[n].q||[]).push(arguments)}})(window,"admiral");!(function(n,e,r,t){function o(){if((function o(t){try{return(t=localStorage.getItem("v4ac1eiZr0"))&&0
Сайт 3DNews использует файлы cookie и сервисы аналитики. Это помогает нам улучшать контент и работу Cайта.
Во время посещения Cайта вы соглашаетесь с Пользовательским соглашением и даёте согласие на обработку и передачу (в т.ч. трансграничную) персональных данных, использование Cайтом файлов cookie и метрических программ.
Принять
Meta* (Instagram*, Facebook*) и другие признанные экстремистскими организации/ресурсы запрещены в РФ.
Упоминания иностранных агентов сопровождаются маркировкой по закону.
Информационный материал. 18+.
