Ошибки ИИ дошли до руководства 80% опрошенных компаний IBM раскрыла результаты исследования

Исследование IBM выявило существенный разрыв между внедрением искусственного интеллекта и контролем его ошибок. 80% опрошенных руководителей крупных организаций Европы и Ближнего Востока сообщили, что за последний год инциденты с ИИ доходили до совета директоров или высшего руководства. При этом только 40% респондентов из организаций, столкнувшихся с такими ситуациями, сообщили об изменении правил управления ИИ.

Результаты представлены 15 октября 2026 года. Исследование охватило 3 221 руководителя организаций с численностью не менее 1 000 сотрудников в восьми странах. Под инцидентами подразумеваются разные события: от ошибок ИИ-агентов и неверных автоматизированных решений до утечек данных и нарушений информационной безопасности.

Ещё один вывод исследования: 75% участников ожидают, что к 2027 году ИИ-агенты получат определённую самостоятельность в принятии решений. Но лишь 37% считают, что существующие механизмы контроля готовы масштабироваться вместе с такими системами.

Что выяснила IBM: главные цифры

Опрос показывает, что компании уже используют ИИ в рабочих процессах, однако управление связанными с ним рисками развивается неравномерно.

Показатель

Результат

Сообщили об ИИ-инциденте, дошедшем до высшего руководства

80%

Сообщили об изменении политики после инцидента

40%

Уже используют ИИ-агентов в рабочей эксплуатации

35%

Ожидают определённой автономности ИИ-агентов к 2027 году

75%

Считают управление готовым к масштабированию ИИ-агентов

37%

Продолжают внедрение в пределах согласованных рисков, пока контроль дорабатывается

56%

Откладывают внедрение до готовности механизмов контроля

33%

Важно правильно читать статистику. Это результаты ответов руководителей, а не независимая проверка журналов безопасности каждого предприятия.

Исследование также не устанавливает, что 80% всех организаций мира пережили серьёзную аварию или понесли финансовые убытки из-за нейросетей.

Какие ошибки искусственного интеллекта учитывались в исследовании

IBM использовала широкое определение инцидента с ИИ. В него вошли ситуации, связанные с работой нейросетевых систем, автоматизированными решениями и информационной безопасностью.

Ошибки ИИ-агентов

ИИ-агент — это программная система, которая может выполнять последовательность действий с помощью модели и подключённых инструментов.

Например, агент может анализировать документы, искать информацию, обращаться к внутренним сервисам или обновлять записи в системе.

Риск появляется, если система неправильно понимает задачу, получает избыточные разрешения или выполняет действие, последствия которого не были предусмотрены.

Не каждая ошибка агента приводит к ущербу. Но в критически важных процессах даже незначительное отклонение требует проверки.

Раскрытие данных

ИИ-системы могут обрабатывать внутренние документы, сведения о клиентах и другую информацию ограниченного доступа.

Если инструмент настроен неправильно, данные потенциально могут оказаться доступными посторонним или попасть в сервис, куда их передавать запрещено.

При этом исследование IBM не утверждает, что все зарегистрированные инциденты включали утечку персональных данных.

Неверные автоматизированные решения

Модель может ошибиться при классификации заявки, обработке документа или подготовке рекомендации.

Например, неправильно извлечь сумму из договора либо выбрать неподходящий вариант дальнейшего действия.

Если результат поступает человеку как черновик, ошибку можно обнаружить при проверке.

Когда же приложение автоматически использует результат без дополнительного контроля, последствия могут быть серьёзнее.

Нарушения информационной безопасности

К этой категории относятся проблемы, при которых использование ИИ становится частью инцидента кибербезопасности.

Причины могут быть разными: уязвимая интеграция, недостаточные ограничения доступа, неправильная конфигурация или злоупотребление предоставленными инструментами.

По данным опроса нельзя определить, какую долю всех инцидентов составил каждый тип.

Поэтому выделять наиболее распространённую причину на основании этих цифр было бы неправильно.

Почему только 40% компаний изменили правила после инцидентов

Один из наиболее заметных выводов IBM касается реакции бизнеса.

Согласно исследованию, лишь 40% респондентов из организаций, сообщивших об инцидентах, указали, что после произошедшего изменилась политика или система управления ИИ.

Однако это не означает, что оставшиеся организации вообще ничего не предпринимали.

Компания могла устранить конкретную техническую ошибку, изменить настройки доступа или провести дополнительную проверку, не пересматривая формальную политику.

Исследование измеряло именно изменения механизмов управления ИИ, о которых сообщили участники опроса.

IBM рассматривает полученные результаты как признак того, что внедрение новых технологий опережает развитие механизмов контроля.

ИИ-агенты уже работают в компаниях, но их самостоятельность растёт

По данным IBM, 35% участников сообщили, что их организации уже используют агентные системы в рабочей эксплуатации.

При этом 75% ожидают, что к 2027 году ИИ-агенты будут обладать определённым уровнем самостоятельности при принятии решений.

Принципиальная разница здесь заключается в том, что обычный чат-бот отвечает на запрос, а агент может быть подключён к реальным инструментам.

Например, к корпоративной базе знаний, системе поддержки клиентов или внутреннему приложению.

Самостоятельность агента при этом не обязательно означает полное отсутствие человеческого контроля.

Система может действовать в заранее определённых пределах, запрашивать подтверждение отдельных операций и сохранять журнал выполненных действий.

Почему компаниям сложнее контролировать ИИ-агентов

При использовании обычного чат-бота пользователь обычно видит результат до того, как применить его.

ИИ-агент способен выполнять несколько последовательных действий.

Если первоначальная инструкция понята неправильно, ошибка может повлиять на последующие этапы.

Поэтому важна не только точность языковой модели, но и архитектура всей системы: разрешения, ограничения операций, обработка ошибок и возможность остановки.

Согласно исследованию, только 37% респондентов считают, что действующая система управления в их организациях рассчитана на масштабирование агентного ИИ.

Какие меры безопасности компании считают необходимыми

IBM спросила руководителей, какие механизмы будут особенно важны при дальнейшем распространении самостоятельных ИИ-агентов.

Среди названных мер:

Механизм

Доля респондентов

Юридические и договорные правила ответственности поставщиков ИИ

33%

Пороги, после которых требуется вмешательство человека

32%

Мониторинг в реальном времени и журналы действий агентов

30%

Возможность немедленно остановить работу агентов

29%

Эти показатели отражают ответы участников опроса, а не фактическую распространённость соответствующих технологий.

Почему важна кнопка остановки

Предположим, ИИ-агент получил разрешение обрабатывать заявки и взаимодействовать с корпоративной системой.

Если он начал выполнять нежелательную операцию, оператору необходим способ быстро прекратить его действия.

Остановка должна работать на уровне приложения и предоставленных разрешений.

Недостаточно просто отправить языковой модели сообщение с просьбой прекратить работу, если выполнение команд уже запущено во внешнем сервисе.

Это особенно важно для систем, которые могут изменять данные или инициировать финансово значимые операции.

Кто отвечает за ошибку ИИ: разработчик, поставщик или компания

Исследование выявило неопределённость в распределении ответственности.

98% опрошенных сообщили, что ответственность за риски ИИ формально закреплена на уровне совета директоров.

Однако участники не пришли к единому мнению о том, кто должен отвечать за неблагоприятные последствия действий ИИ-агентов.

Чаще других в качестве ответственного называли директора по информационным технологиям или технического директора, но этот вариант выбрали только 17% респондентов.

В вопросе юридической ответственности мнения также разошлись.

Часть участников выступает за распределение ответственности между компанией, внедрившей систему, и поставщиком технологии.

Другие считают необходимым дополнительное регулирование.

Это показывает, что формальное назначение ответственного лица ещё не решает все вопросы управления автономными системами.

Риски сторонних ИИ-сервисов остаются отдельной проблемой

Большинство организаций не разрабатывают все используемые ИИ-модели самостоятельно.

Компании подключают внешние API, используют готовые платформы и приобретают программное обеспечение с интеллектуальными функциями.

Из-за этого часть обработки данных и логики работы оказывается за пределами собственной инфраструктуры.

По результатам IBM, 54% респондентов признали пробелы в контроле ИИ-систем и моделей, используемых поставщиками, технологическими партнёрами и участниками цепочек поставок.

Только 21% сообщили о непрерывном мониторинге таких сторонних рисков.

Это не означает, что любые внешние ИИ-сервисы опасны.

Однако подключение инструмента требует оценки того, какие данные он получает, какие действия ему разрешены и что произойдёт при техническом сбое.

Как проводилось исследование IBM

Исследование по заказу IBM выполнила компания Censuswide.

В опросе участвовал 3 221 руководитель организаций с численностью не менее 1 000 сотрудников.

Данные собирались с 14 по 24 сентября 2026 года.

Опрос охватил восемь стран: Великобританию, Францию, Германию, Италию, Испанию, Нидерланды, Саудовскую Аравию и Объединённые Арабские Эмираты.

Таким образом, результаты нельзя автоматически распространять на Россию, Казахстан, малый бизнес или все компании мира.

Ещё одно ограничение — ответы предоставлены самими руководителями.

Это позволяет изучать их опыт и оценку ситуации, но не заменяет независимый технический аудит каждого зарегистрированного случая.

IBM также является поставщиком корпоративных ИИ-технологий и консультационных услуг. Это обстоятельство важно учитывать при оценке выводов исследования.

Что исследование означает для обычных пользователей нейросетей

Полученные цифры относятся к крупным организациям, однако проблема контроля ИИ актуальна и для небольших проектов.

Если нейросеть используется только для подготовки черновика текста, последствия ошибки обычно можно устранить редактурой.

Иная ситуация возникает, когда ИИ получает право самостоятельно публиковать материалы, отправлять письма, изменять базу данных или выполнять команды на сервере.

Чем больше полномочий у системы, тем важнее ограничения и проверка результатов.

Какие меры можно применять на практике

Для сайтов, Telegram-ботов и других небольших проектов полезно соблюдать несколько принципов.

Ограничивать разрешения. ИИ-агенту не нужен полный доступ ко всему серверу, если задача касается только подготовки черновика.

Подтверждать важные действия. Удаление данных, отправку массовых сообщений и изменение настроек безопасности лучше выполнять после проверки человеком.

Сохранять историю операций. Журнал позволяет понять, какие действия выполнила система и что произошло перед ошибкой.

Проводить тестирование. Новую модель или интеграцию сначала следует проверять в отдельной среде.

Предусматривать аварийную остановку. Система должна позволять прекращать выполняемые задания и отзывать доступ к внешним сервисам.

Это редакционные практические рекомендации, а не список требований, дословно опубликованный IBM.

Можно ли считать ИИ-агентов опасными

Результаты исследования не дают оснований утверждать, что все автономные агенты опасны или что их использование обязательно приведёт к инциденту.

ИИ-инструменты могут помогать автоматизировать рутинные операции и ускорять обработку информации.

Но качество модели само по себе не обеспечивает безопасность всей системы.

Необходимо учитывать подключённые инструменты, уровень доступа, качество исходных данных и последствия возможной ошибки.

Поэтому ключевой вопрос — не только насколько интеллектуальна модель, но и насколько предсказуемо она действует в конкретной рабочей среде.

Частые вопросы

Правда ли, что у 80% компаний произошли сбои ИИ?

Исследование IBM показывает, что 80% опрошенных руководителей сообщили об инцидентах с ИИ, дошедших до высшего руководства за последний год. Это не означает, что 80% всех компаний мира пережили серьёзный технический сбой.

Какие ошибки ИИ учитывала IBM?

Среди примеров названы сбои ИИ-агентов, раскрытие данных, неверные автоматизированные решения и нарушения информационной безопасности.

Сколько компаний участвовало в исследовании?

Опрос охватил 3 221 руководителя крупных организаций. Количество респондентов не следует автоматически трактовать как количество независимо проверенных компаний.

Почему компании не меняют правила после ошибок?

Исследование фиксирует, что только 40% респондентов из организаций, столкнувшихся с инцидентами, сообщили об изменении политики управления ИИ. Причины решений каждой конкретной компании отдельно не установлены.

Что такое автономный ИИ-агент?

Это программная система, использующая ИИ-модель и подключённые инструменты для выполнения последовательности действий с определённой степенью самостоятельности.

Могут ли ИИ-агенты удалять файлы или изменять данные?

Технически такие действия возможны, если система получила соответствующие инструменты и разрешения. Поэтому полномочия агента необходимо ограничивать.

Кто отвечает за ошибки искусственного интеллекта?

Это зависит от обстоятельств, законодательства, договоров и устройства конкретной системы. Исследование IBM показывает, что руководители пока не имеют единой позиции по распределению ответственности.

Относится ли исследование к России?

Россия не входила в восемь стран опроса. Прямых выводов о российских организациях на основании этих данных делать нельзя.

Что будет дальше

Исследование IBM показывает, что развитие ИИ-агентов ставит перед организациями задачи, выходящие за пределы выбора качественной языковой модели.

Нужно определить допустимые действия системы, контролировать доступ к данным, распределять ответственность и предусматривать последствия ошибок.

Главный вывод: три четверти опрошенных руководителей ожидают большей самостоятельности ИИ-агентов уже к 2027 году, но только 37% считают действующие механизмы контроля готовыми к расширению их использования.

Поэтому одним из важных направлений развития корпоративного ИИ станет не только повышение качества ответов моделей, но и управление тем, что эти модели могут делать.

Официальные источники

• IBM — исследование об ИИ-инцидентах и управлении ИИ в Европе и на Ближнем Востоке, международный пресс-релиз от 14–15 октября 2026 года.

• IBM Newsroom — результаты для Великобритании, 15 октября 2026 года.

*Материал подготовлен 15 октября 2026 года. Статистические показатели приведены по исследованию Censuswide, выполненному по заказу IBM. Редакция AI News Lab не проводила собственного опроса и не проверяла каждый инцидент независимо.*