Компанії готуються до наслідків масштабного інциденту

Як повідомляє Axios, керівники Anthropic, OpenAI та інших розробників ШІ приватно опрацьовують сценарії того, як суспільство й політики можуть відреагувати на катастрофічну подію, пов’язану з використанням штучного інтелекту.

Одним із найнебезпечніших сценаріїв вважають кибератаку, способную нарушить работу банковских сервисов, интернета или критической инфраструктуры, в частности электро- и водоснабжения. Такие последствия могут выйти за рамки цифровой среды и напрямую повлиять на повседневную жизнь людей и работу бизнеса.

Планирование предполагает не только техническую подготовку, но и оценку политических последствий: кто будет отвечать за инцидент, как будут реагировать регуляторы и каких ограничений потребует общество.

OpenAI проводит обучение по готовности к кризисам

В OpenAI подтвердили, что проводят специальные учения, во время которых команды рассматривают разные потенциальные сценарии и отрабатывают возможные действия. В то же время представитель компании подчеркнул, что такие ситуации не считаются неизбежными: цель подготовки состоит в том, чтобы быть готовыми к разным обстоятельствам.

В Anthropic от комментариев отказались.

Несмотря на это, по информации Axios, часть представителей индустрии считает серьезный инцидент с использованием ИИ все более вероятным. Причиной беспокойства является возможность выхода автономных ШИ-агентов за пределы предусмотренных ограничений, так и использование доступных моделей злоумышленниками для атак на цифровые системы.

Почему после атаки общество может потребовать запретов

Даже один масштабный инцидент с реальными последствиями может существенно изменить отношение общественности к искусственному интеллекту. Особенно, если атака приведет к перебоям в работе финансовых учреждений или критических сервисов, от которых зависят миллионы людей.

В этом случае под усиленное внимание могут попасть не только разработчики технологии, но и политики, определяющие правила ее использования. Среди фигур, вокруг которых может развернуться дискуссия, называют генерального директора Anthropic Дарио Амодеи, главы OpenAI Сэма Альтмана и президента США Дональда Трампа, критику которого обвиняют в недостаточной поддержке жесткого регулирования ИИ.

Однако последствия потенциального кризиса будут зависеть от его масштаба, причин и того, как быстро компании и государственные органы смогут локализовать угрозу.

Демократы могут продвигать более жесткие правила для ИИ

По сценариям, рассматриваемым представителями индустрии, после промежуточных выборов в США усилиться могут попытки ввести более строгие ограничения для передовых систем искусственного интеллекта. Среди возможных предложений называют временную приостановку разработки мощнейших моделей или запрет отдельных форм суперинтеллекта.

В то же время, быстрое принятие таких решений может столкнуться с несколькими препятствиями. ИИ уже интегрированы в бизнес-процессы, цифровые сервисы и инфраструктурные проекты, а резкое замедление его развития может повлиять на инвестиции и экономическую конкуренцию США с другими странами.

Дополнительную сложность создают модели с открытыми весами, которые можно загружать и запускать вне инфраструктуры разработчика. Даже если компания ограничит доступ к собственной системе, это не означает автоматического прекращения использования других моделей для вредных целей.

Аварийное отключение ИИ остается сложным вопросом

Среди возможных регуляторных мер обсуждают требование предусмотреть механизм аварийного отключения опасных систем. Такая идея поддерживает среди представителей разных политических лагерей, но ее практическая реализация вызывает вопросы.

Если система работает на распределенной инфраструктуре, использует автономные агенты или доступна через многочисленные посторонние сервисы, одного централизованного выключателя может быть недостаточно. Кроме того, ограничение отдельной модели не останавливает автоматически другие системы, использующие схожие технологии.

Поэтому будущие правила могут касаться не только возможности отключения, но и тестирования моделей, контроля доступа, киберзащиты и ответственности за их использование.

Реальные случаи использования ИИ для кибератак усиливают беспокойство

Опасения отрасли связаны не только с теоретическими сценариями. В материале Axios упоминается кибератака на южнокорейские финансовые учреждения, в ходе которой, по приведенным данным, злоумышленник из Китая использовал инструменты моделей ИИ, в частности DeepSeek, для угона данных десятков тысяч банковских клиентов.

По информации компании CrowdStrike, атакующий также применял Claude Code, чтобы искать площадки, на которых могли продавать похищенную информацию.

Такі приклади демонструють, що ШІ може допомагати зловмисникам автоматизувати окремі етапи атак. Водночас використання моделі під час кіберзлочину саме по собі не доводить, що вона діяла автономно або стала єдиною причиною інциденту.

Чому компанії готуються до законодавчих змін заздалегідь

За даними Axios, представники індустрії хочуть не лише підготуватися до кризового сценарію, а й заздалегідь донести до американських законодавців можливі ризики та варіанти реагування. Нині жорстке регулювання стикається з політичними й економічними перешкодами, однак масштабна атака може змінити пріоритети влади.

У разі серйозної кризи політичні розбіжності можуть тимчасово відійти на другий план, як це траплялося під час пандемії COVID-19 або фінансової кризи 2008 року. Водночас конкретні рішення залежатимуть від характеру події та наявних доказів відповідальності розробників.

Головний ризик для індустрії полягає не лише в можливій кібератаці, а й у тому, що один великий інцидент може докорінно змінити правила розвитку ШІ. Проте наразі йдеться про сценарне планування та оцінки окремих учасників ринку, а не про підтверджений прогноз неминучої катастрофи.