Тарик Саиди
Когда на международных встречах по безопасности заходит речь об искусственном интеллекте (ИИ), разговор обычно идёт по одному и тому же сценарию. Эксперты предупреждают: преступники используют новые технологии как оружие. Террористы создают пропаганду с помощью программ, экстремисты делают очень правдоподобные фейковые видео, а вербовщики с помощью ИИ находят сторонников в разных странах.
В такой картине всё просто: есть злоумышленник, есть технология, и он направляет её на свою цель. ИИ выступает как оружие в чужих руках.
Но если смотреть только на злой умысел, можно упустить главное. Настоящая проблема в другом. ИИ незаметно стал основой, на которой работают системы, от которых зависит наша жизнь: физическая инфраструктура, финансы, государственное управление.
Когда автоматика встроена во все сферы жизни, различие между «обычной» безопасностью и «безопасностью ИИ» стирается. Почти любая угроза превращается в угрозу, связанную с ИИ.
Чтобы разобраться, как это происходит, посмотрим на два момента: как системы становятся уязвимыми и как эта уязвимость оборачивается бедой.
Как возникает уязвимость: новое внедряют без защиты
Всё начинается, когда ИИ внедряют в важнейшие сферы: энергосети, работу портов, городской транспорт, банковские расчёты, государственные службы. Делают это ради удобства, скорости и экономии, но не продумав защиту.
Те, кто это делает, не замышляют ничего дурного. Они просто решают обычные рабочие задачи. Однако автоматические системы, добавленные в старую инфраструктуру без должного контроля, создают скрытое слабое место.
Злоумышленнику при этом не нужны сложные знания об ИИ. Ему подойдут простейшие методы: подменить показания датчика, исказить поток данных или просто перерезать кабель связи.
Но раз процессом теперь управляет ИИ, даже такая мелочь вызывает непропорционально сильную автоматическую реакцию. Проблему создала не атака на ИИ. Её создало то, что управление передали алгоритму, не позаботившись о защите данных, на которых он основывает решения.
Как уязвимость оборачивается бедой: цепная реакция
Теперь посмотрим, как скрытая уязвимость становится настоящим кризисом.
Представьте обычный сбой: внезапное отключение света в одном районе, затор грузовиков на границе или кампания по введению в заблуждение через простые каналы. В традиционной системе люди оценили бы обстановку, приняли взвешенное решение и смягчили последствия.
Система с ИИ действует иначе. Она строго следует тому, для чего её обучали, и делает это со скоростью машины, без человеческой интуиции. В итоге она может принять решения, логичные на первый взгляд, но с тяжёлыми последствиями: отключить связанные участки сети, перенаправить важные ресурсы прочь от тех, кто в них нуждается, или поднять тысячи ложных тревог, с которыми не справятся сотрудники службы безопасности.
ИИ здесь не был ни организатором угрозы, ни оружием. Но он сработал как усилитель и превратил небольшую неприятность в серьёзный системный сбой.
Нужен другой подход к управлению рисками
Если мы продолжим смотреть на технологии только как на возможное орудие злоумышленников, наши меры останутся запоздалыми и узкими: удалять вредный контент, блокировать отдельные приложения, ловить отдельных нарушителей.
Чтобы увидеть полную картину, власти, спецслужбы и разработчики должны принять принцип «безопасность на этапе проектирования» (Security-by-Design). Это значит, что защиту закладывают в систему ещё на этапе проектирования, а не добавляют потом. Сейчас страны Центральной Азии и весь мир создают региональные центры кибербезопасности, правила использования ИИ и международные соглашения. Внимание нужно уделять не только борьбе с онлайн-пропагандой.
Пора задать себе непростые вопросы. Где мы уже доверили решения автоматике, не обеспечив достаточных мер защиты? Что станет с важнейшей инфраструктурой, если алгоритм столкнётся с реальным кризисом, к которому его не готовили?
ИИ — это уже не просто инструмент на рабочем столе специалиста по безопасности. Это пол, на котором стоит этот стол. Прежде чем строить на нём глобальную систему управления, нужно убедиться, что пол выдержит нагрузку. ///nCa, 9 ноября 2026 г.