Казахстанские ИБ-директора в 85% случаев назвали главной бедой ИИ в руках сотрудников
Полный запрет публичных нейросетей не добавляет контроля, считают в Softline
Главной темой, связанной с искусственным интеллектом, для 85% ИБ-директоров Казахстана стало его безопасное применение внутри компаний. Российскому бизнесу такой риск знаком не хуже.
Ещё 76% опрошенных руководителей ждут, что в 2025–2028 годах киберпреступники перейдут на новые и более эффективные способы атак. При этом их заботит скорее то, как коллеги пользуются ИИ, чем защита самих моделей от внешних угроз.
Что такое теневой ИИ
Главную опасность в Softline видят в «теневом ИИ»: люди заходят в публичные сервисы без ведома ИТ-службы и отдела информационной безопасности. В запросах к ним легко оказываются корпоративные документы, персональные данные и коммерческая тайна. Компания нередко не знает, какие именно нейросети в ходу у персонала и хранит ли поставщик введённую информацию.
Для российских фирм проблема в скорости: сотрудники способны передать данные открытым нейросетям раньше, чем в компании появятся правила и технические ограничения, пишет CNews.
Как с этим справляться
Softline предлагает завести реестр разрешённых ИИ-моделей, вести журнал запросов и ответов и контролировать передачу чувствительных сведений. Системы защиты от утечек (DLP) можно настроить так, чтобы они замечали попытки загрузить корпоративную информацию в публичные сервисы. Для конфиденциальных данных подойдут закрытые модели.
За основу внутренних правил можно взять стандарт ISO/IEC 42001, модель управления рисками NIST AI RMF и перечень уязвимостей OWASP Top 10 for LLM Apps.
По мнению Виктора Гулевича, руководителя направления информационной безопасности управления международного бизнеса ГК Softline, полный запрет публичных нейросетей контроля не добавляет. Компаниям, говорит он, нужны разрешённые инструменты, ясные правила работы с данными и мониторинг.
Опрос показывает тревогу руководителей, но реальных утечек не считает: открытой статистики по Казахстану пока нет. Поэтому ждать подтверждённых инцидентов не стоит, а ИИ-сервисы лучше сразу включить в общую систему контроля внешних приложений.