Эксперт СКИ РАНХиГС: цифровая трансформация – эффективность и качество

Цифровая трансформация повышает эффективность за счёт автоматизации и оптимизации процессов управления. Это улучшает качество работы систем благодаря инновационным механизмам.

В применяемых системах цифровизации оборудование и устройства (в основном импортного производства) основаны на облачных технологиях, в которых уровень уязвимости оценивается по слабейшему звену, в данном случае слабейшим звеном становится информационная безопасность. Для разработчиков систем   искусственного интеллекта самая большая проблема — это защита от утечки информации. Это значит, что все вводимые данные доступны не только прямым пользователям.

Необходимо понимать, что вся цифровизация построена на данных. Данные, которые помещены в облака, обладают риском информационной безопасности. Задача защиты от утечки данных не решена до сих пор, по крайней мере на сегодняшний момент человечество эту задачу не решило, существующие риски информационной безопасности на сто процентов не купируются.  

При внедрении или создании любой цифровизированной системы разработчиками должны изначально учитываться риски информационной безопасности, то есть должны быть проанализированы модели угроз и сбоев, составлена система защиты. Особенно в условиях зависимости от бесперебойной работы интернета и электрических сетей. 

Искусственный интеллект, основанный на глубоких нейронах сетях – это сложная система, которая в целом может быть описана моделью: «черный ящик», которая имеет ложноположительный и ложные отрицательные срабатывания. При этом если снижаются ложноположительные срабатывания до нуля, то ложноотрицательные увеличиваются в разы. Что значит, она неточна по определению.

Сегодня широкое распространение получила форма «электронный помощник», основанная на искусственном интеллекте, которая справляется с простыми повторяющимися задачами, но не улучшает решение сложных проблем. Даже в широко применяемых системах банковского обслуживания, гражданам   не всегда удается решить все возникающие проблемы с помощью электронных помощников.

 Поэтому весьма проблематично широко внедрять цифровизированные системы в узкоспециализированные области, например, в медицинские решения. Так как   врач   несёт ответственность за результаты лечения и побочные эффекты, в отличии от систем ИИ. Риски обширного внедрения искусственного интеллекта значительны и должны быть учтены.