Демократизация ИИ: какие угрозы и риски необходимо учитывать

Очень многие эксперты отметили кибербезопасность и защиту данных среди ключевых проблем, появляющихся в ходе демократизации ИИ. Корень проблемы кроется в публичных ИИ-сервисах, а точнее, в риске утечек переданных в них корпоративных данных, в том числе конфиденциальных, а также в угрозе связанных с утечками финансовых и репутационных издержек.

Николай Тржаскал, директор по продуктам «Преферентум» компании SL Soft, также подчеркивает угрозу кибератак: «В частности, неправильно настроенные ИИ-системы или комплексы, построенные путем их интеграции, могут стать уязвимыми точками — это особенно критично для банковской сферы и онлайн-торговли. Кроме того, есть угроза зависимости от качества и доступности локальных решений после ухода зарубежных вендоров: российские разработчики стремятся быстрее вывести на рынок новые версии решений, нередко жертвуя тщательностью их тестирования. Такая спешка может привести к ошибкам в расчетах, сбоям в работе и снижению производительности. Нельзя забывать и о рисках, связанных со сложностью оценки окупаемости (ROI): эффект от внедрения ИИ часто бывает трудно измерить из-за длительного периода адаптации, отсутствия четких метрик и сложности прогнозирования. Однако самая серьезная, на мой взгляд, угроза — опасность завышенных ожиданий: руководители, вдохновленные успешными кейсами конкурентов, могут недооценить необходимость долгосрочного сопровождения ИИ-систем, что снижает их эффективность. Важно понимать, что если бизнес-процессы компании не готовы к внедрению ИИ, затраты могут оказаться необоснованными, а выгоды — неочевидными. Снизить риски и повысить предсказуемость результатов внедрения ИИ компаниям поможет запуск и анализ пилотных проектов, формирование четких метрик эффективности и учет дополнительных затрат на обучение, техническую поддержку и обновление технологий».

Полный материал доступен по ссылке