Разработка методики формирования и верификации обучающих наборов данных для систем искусственного интеллекта в области информационной безопасности

Содержание

Введение

Глава 1. Анализ требований к обучающим данным для систем искусственного интеллекта в области информационной безопасности

1.1. Роль обучающих данных в системах ИИ для информационной безопасности и влияние их качества на эффективность защиты.

1.2. Нормативно-правовая база Российской Федерации, применимая к обработке и использованию обучающих данных. Национальные и международные стандарты управления качеством данных и информационной безопасностью

1.3. Принципы объяснимого искусственного интеллекта и требования к обучающим данным. Типовые риски обучающих наборов данных и угрозы, связанные с их низким качеством

Глава 2. Разработка методики формирования и верификации обучающих наборов данных

2.1. Общая архитектура методики и её место в жизненном цикле систем машинного обучения. Методика формирования обучающих данных: источники, требования и процедуры балансировки.

2.2. Методика верификации обучающих данных: этапы, критерии и метрики качества. Чек-лист верификации обучающих наборов данных. Документирование обучающих наборов данных: структура, содержание и прослеживаемость. Интеграция методики в процессы разработки систем ИИ и роли участников.

Глава 3. Апробация методики на примере гипотетической системы обнаружения аномалий поведения пользователей

3.1. Постановка задачи и описание системы UEBA. Формирование синтетического обучающего набора данных.

3.2. Применение методики формирования и верификации к обучающему набору данных. Анализ результатов апробации и демонстрация практической ценности методики. Ограничения апробации и направления дальнейших исследований

Заключение

Список использованной литературы

ВЫПУСКНАЯ КВАЛИФИКАЦИОННАЯ РАБОТА

Разработка методики формирования и верификации обучающих наборов данных для систем искусственного интеллекта в области информационной безопасности

ВВЕДЕНИЕ

Современный этап развития информационного общества характеризуется стремительным внедрением технологий искусственного интеллекта в критически важные сферы обеспечения национальной безопасности Российской Федерации, включая защиту информации от несанкционированного доступа, обнаружение компьютерных атак на объекты критической информационной инфраструктуры и противодействие киберугрозам. Согласно данным аналитического центра Positive Technologies, в 2024 году количество целенаправленных кибератак на российские организации возросло на 47% по сравнению с предыдущим периодом, при этом 68% успешных инцидентов информационной безопасности были связаны с использованием злоумышленниками сложных адаптивных методов, требующих применения интеллектуальных систем защиты для своевременного обнаружения и предотвращения [1, c. 15]. В условиях реализации Указа Президента Российской Федерации от 30 марта 2022 года № 166 «О мерах по обеспечению технологической независимости и безопасности критической информационной инфраструктуры Российской Федерации» и усиления требований Федерального закона от 26 июля 2017 года № 187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» перед российскими разработчиками систем защиты информации встает задача создания отечественных решений на базе искусственного интеллекта, способных эффективно противодействовать современным киберугрозам в условиях импортозамещения.

Системы искусственного интеллекта, применяемые для обнаружения аномалий поведения пользователей, анализа вредоносного программного обеспечения, выявления сетевых атак и прогнозирования инцидентов информационной безопасности, критически зависят от качества обучающих наборов данных, на основе которых происходит настройка алгоритмов машинного обучения. Недостаточная репрезентативность обучающих данных, их несбалансированность, наличие скрытых смещений или намеренно внесенных искажений могут привести к критическим ошибкам в работе систем защиты информации, создавая угрозы национальной безопасности и конфиденциальности персональных данных граждан Российской Федерации, обрабатываемых в соответствии с требованиями Федерального закона от 27 июля 2006 года № 152-ФЗ «О персональных данных» и Приказа ФСТЭК России от 18 февраля 2013 года № 21 [2, c. 42]. Анализ инцидентов информационной безопасности, проведенный исследовательской группой «Лаборатории Касперского», показывает, что в 23% случаев отказы систем защиты на базе искусственного интеллекта обусловлены дефектами обучающих данных, включая неполноту покрытия векторов атак, устаревание паттернов угроз и недостаточную валидацию исходных наборов данных перед использованием для обучения моделей [3, c. 78].

Актуальность темы выпускной квалификационной работы определяется необходимостью разработки научно обоснованной методики формирования и верификации обучающих наборов данных для систем искусственного интеллекта в области информационной безопасности, обеспечивающей соответствие требованиям ГОСТ Р 59547-2021 «Системы искусственного интеллекта. Методы обеспечения доверия. Общие положения», требованиям объяснимости решений согласно концепции Explainable AI, а также нормам защиты персональных данных и информации ограниченного доступа при формировании обучающих выборок на объектах информатизации, подлежащих аттестации по требованиям ФСТЭК России. Отсутствие стандартизированных процедур верификации обучающих данных создает риски внедрения уязвимых систем защиты информации на объектах критической информационной инфраструктуры, что противоречит положениям Доктрины информационной безопасности Российской Федерации, утвержденной Указом Президента Российской Федерации от 5 декабря 2016 года № 646, и Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы.

Степень разработанности проблемы характеризуется наличием теоретических исследований в области машинного обучения для задач информационной безопасности, представленных в работах отечественных ученых Щеглова А.Ю., Лукацкого А.В., Домарева В.В., исследовательских групп МГТУ им. Н.Э. Баумана и Санкт-Петербургского политехнического университета Петра Великого, однако комплексная методика, объединяющая процессы формирования, документирования, верификации и прослеживаемости обучающих наборов данных применительно к требованиям российских регуляторов в сфере информационной безопасности, в научно-технической литературе освещена недостаточно.

Цель выпускной квалификационной работы — разработка методики формирования и верификации обучающих наборов данных для систем искусственного интеллекта в области информационной безопасности, обеспечивающей повышение качества данных, прослеживаемость их происхождения и соответствие требованиям объяснимости и защиты информации.

Задачи выпускной квалификационной работы:

• проанализировать роль обучающих данных в системах искусственного интеллекта для информационной безопасности и определить влияние их качества на эффективность защиты;
• исследовать нормативно-правовую базу Российской Федерации, применимую к обработке и использованию обучающих данных, а также национальные и международные стандарты управления качеством данных;
• выявить типовые риски обучающих наборов данных и угрозы, связанные с их низким качеством, в контексте принципов объяснимого искусственного интеллекта;
• разработать методику формирования обучающих данных с определением источников, требований и процедур балансировки;
• разработать методику верификации обучающих данных с определением этапов, критериев и метрик качества;
• провести апробацию разработанной методики на примере гипотетической системы обнаружения аномалий поведения пользователей и проанализировать результаты.

Объект исследования — процессы формирования и верификации обучающих наборов данных для систем

…