Аналіз та дослідження засобів забезпечення безпеки у системах штучного інтелекту - Кобилянська, О. А. (Харків : Харківський національний університет імені В. Н. Каразіна, 2024)
Метою даної роботи є дослідження методів атак на нейронні мережі та розробка ефективних методів захисту від цих атак. Включаючи аналіз існуючих типів атак, розробку адверсивних прикладів, а також впровадження методів захисту, таких як адверсивне навчання, моніторинг та інші стратегії. У роботі використані аналітичні й порівняльні методи аналізу, а також експериментальні методи для генерації адверсивних прикладів з використанням градієнтних методів. У результаті проведеного дослідження було визначено, що адверсивні атаки можуть суттєво впливати на точність нейронних мереж. Експериментально підтверджено ефективність адверсивного навчання та бінарного порогового перетворення як методів захисту від таких атак. Навчання моделей на адверсивних прикладах дозволяє значно підвищити їх стійкість до атак. Отримані результати можуть бути корисні для фахівців з кібербезпеки, дослідників у галузі штучного інтелекту, освітніх установ, компаній, що займаються обробкою великих даних, та державних організацій. Вони допоможуть у розробці та впровадженні ефективних методів захисту нейронних мереж від адверсивних атак, підвищенні надійності та безпеки моделей, а також у навчанні студентів сучасним методам кібербезпеки. Рекомендації, розроблені на основі отриманих результатів, сприятимуть підвищенню рівня кібербезпеки і допоможуть створювати більш надійні та безпечні системи на основі штучного інтелекту, що зменшить ризики, пов'язані з кіберзагрозами.

The aim of this work is to investigate attack methods on neural networks and to develop effective defense methods against these attacks. This includes the analysis of existing types of attacks, the development of adversarial examples, and the implementation of defense methods such as adversarial training, monitoring, and other strategies. Analytical and comparative analysis methods, as well as experimental methods for generating adversarial examples using gradient methods, were used in this work. As a result of the research, it was determined that adversarial attacks can significantly impact the accuracy of neural networks. The effectiveness of adversarial training and binary threshold conversion as defense methods against such attacks was experimentally confirmed. Training models on adversarial examples significantly enhances their robustness against attacks. The obtained results can be useful for cybersecurity specialists, artificial intelligence researchers, educational institutions, companies involved in big data processing, and government organizations. They will aid in the development and implementation of effective defense methods for neural networks against adversarial attacks, enhance the reliability and security of models, and help educate students on modern cybersecurity methods. Recommendations based on the obtained results will contribute to the improvement of cybersecurity levels and help create more reliable and secure artificial intelligence systems, thereby reducing risks associated with cyber threats.
Керівник роботи: Єсіна Марина Віталіївна, кандидат технічних наук, доцент доцент кафедри безпеки інформаційних систем, мереж і технологій Навчально-наукового інституту комп’ютерних наук та штучного інтелекту
Keywords: TECHNOLOGY::Information technology; кібербезпека; штучний інтелект; адверсивні атаки; нейронні мережі; захист нейронних мереж; neural network defense; neural networks; adversarial attacks; artificial intelligence; cybersecurity