Фрактально-адаптивні методи оптимізації глибоких нейромереж у медичній діагностиці

Abstract

Метою кваліфікаційної роботи є підвищення валідаційної точності та стабільності процесу навчання нейромереж шляхом розроблення нового адаптивного оптимізатора, який поєднує принципи класичного алгоритму Adam із фрактальним підходом до багатомасштабного згладжування градієнтів. Досягнення цієї мети передбачає створення методу, здатного забезпечити стійку збіжність навіть за наявності шуму та нерівномірних даних та покращити точність моделей у медичних задачах класифікації. Об’єкт дослідження: процес оптимізації навчання глибоких нейронних мереж. Предмет дослідження: фрактальні методи оптимізації процесу навчання нейронних мереж на задачах медичної діагностики, зокрема застосування фрактальної самоподібності до процесу оновлення параметрів. Проблема, яка вирішується в кваліфікаційній роботі, полягає у підвищенні валідаційної точності та стабільності процесу навчання глибоких нейронних мереж. Досягнення цієї мети передбачає створення методу, здатного забезпечити стійку збіжність за наявності шуму та нерівномірних даних та покращити точність моделей у медичних задачах класифікації. Область застосування: автоматизація медичної діагностики, зокрема аналіз знімків зрізів тканин у задачах мультикласифікації. Розроблений алгоритм оптимізації може бути використаний у всіх типах медичних закладів.

The purpose of the qualification work is to improve the validation accuracy and stability of the deep neural network training process by developing a new adaptive optimizer that combines the principles of the classical Adam algorithm with a fractal-based approach to multiscale gradient smoothing. Achieving this goal involves creating a method capable of ensuring stable convergence even in the presence of noise and non-uniform data, as well as improving the accuracy and generalization ability of models in medical classification tasks. The object of research: the optimization process of deep neural network training. The subject of research: fractal optimization methods for neural network training in medical diagnostic tasks, in particular, the formation and combination of multilevel gradient moments, as well as the application of fractal self-similarity to the model parameter update process. The problem solved in the qualification work is enhancing the validation accuracy and stability of deep neural network training. The proposed method aims to ensure robust convergence even under noisy and heterogeneous data conditions and to improve both accuracy medical classification problems. Application area: automation of medical diagnostics, particularly the analysis of tissue slice images in multiclass classification tasks. The developed optimization algorithm can be applied in all types of medical.