Дослідження методу кодування для інтелектуальних систем стиснення відеоданих

Abstract

У кваліфікаційній роботі досліджено методи кодування для інтелектуальних систем стиснення відеоданих. Метою роботи є дослідження гібридного методу кодування на основі аналізу складності сегментів для підвищення візуальної якості в інтелектуальних системах стиснення відеоданих. Об’єктом дослідження є процеси кодування та аналізу складності сегментів і інтелектуальних системах стиснення відеоданих. Предметом дослідження є інтелектуальні алгоритми адаптивного управління параметрами кодування та постобробки відео. У процесі роботи проаналізовано сучасні стандарти відео кодування (H.264, H.265, H.266, AV1) та підходи на основі нейронних мереж. Розроблено архітектуру системи NeuroQuant, яка включає модулі аналізу складності кадрів, генерації QP-плану за R-λ моделлю, кодування через FFmpeg та селективної нейромережевої постобробки. Реалізовано програмне забезпечення з підтримкою CLI та повноцінного графічного інтерфейсу на PyQt6. Проведено експериментальне дослідження на тестових відео 1080p при різних бітрейтах.The subject of the study is intelligent algorithms for adaptive control of encoding parameters and video post-processing. The work analyzes current video coding standards (H.264, H.265, H.266, AV1) and neural network-based approaches. The architecture of the NeuroQuant system was developed, including modules for frame complexity analysis, R-λ based QP-plan generation, FFmpeg encoding, and selective neural post-processing. Software with CLI and full PyQt6 graphical interface was implemented. Experimental research was conducted on 1080p test videos at various bitrates. The obtained results confirm the effectiveness of the proposed approach: at 600 kbps, the NeuroQuant method achieves a compression ratio of up to 12.8×, PSNR 35.1 dB, VMAF 76.8, and with Real-ESRGAN – VMAF increases to 81.5 while maintaining file size. Compared to H.264, quality improvement of 3–4 dB PSNR and size savings up to 36% were achieved. The scientific novelty lies in combining per-frame R-λ controller with selective super-resolution applied only to low-quality frames.