Дослідження методів глибинного навчання та їх застосування в лінгвістичній стеганографїї

Abstract

У роботі проведено дослідження технології глибинного навчання. Розглянуто позицію технології глибинного навчання в сфері штучного інтелекту, проведено аналіз її властивостей та залежностей, досліджено методи глибинного навчання та їх застосунки. Проведено дослідження методів глибинного навчання для обробки природної мови та їх використання в методах лінгвістичної стеганографії. Мета роботи полягала в аналізі властивостей та залежностей технології глибинного навчання, дослідженні методів та застосунків глибинного навчання та аналізі існуючих реалізацій обробки природної мови, з використанням глибинного навчання, а також власна реалізація мовою програмування Python лінгвістичної стеганосистеми з використанням глибинного навчання, а саме рекурентної нейронної мережі, яка використовується для автоматичної генерації текстових контейнерів високої якості для приховування таємного потоку бітів, та її експериментальні дослідження щодо таких характеристик як швидкість вбудовування, ефективність вбудовування, непомітність вбудовування, ємність для вбудовування. В процесі генерації було запропоновано кодування фіксованої довжини та кодування змінної величини для кодування слів на основі їхнього умовного розподілу ймовірності. Розроблена програмна реалізація дозволяє використовувати методи лінгвістичної стеганографії більш ефективно.The work conducted a study of deep learning technology. The position of deep learning technology in the field of artificial intelligence was considered, its properties and dependencies were analyzed, deep learning methods and their application were investigated. A study of deep learning methods for natural language processing and their usage in linguistic steganography methods was conducted. The purpose of the work was to analyze the properties and dependencies of deep learning technology, to research methods and applications of deep learning and to analyze existing implementations of natural language processing using deep learning, as well as own implementation in the Python programming language of a linguistic steganosystem using deep learning, specifically, a recurrent neural network, which is used to automatically generate high-quality text containers to hide a secret bit stream, and its experimental studies on characteristics such as embedding rate, information embedding efficiency, information imperceptibility and information hidden capacity. In the generation process, fixed-length encoding and variable-value encoding were proposed to encode words based on their conditional probability distribution. The developed software implementation allows you to use linguistic steganography methods more effectively.