Лось Михаил Александрович — ассистент
sc 57221856678
Кемерово, 650000
Mihail A. Los — Assistant
sc 57221856678
Kemerovo, 650000
Нятина Наталья Владимировна — кандидат социологических наук, доцент
sc 57225971178
Кемерово, 650000
Nataliya V. Nyatina — PhD (Sociology), Associate Professor, Associate Professor
sc 57225971178
Kemerovo, 650000
Головацкий Евгений Васильевич — доктор социологических наук, доцент, профессор
sc 57221856678
Кемерово, 650000
Eugeny V. Golovatsky — D.Sc. (Sociology), Associate Professor, Professor
sc 57221856678
Kemerovo, 650000
Введение. Представлен прикладной подход к автоматизированной разметке пользовательских коммуникаций в социальной сети «ВКонтакте» и построению компактной нейросетевой модели для одновременного определения коммуникативного класса комментария (конструктивный/деструктивный/нейтральный) и его тональности (положительное/отрицательное/нейтральное). Эмпирическая база содержит 996 пар «пост-комментариев», собранных из популярных региональных сообществ с акцентом на городские и новостные тематики. Метод. Архитектурно применен русскоязычный энкодер языковой модели, основанной на архитектуре «трансформер», с многоцелевой постановкой. Токенизация реализована по схеме WordPiece, оптимизация проведена по взвешенной кросс-энтропии с класс-весами для компенсации дисбаланса, валидация — стратифицированная. Качество оценивается по метрике macro-F1 для обеих задач. Для устойчивости модели на малом корпусе использована «заморозка» энкодера на первую эпоху с последующей короткой донастройкой, а также итеративное дообучение на новых размеченных партиях через веб-интерфейс. Элементы объяснимости нейросети обеспечены подсветкой вкладов токенов (на основе сверточного модуля внимания) и поиском ближайшего примера из обучающей выборки, что связывает решение модели с интерпретируемыми языковыми маркерами. Экспериментальная апробация на процессорной инфраструктуре показала достижимость работы без графического ускорителя и внешних сервисов при ограничении контекста. Основные результаты. Исходные результаты на базовом корпусе демонстрируют ожидаемо невысокие значения macro-F1 из-за дисбаланса и объема данных (порядка 0,31 для конструктивности и 0,20 для тональности), однако включение класс-весов, коротких циклов дообучения приводят к устойчивому росту метрик без деградации на редких классах. Практический результат работы заключается в объединении контекстно-зависимой классификации «пост-комментарий», двуглавого многозадачного обучения и минималистичной схемы развертывания, с использованием программных пакетов FastAPI и Gradio, в воспроизводимый инструмент мониторинга сетевых коммуникаций. Обсуждение. Научная новизна работы отражается в совместной контекстной классификации тональности анализируемого текста, а также в применении цикла «доразметка»–«дообучение»–«валидация» с элементами объяснимости, что отличает подход от одноцелевых моделей сентимент-анализа и поведенческих схем детекции онлайн коммуникации.
The paper presents an applied approach to the automated markup of user communications in the social network VKontakte (VK) and the construction of a compact neural network model for simultaneously determining the communicative class of a comment communicative class of a comment (constructive/destructive/neutral) and its tonality (positive/negative/neutral). The empirical database contains 996 “post-comment” pairs collected from popular regional communities with an emphasis on urban and news topics. Architecturally, a Russian-language BERT-compatible encoder with a multi-purpose formulation is used. Tokenization is implemented according to the WordPiece scheme, optimization is carried out using weighted cross-entropy with class weights to compensate for the imbalance, validation is stratified. The quality is assessed using the macro-F1 metric for both tasks. For the stability of the model on a small case, the encoder is “frozen” for the first epoch followed by a short adjustment as well as iterative retraining on new marked-up batches via the web interface. The explanatory elements of the neural network are provided by highlighting the contributions of tokens (based on the “attention” convolution) and searching for the nearest example from the training sample which connects the model solution with interpreted language markers. Experimental testing on the processor infrastructure has shown that it is achievable to work without a graphics accelerator and external services with limited context. The initial results on the base case demonstrate the expected low values of macro-F1 due to the imbalance and volume of data (about 0.31 for constructiveness and 0.20 for tonality), however, the inclusion of class weights and short cycles of retraining lead to a steady increase in metrics without degradation on rare classes. The practical result of the work is to combine the context-sensitive “post-comment” classification, two-headed multitasking training, and a minimalistic deployment scheme using the FastAPI and Gradio software packages into a reproducible network communications monitoring tool. The scientific novelty is reflected in the joint contextual classification of the tonality of the analyzed text as well as in the application of the “markup”–“retraining”–“validation” cycle with elements of explainability, which distinguishes the approach from single-purpose models of sentiment analysis and behavioral detection schemes for online communication.
The authors declare that there are no conflicts of interest present.