Management and Future Technologies | Volume 2, Issue 2 | № 006

Read the issue as a PDF

408 p. · PDF · 16.77 MB

Download
Text view 141–160 / 408 p.

The text was extracted automatically from the PDF file, so the formatting may be broken. Open the PDF copy for the correct view.

141-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 в случаях, когда данные являются стационарными или могут быть приведены к стационарному виду. Еще одним популярным статистическим методом является модель экспоненциального сглаживания (Exponential Smoothing) [9], которая учитывает как тренды, так и сезонные колебания данных. Такие методы, позволяют эффективно прогнозировать временные ряды с ярко выраженными сезонными компонентами. Как было уже сказано, статистические методы часто применяются в случаях, когда данные обладают предсказуемыми паттернами и когда требуется высокая интерпретируемость модели. Методы машинного обучения охватывают более широкий спектр алгоритмов, которые обучаются на основе данных и могут выявлять более сложные закономерности в транспортных потоках. Один из ключевых методов машинного обучения — метод опорных векторов SVM (Support Vector Machines), который используется для задач классификации и регрессии. В контексте прогнозирования транспортных потоков, метод SVR (Support Vector Regression) позволяет моделировать нелинейные зависимости между переменными, что может быть полезным для прогнозирования краткосрочных изменений в транспортных потоках [10]. Другим важным методом является регрессия с деревьями решений DT-R (Decision Tree Regression), которая строит модель на основе иерархии правил принятия решений [11]. Этот метод является основой для более сложных ансамблевых методов, таких как случайные леса RF (Random Forests) и градиентный бустинг GB (Gradient Boosting), которые объединяют множество деревьев решений для повышения точности прогнозов [1]. Методы машинного обучения обладают высокой гибкостью и могут адаптироваться к различным типам данных и задач. Они особенно полезны в случаях, когда данные имеют сложные и нелинейные взаимосвязи, которые трудно уловить с помощью традиционных статистических методов. Методы глубокого обучения представляют собой сложные и мощные модели, способные анализировать большие объемы данных и выявлять глубокие закономерности [12]. Одним из наиболее распространенных методов глубокого обучения является рекуррентные нейронные сети RNN (Recurrent Neural Networks), и их разновидности, такие как LSTM (Long Short-Term Memory) и GRU (Gated Recurrent Unit). Эти модели особенно эффективны для работы с временными рядами, так как они учитывают последовательную природу данных и могут запоминать информацию о предыдущих состояниях сети [13–16]. Другим важным методом глубокого обучения является сверточные нейронные сети CNN (Convolutional Neural Networks), которые изначально были разработаны для обработки изображений, но также могут быть адаптированы для анализа временных рядов. В контексте 141

142-p.

Volume 2, Issue 2 142 June 2025 Management and Future Technologies journal.umft.uz прогнозирования транспортных потоков CNN могут использоваться для выделения пространственно-временных закономерностей в данных, что делает их полезными для задач, связанных с прогнозированием интенсивности движения в различных регионах [13]. Одной из новых и перспективных архитектур глубокого обучения являются сети Колмогорова-Арнольда KAN (Kolmogorov-Arnold Networks), которые основаны на теореме представления Колмогорова-Арнольда. Эти сети отличаются от традиционных моделей глубокого обучения тем, что используют сплайновые функции в качестве активаций, что позволяет им быть более интерпретируемыми и эффективными [17–19]. Наша статья представляет собой перспективное исследование, посвященное применению сетей Колмогорова-Арнольда (KAN) для прогнозирования транспортных потоков. Мы ставим перед собой задачу оценить практичность применения KAN в реальных сценариях транспортного моделирования, анализируя их эффективность с точки зрения количества обучаемых параметров. Для достижения этой цели мы провели оценку производительности KAN, используя реальные данные транспортного трафика. В ходе исследования мы также сравнили результаты, полученные с использованием KAN, с результатами прогнозирование, полученными с помощью более традиционных нейронных сетей, таких как многослойные персептроны MLP, рекуррентные нейронные сети (RNN), а также их продвинутых вариантов LSTM и GRU. Эти архитектуры широко признаны и активно используются для задач прогнозирования временных рядов, включая прогнозирование транспортных потоков. Методология исследования 3.1 Постановка задачи Пусть значения временного ряда 𝑌𝑌��� доступны в дискретные моменты времени � � 1,2, … , 𝑇𝑇 Обозначим временной ряд как 𝑌𝑌��� � 𝑌𝑌�1�, 𝑌𝑌�2�, … , 𝑌𝑌�𝑇𝑇�. В момент времени 𝑇𝑇 необходимо определить значения процесса 𝑌𝑌��� в последующие моменты времени 𝑇𝑇 � 1, … , 𝑇𝑇 � 𝐿𝐿. Здесь 𝑇𝑇 — называется моментом прогноза, а величина 𝐿𝐿 — временем упреждения. Для вычисления значений временного ряда в будущие моменты времени требуется определить функциональную зависимость, которая отражает связь между прошлыми и будущими значениями этого ряда. Эта зависимость называется моделью прогнозирования. 𝑌𝑌�𝑇𝑇 � �� � 𝐹𝐹�𝑌𝑌�𝑇𝑇�, 𝑌𝑌�𝑇𝑇 � 1�, 𝑌𝑌�𝑇𝑇 � 2�, … �, � � 1,2, … , 𝐿𝐿, где 𝐹𝐹 — функция, которая определяет связь между прошлыми значениями временного ряда и прогнозируемыми значениями. Модель прогнозирования должна быть построена �1�

143-p.

Management and Future Technologies таким образом, чтобы journal.umft.uz среднее June 2025 абсолютное отклонение Volume 2, Issue 2 истинного значения прогнозируемого стремилось к минимальному для заданного времени упреждения 𝐿𝐿. � 1 ��� � ��𝑌𝑌�� � �� � 𝑌𝑌��� � ��� , 𝐿𝐿 от �2� ��� где 𝑌𝑌�� � �� – истинная значение, 𝑌𝑌��� � �� — прогнозные значения временного ряда. Кроме получения будущих значений временного ряда, необходимо определить доверительный интервал (3) возможных отклонений этих значений. Это позволит оценить диапазон, в пределах которого могут находиться реальные значения процесса. Конструкция доверительного интервала поможет в анализе надежности и точности прогнозов. �𝑌𝑌��� � �� � 𝑧𝑧 � 𝜎𝜎, 𝑌𝑌��� � �� � 𝑧𝑧 � 𝜎𝜎�, �3� где 𝑧𝑧 — значение критического уровня для выбранного уровня доверия. Например, для уровня доверия 95% значение 𝑧𝑧 примерно равно 1.96 (в случае нормального распределения). 𝜎𝜎 — стандартная ошибка прогноза, которая измеряет вариабельность прогнозного значения. 3.2 Исходные данные Для достижения поставленной выше исследовательской цели необходимо сформировать набор данных. Данные были собраны с перекрёстков, расположенных на улице Богишамол и на участке малой кольцевой дороги в Ташкенте, Узбекистан. Для этого использовались специальные программы и статистические методы. Сбор данных осуществлялся в период с 1 января по июнь 2023 года. Структура этих данных представлена в таблице 1, которая содержит информацию о дате, времени, направлении транспортного потока и количестве транспортных средств в каждый час. Таблица. 1. Структура собранных данных. № DateTime Vehicles day week month year 0 01.01.2023 0:00 140.0 1 7 1 2023 1 01.01.2023 1:00 140.0 1 7 1 2023 2 01.01.2023 2:00 100.0 1 7 1 2023 3 01.01.2023 3:00 60.0 1 7 1 2023 Анализ собранных данных показал, что пиковые часы транспортных потоков, как правило, приходятся на раннее утро с 8:00 до 11:00 и вечер с 16:00 до 19:00. Эти временные интервалы характерны для наибольшей загруженности дорог в рабочие дни. График средней 143

144-p.

Volume 2, Issue 2 144 June 2025 Management and Future Technologies journal.umft.uz интенсивности и медианы движения транспорта по дням неделя на этом участке дороги представлен на рисунке 3. На основе этой информации мы разрабатываем модели прогнозирования транспортных потоков, используя вышеупомянутые методы. В процессе разработки моделей будет проведен сравнительный анализ различных подходов с целью выбора наиболее эффективного. Для этого планируется корректировка параметров моделей, таких как количество слоев, количество нейронов в слое, функции активации и другие гиперпараметры, чтобы достичь наилучших результатов. Рис. 3. Усредненная значения и медиана интенсивности транспорта. 3.3 Выбор модели прогнозирования В данной работе нам предстоит создать модели прогнозирования транспортных потоков, используя методы MLP, RNN, LSTM, GRU и KAN. Прежде, чем перейти к реализации этих моделей, ниже приведём краткую информацию о каждом из указанных методов. Многослойные перцептроны (MLP) являются одной из базовых и наиболее распространенных архитектур нейронных сетей в области глубокого обучения. Они широко используются для решения различных задач, таких как классификация, регрессия и прогнозирование временных рядов. MLP представляет собой искусственную нейронную сеть, состоящую из нескольких слоев нейронов, организованных в иерархию. В базовом виде MLP включает три типа слоев (рис. 4).

145-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 145 Рис. 4. Архитектура MLP. Каждый нейрон в MLP выполняет простое математическое преобразование (4): он умножает входные данные на соответствующие веса, суммирует результаты, добавляет смещение и применяет функцию (таблица 2) активации для получения выходного сигнала [20]. � 𝑦𝑦� � � 𝜔𝜔�� ∙ 𝑥𝑥� � 𝑏𝑏� , �4� где 𝑦𝑦� линейная комбинация входов 𝑥𝑥� с весами 𝜔𝜔�� и смещением 𝑏𝑏� . ��� Таблица. 2. Примеры наиболее используемых функций активации. № 1 Название Sigmoid (cигмойда) Уравнение 𝑓𝑓�𝑥𝑥� � Tanh 2 (гиперболический тангенс) 𝑓𝑓�𝑥𝑥� � 1 1 � 𝑒𝑒 � 2 �1 1 � 𝑒𝑒 ��� Графика

146-p.

Volume 2, Issue 2 June 2025 146 3 Management and Future Technologies journal.umft.uz 0 𝑖𝑖𝑖𝑖 𝑥𝑥 � 0 𝑓𝑓�𝑥𝑥� � � 𝑥𝑥 𝑖𝑖𝑖𝑖 𝑥𝑥 � 0 ReLU Основная цель обучения MLP заключается в минимизации ошибки между предсказанными значениями сети и реальными значениями, используя метод обратного распространения ошибки. Процесс обучения включает в себя следующие шаги представленные на рисунке 5. Рис.5. Процесс обучение MLP Рекуррентные нейронные сети (RNN) — это класс нейронных сетей, предназначенных для обработки последовательных данных. В отличие от традиционных нейронных сетей, RNN имеют "память", которая учитывает предыдущие входные данные при обработке текущего входного сигнала. Это делает их особенно полезными для задач, где последовательность или временные зависимости играют ключевую роль, такие как прогнозирование временных рядов, обработка текста и распознавание речи [2]. В RNN нейроны связаны не только с нейронами следующего слоя, но и с самим собой на предыдущих временных шагах (рис. 6) [21]. Это позволяет сети сохранять информацию о предыдущих шагах и использовать её для принятия решений на следующих шагах. Основные формулы рекуррентной нейронной сети (RNN) можно описать следующим элементами из обновляющего модуля состояние (5) и выходного модуля (6) [2, 22]. ℎ� � 𝑓𝑓�𝑊𝑊� ⋅ 𝑥𝑥� � 𝑈𝑈� ⋅ ℎ��� � 𝑏𝑏� �, �5� где ℎ� - скрытое состояние в момент времени 𝑡𝑡, 𝑥𝑥� - входные данные в момент времени 𝑡𝑡, ℎ��� - скрытое состояние в предыдущий момент времени 𝑡𝑡 � 1, 𝑈𝑈� и 𝑊𝑊� - весовые матрицы для входных данных и предыдущего скрытого состояния соответственно, 𝑏𝑏� - вектор смещений (bias), 𝑓𝑓 функция активации (например, tanh или ReLU). 𝑦𝑦� � 𝑓𝑓�𝑊𝑊� ⋅ ℎ� � 𝑏𝑏� �, �6� где 𝑦𝑦� - выходное значение в момент времени t, ℎ� - скрытое состояние в момент времени 𝑡𝑡, 𝑊𝑊� - весовая матрица для скрытого состояния, 𝑏𝑏� - вектор смещений (bias), 𝑓𝑓 функция активации (например, softmax или сигмоида).

147-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 147 Рис.6. Архитектура RNN Эти формулы описывают, как RNN обновляет скрытое состояние и вычисляет выходное значение на каждом шаге времени. LSTM — это тип рекуррентной нейронной сети (RNN), разработанный для решения проблемы исчезающих и взрывающихся градиентов, которая часто возникает в стандартных RNN при обучении на длинных временных последовательностях. LSTM эффективно справляется с задачами, где требуется учитывать долгосрочные зависимости, благодаря своей уникальной архитектуре, включающей ячейки памяти. LSTM использует три ключевых элемента управления — входной, выходной и забывающий элементы (или "гейты"), которые управляют потоком информации внутри сети. Эти элементы позволяют сети сохранять или забывать информацию в процессе обучения, обеспечивая эффективное управление краткосрочными и долгосрочными зависимостями (рис.7). Рис.7. Архитектура LSTM. Основные уравнения LSTM состоят из забывающего модуля (7), входного модуля (8), обновляющего модуля (9) и выходного модуля (10) [15]. 𝑓𝑓� � ��𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � �� �, 𝑖𝑖� � ��𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � �� �, �7� �8�

148-p.

Volume 2, Issue 2 148 June 2025 Management and Future Technologies 𝐶𝐶�� � 𝑡𝑡𝑡𝑡𝑡𝑡ℎ�𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � 𝑏𝑏� � journal.umft.uz 𝐶𝐶� � 𝑓𝑓� ⋅ 𝐶𝐶��� � 𝑖𝑖� ⋅ 𝐶𝐶�� , �9� ℎ� � 𝑜𝑜� ⋅ 𝑡𝑡𝑡𝑡𝑡𝑡𝑡�𝐶𝐶� � , �10� 𝑜𝑜� � ��𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � 𝑏𝑏� � где 𝑓𝑓� — забывающий гейт, 𝑖𝑖� — входной гейт, 𝐶𝐶�� — кандидат в новое значение состояния ячейки, C� — обновленное состояние ячейки, o� — выходной гейт, h� — обновленное скрытое состояние, 𝑊𝑊� , 𝑊𝑊� , 𝑊𝑊� , 𝑊𝑊� —весовые матрицы для соответствующих гейтов, 𝑏𝑏� , 𝑏𝑏� , 𝑏𝑏� , 𝑏𝑏� — смещения, σ—сигмоидная функция активации, 𝑡𝑡𝑡𝑡𝑡𝑡𝑡— гиперболическая функция активации. GRU является упрощенной версией RNN, которая включает в себя механизмы управления потоком информации с помощью двух гейтов: обновляющего и сбрасывающего (рис.8). Обновляющий гейт отвечает за определение того, сколько информации из предыдущего состояния будет передано в следующее, а сбрасывающий гейт контролирует, какая часть предыдущего состояния будет "забыта". Такая архитектура помогает решать проблемы исчезающего градиента и позволяет сети более эффективно запоминать долгосрочные зависимости по сравнению с традиционными RNN. GRU требует меньше вычислительных ресурсов по сравнению с LSTM, но сохраняет сопоставимые результаты в задачах обработки временных рядов. Рис.8. Архитектура GRU. Основные уравнения для сети GRU включают четыре ключевых компонента: обновляющий гейт (11), сбрасывающий гейт (12), обновление состояния (13) и выходное состояние (14). Эти компоненты взаимодействуют для управления информацией, сохраняемой от предыдущих шагов и используемой для прогнозирования на текущем шаге.

149-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 𝑧𝑧� � 𝜎𝜎�𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � 𝑏𝑏� �, �11� ℎ�� � 𝑡𝑡𝑡𝑡𝑡𝑡ℎ�𝑊𝑊� ⋅ �𝑟𝑟� ⋅ ℎ��� , 𝑥𝑥� � � 𝑏𝑏� � , �13� 𝑟𝑟� � 𝜎𝜎�𝑊𝑊� ⋅ �ℎ��� , 𝑥𝑥� � � 𝑏𝑏� �, ℎ� � �1 � 𝑧𝑧� � ⋅ ℎ��� � 𝑧𝑧 ⋅ ℎ�� , �12� �14� где 𝑧𝑧� — обновляющий гейт, определяющий, сколько информации из предыдущего состояния передать в следующее, 𝑟𝑟� — сбрасывающий гейт, управляющий "забыванием" предыдущего состояния ℎ�� — кандидат в новое значение скрытого состояния, ℎ� — финальное скрытое состояние на текущий момент времени, 𝑊𝑊� , 𝑊𝑊� , 𝑊𝑊� — весовые матрицы, 𝑏𝑏� , 𝑏𝑏� , 𝑏𝑏� — смещения, 𝜎𝜎 — сигмоидная функция активации, 𝑡𝑡𝑡𝑡𝑡𝑡𝑡—гиперболический тангенс. KAN — это подход, который использует теорему Колмогорова-Арнольда для построения нейронной сети. Эта теорема утверждает, что любая непрерывная функция может быть представлена в виде суперпозиции нескольких одномерных функций. В контексте нейронных сетей KAN состоит из множества одномерных функций, которые используются для приближения сложных многомерных зависимостей, таких как временные ряды. Формулы для KAN можно представить на основе теоремы Колмогорова-Арнольда, которая позволяет разложить многомерную функцию на одномерные функции. В общем виде для представления функции от нескольких переменных ��𝑥𝑥� , 𝑥𝑥� , … , 𝑥𝑥� � используется следующая схема. Пусть у нас есть функция ��𝑥𝑥� , 𝑥𝑥� , … , 𝑥𝑥� �. По теореме Колмогорова, она может быть представлена как комбинация одномерных функций следующего вида (15) [17]. ���� � ��� ��� ��𝑥𝑥� , 𝑥𝑥� , … , 𝑥𝑥� � � � 𝛷𝛷� �� 𝜓𝜓�,� �𝑥𝑥� ��, �15� где 𝛷𝛷� — это непрерывные одномерные функции, которые являются обучаемыми в процессе обучения модели, 𝜓𝜓�,� — это также обучаемые одномерные функции от переменных 𝑥𝑥� , 𝑥𝑥� , 𝑥𝑥� , … , 𝑥𝑥� — это входные данные модели. KAN имеет уникальную структуру, отличающуюся от традиционных архитектур, таких как MLP, RNN, LSTM и GRU. 149

150-p.

Volume 2, Issue 2 June 2025 Management and Future Technologies journal.umft.uz 150 Рис. 9. Архитектура KAN. Как было сказано выше, в KAN функции активации могут быть представлены в виде полиномов или сплайнов, которые могут изменяться в процессе обучения. Это позволяет модели адаптироваться более гибко и эффективно к особенностям данных и задачам. Обучаемые функции активации в KAN предоставляют дополнительную степень свободы, которая помогает лучше захватывать сложные зависимости и структуры в данных. Кроме того, в KAN операции суммирования и обработки данных имеют иной характер. В отличие от MLP, где суммирование входных сигналов с весами является фиксированным, в KAN используются более сложные формы взаимодействия, учитывающие обучаемые функции активации. Это позволяет модели производить более сложные и адаптивные преобразования данных. Архитектура KAN строится на основе теоремы представления Колмогорова-Арнольда, которая позволяет создавать модели, способные эффективно представлять и обрабатывать многомерные функции. Таким образом, ключевое отличие между MLP и KAN заключается в том, что в MLP функции активации фиксированы и не изменяются в процессе обучения, в то время как в KAN функции активации являются обучаемыми, что позволяет модели гибче и точнее адаптироваться к данным и задачам. Это делает KAN потенциально более мощным инструментом для решения сложных задач, требующих глубокого анализа данных. 4. Анализ и обсуждение результатов В этом разделе мы рассмотрим процесс разработки моделей прогнозирования транспортных потоков с использованием вышеупомянутых архитектур. Для обучения модели мы используем программный пакет Anaconda и язык программирования Python версии 3.11.5.

151-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 При создании моделей применяются библиотеки: NumPy v1.26.3, pandas v2.0.3, matplotlib v3.7.2, scikit-learn v1.3.0, TensorFlow v2.9.1 и pytorch v2.2.2. Процесс создания моделей машинного обучения включает в себя последовательность обязательных шагов, представленных на рисунке 10. Рис.10. Этапы разработки модели МО. Прежде чем приступить к разработке модели на основе архитектуры MLP, необходимо подробно рассмотреть основные этапы этого процесса. В первую очередь следует провести предварительную обработку данных, так как качество входных данных напрямую влияет на точность предсказаний модели. На этапе предобработки данных были устранены пропуски и неопределённые значения, чтобы минимизировать влияние шума на процесс обучения. Далее выборка была разделена на обучающую и тестовую подвыборки в соотношении 80:20, что является стандартным подходом для обеспечения сбалансированной оценки качества модели. Такой способ разбиения позволяет эффективно обучить нейросетевую архитектуру и объективно оценить её способность к обобщению на новых данных. На этапе выбора и настройки модели была выбрана архитектура MLP, а её конфигурация определена эмпирическим путём, включая оптимальное количество слоев и число нейронов в каждом из них. В результате был сформирован наиболее подходящий вариант структуры, представленный на Рисунке 11, обеспечивающий баланс между вычислительной сложностью модели и её способностью к обобщению. Рис. 11. Архитектура модели MLP В процессе обучения модели важную роль играет настройка её параметров, к которым относятся: 151

152-p.

Volume 2, Issue 2 152 June 2025 Management and Future Technologies journal.umft.uz Оптимизатор (optimizer)– алгоритм, управляющий процессом обновления весов нейросети; Функция потерь (loss) – критерий, по которому оценивается ошибка модели и корректируются её параметры; Метрики (metrics) – показатели, используемые для оценки качества предсказаний модели; Размер пакета (batch_size) – число образцов, обрабатываемых за один шаг обновления весов; Количество эпох (epochs) – число полных проходов по обучающей выборке; Доля валидационной выборки (validation_split)– часть данных, выделяемая для контроля качества модели на этапе обучения. После настройки вышеуказанных параметров начинается процесс обучения модели, длительность которого зависит от её структуры и выбранных гиперпараметров. По завершении обучения следующим этапом является оценка модели, для которой используются метрики, (среднеквадратичная такие ошибка) как и R² MAE (средняя (коэффициент абсолютная детерминации), ошибка), MSE позволяющие количественно измерить точность прогнозирования и качество модели. После завершения этапа оценки результаты модели представляются в графическом виде, а вычисленные метрики оформляются в табличной форме, что позволяет наглядно проанализировать её точность и эффективность. Мы представим полученные результаты как в графическом, так и в табличном виде, сопровождая их кратким описанием и анализом. На Рисунке 12 представлен график функции потерь MLP-модели, из которого видно, что на начальных этапах обучения значение функции потерь стремительно уменьшается, что свидетельствует об эффективной адаптации нейронной сети к обучающим данным. Однако с увеличением количества эпох скорость функции потерь замедляется, и кривая постепенно стабилизируется, приближаясь к определённому значению. Анализ динамики изменений функции потерь на обучающей и валидационной выборках показывает, что их кривые снижаются без резких отклонений, что указывает на отсутствие переобучения (overfitting). Это подтверждает, что модель успешно выявляет и обобщает закономерности, присутствующие в данных, что свидетельствует о её хорошем обобщающем (generalization) свойстве.

153-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 153 Рис.12. График функции потерь. Анализируя метрики прогнозирования, можно отметить, что на тестовых данных модель показала следующие результаты: MAE = 0.068, MSE = 0.0085 и R² = 0.82. Малые значения MAE и MSE свидетельствуют о высокой точности модели, в то время как R², напротив, чем выше, тем лучше модель обобщает зависимости в данных. Эти результаты показывают, что модель прогнозирует с точностью 82%. Для повышения точности необходимо оптимизировать архитектуру модели и её гиперпараметры. Этот процесс обычно осуществляется эмпирическим (экспериментальным) путём. В ходе исследования были протестированы различные конфигурации, и в некоторых случаях удалось достичь точности 86% и 89%. Однако такие модели не показывали достаточного уровня обобщения. Оценка обобщающей способности модели проводилась с использованием уникального набора данных, который не входил в обучающую и тестовую выборки. Этот набор данных использовался для проверки модели в условиях, приближенных к реальным, и соответствующие результаты приведены на рисунке 13. Рис. 13. Результаты MLP-модели на уникальных данных. Наша модель показала точность всего 67% при проверке на уникальном наборе данных. Это может быть связано с несколькими факторами: во-первых, объем собранных данных мог

154-p.

Volume 2, Issue 2 June 2025 Management and Future Technologies journal.umft.uz Рис. 13. Результаты MLP-модели на уникальных данных. Наша модель показала точность всего 67% при проверке на уникальном наборе данных. 154 Это может быть связано с несколькими факторами: во-первых, объем собранных данных мог оказаться недостаточным, а во-вторых, уникально выбранный набор данных мог существенно отличаться от обучающей и тестовой выборок, из-за чего модель не смогла корректно его обработать. Например, если модель обучалась на данных о трафике в дневное время, а уникальный набор содержал ночные данные, это могло привести к ухудшению результатов. Данный эксперимент подтверждает важность регулярного дообучения модели на новых данных, чтобы повысить её способность к обобщению и улучшить качество прогнозирования. Наш следующий исследуемый метод — это модель RNN, архитектура которой была представлена ранее. В отличие от MLP, данная модель учитывает значения временного ряда на предыдущих шагах, что позволяет ей более точно прогнозировать последовательные данные. Для корректной работы модели входные данные были преобразованы в необходимый формат, после чего мы настроили её архитектуру и параметры. В данной RNN-модели предусмотрены входной и выходной слои, а также два скрытых слоя, что отражено на рисунке 14. Рис. 14. Архитектура RNN-модели. Настройки модели подбираются эмпирическим путем и практически не отличаются от вышеупомянутых параметров MLP. Что касается полученных результатов, график функции потерь представлен на рисунке 15. Из него видно, что разница между обучающей и валидационной выборками незначительна, и обе кривые постепенно снижаются. Это свидетельствует об отсутствии переобучения в данной модели.

155-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 155 Рис. 15. График функции потерь модели RNN Основные результаты показывают, что модель достигла следующих показателей: MSE = 0.0066, MAE = 0.0580 и R² = 0.88. При проверке на уникальных данных точность модели составила 74%, а графическое представление результатов приведено на рисунке 16. Рис. 16. Результаты RNN-модели на уникальных данных. Переходя к следующим моделям, можно отметить, что ими являются LSTM и GRU. Эти модели основаны на архитектуре RNN, и в нашем случае все необходимые данные уже подготовлены. Наша задача заключалась в разработке соответствующей архитектуры для этих моделей и настройке их параметров. Что касается архитектуры модели LSTM, то она показала хорошие результаты при использовании представленных ниже слоев и количества нейронов (Рис. 17).

156-p.

Volume 2, Issue 2 June 2025 Management and Future Technologies journal.umft.uz 156 Рис. 17. Архитектура модели LSTM. Параметры модели были выбраны аналогично параметрам модели MLP и определены эмпирическим путем. Функция потерь модели имеет следующий вид (Рис. 18). На данном графике видно, что значения ошибки на обучающей и валидационной выборках равномерно уменьшаются и практически совпадают, что свидетельствует об отсутствии переобучения. Рис. 18. График функции потерь модели LSTM. Результаты модели на валидационной выборке показали следующие значения: MAE = 0.0574, MSE = 0.0066 и R² = 0.88. При проверке на уникальных данных точность модели составила 82%, что является значительно лучшим показателем по сравнению с MLP и RNN (Рис. 19).

157-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 157 Рис.19. Результаты LSTM-модели на уникальных данных. Если говорить о модели GRU, то она практически не отличается от модели LSTM, поэтому приведем только показатели точности. На тестовой выборке модель показала MAE = 0.0511, MSE = 0.0055 и R² = 0.90. На уникальных данных точность этой модели составила 82%. Нашей последней разработкой является модель KAN, которая имеет архитектуру, состоящую из четырёх входных, девяти скрытых и одного выходного слоя (Рис. 20). Результаты её работы на тестовой выборке демонстрируют высокую точность прогнозирования: MAE = 0.0562, MSE=0.0058, R² = 0.88, что свидетельствует о хорошем соответствии модели реальным данным. Рис. 20. Структурная схема модели KAN. При проверке модели на уникальных данных она показала точность 85–88%, что немного превосходит предыдущие модели. Это подтверждает, что KAN обладает высокой предсказательной способностью. График функции потерь модели прогнозирования на уникальных данных представлены на рисунках 21 и 22. и результаты

158-p.

Volume 2, Issue 2 June 2025 Management and Future Technologies journal.umft.uz 158 Рис. 21. График функции потерь модели KAN. Рис. 22. Результаты предсказания модели KAN на уникальных данных. Сравнительные результаты наших приведенных моделей на валидационной выборке можно более подробно представить в таблице 3. Таблица. 3. Сравнительные результаты моделей на тестовой выборке. Название модели Метрики MSE Время MAE R2 обучения (сек) MLP 0.0085 0.068 0.84 46.42 RNN 0.0066 0.0580 0.87 452.23 LSTM 0.0066 0.0574 0.87 404.38 GRU 0.0055 0.0511 0.89 522.69 KAN 0.0058 0.0562 0.88 14.614 Результаты сравнения моделей на уникальных выборках представлены в таблице 4, где рассматривались только метрики.

159-p.

Management and Future Technologies journal.umft.uz June 2025 Volume 2, Issue 2 Таблица. 4. Сравнительные результаты моделей на уникальной выборке. 159 Метрики Название модели MSE MAE R2 MLP 0.0041 0.0597 0.67 RNN 0.0062 0.0618 0.74 LSTM 0.0031 0.0428 0.82 GRU 0.0035 0.0450 0.81 KAN 0.0019 0.0331 0.85 Заключение Результаты сравнения показали, что KAN обладают высоким потенциалом для применения в задачах прогнозирования транспортных потоков. В частности, благодаря уникальной архитектуре, основанной на теореме Колмогорова-Арнольда, KAN демонстрируют сравнимую или даже превосходящую производительность по сравнению с LSTM и GRU, при этом требуя меньшее количество обучаемых параметров. Это делает их более экономичными с точки зрения вычислительных ресурсов, что особенно важно для применения в реальных условиях, где обработка больших объемов данных является критической задачей. Тем не менее, несмотря на обещающие результаты, наше исследование показывает, что KAN находятся на ранней стадии развития. Мы отмечаем, что на данном этапе справедливо рассматривать KAN как потенциальную альтернативу многоуровневым перцептронам (MLP) и даже таким продвинутым архитектурам, как LSTM и GRU. Однако для полной оценки их возможностей и разработки более сложных решений, способных конкурировать с передовыми моделями, необходимы дальнейшие исследования. В заключение, наше исследование подчеркивает потенциал KAN в задачах прогнозирования транспортных потоков и призывает к дальнейшему изучению этого подхода. В будущем более комплексные исследования могут привести к созданию усовершенствованных методов, которые будут эффективно использовать возможности KAN в различных сценариях прогнозирования транспортных потоков, а также в более широких приложениях.

160-p.

Volume 2, Issue 2 160 June 2025 Management and Future Technologies journal.umft.uz Литература 1. Rasulmukhamedov M., Tashmetov T., Tashmetov K. Forecasting Traffic Flow Using Machine Learning Algorithms: 1 // Engineering Proceedings. Multidisciplinary Digital Publishing Institute, 2024. Vol. 70, № 1. P. 14. 2. Shiri F.M. et al. A Comprehensive Overview and Comparative Analysis on Deep Learning Models: CNN, RNN, LSTM, GRU // JAI. 2024. Vol. 6, № 1. P. 301–360. 3. Mathew A., Amudha P., Sivakumari S. Deep Learning Techniques: An Overview // Advanced Machine Learning Technologies and Applications / ed. Hassanien A.E., Bhatnagar R., Darwish A. Singapore: Springer, 2021. P. 599–608. 4. Janiesch C., Zschech P., Heinrich K. Machine learning and deep learning // Electron Markets. 2021. Vol. 31, № 3. P. 685–695. 5. Ma F., Deng S., Mei S. A short-term highway traffic flow forecasting model based on CNN-LSTM with an attention mechanism // J. Phys.: Conf. Ser. IOP Publishing, 2023. Vol. 2491, № 1. P. 012008. 6. Tashmetov K., Rasulmukhamedov M., Tashmetov T. Forecasting transport flows using big data and machine learning technology // E3S Web of Conf. EDP Sciences, 2024. Vol. 531. P. 02012. 7. Giraka O., Selvaraj V.K. Short-term prediction of intersection turning volume using seasonal ARIMA model // Transportation Letters. Taylor & Francis, 2020. Vol. 12, № 7. P. 483–490. 8. Deretić N. et al. SARIMA Modelling Approach for Forecasting of Traffic Accidents: 8 // Sustainability. Multidisciplinary Digital Publishing Institute, 2022. Vol. 14, № 8. P. 4403. 9. Sulandari W. et al. Exponential Smoothing on Modeling and Forecasting Multiple Seasonal Time Series: An Overview // Fluct. Noise Lett. World Scientific Publishing Co., 2021. Vol. 20, № 04. P. 2130003. 10. Medina-Salgado B. et al. Urban traffic flow prediction techniques: A review // Sustainable Computing: Informatics and Systems. 2022. Vol. 35. P. 100739. 11. Rasulmuxamedov M. M, Tashmetov K. Sh , TashmetovT. Sh. Q AROR DARAXTI YORDAMIDA AVTOMASHINA OQIMINI BASHORAT QILISH: UO ‘K 656.078, 656.001// Innovatsion texnologiyalar, 2024, 2, 46-53 12. Ma C., Liu T. Survey of short-term traffic flow prediction based on LSTM // Int. J. Mod. Phys. C. World Scientific Publishing Co., 2025. Vol. 36, № 02. P. 2450177. 13. Asif S., Kartheeban K. CNN-RNN Algorithm-based Traffic Congestion Prediction System usingTriStage Attention // SWCC. 2023. Vol. 13, № 2. P. 89–98. 14. Biju R. et al. Grid LSTM based Attention Modelling for Traffic Flow Prediction // 2024 IEEE 99th Vehicular Technology Conference (VTC2024-Spring). Singapore, Singapore: IEEE, 2024. P. 1–7. 15. Katambire V.N. et al. Forecasting the Traffic Flow by Using ARIMA and LSTM Models: Case of Muhima Junction: 4 // Forecasting. Multidisciplinary Digital Publishing Institute, 2023. Vol. 5, № 4. P. 616–628. 16. Chan Y.-H., Lui A.K.-F., Ng S.-C. Short Term Traffic Flow Prediction with Neighbor Selecting Gated Recurrent Unit // 2021 IEEE International Conference on Systems, Man, and Cybernetics (SMC). Melbourne, Australia: IEEE, 2021. P. 857–862. 17. Liu Z. et al. KAN: Kolmogorov-Arnold Networks: arXiv:2404.19756. arXiv, 2024. 18. Qiu Q. et al. ReLU-KAN: New Kolmogorov-Arnold Networks that Only Need Matrix Addition, Dot Multiplication, and ReLU: arXiv:2406.02075. arXiv, 2024. 19. Vaca-Rubio C.J. et al. Kolmogorov-Arnold Networks (KANs) for Time Series Analysis: arXiv:2405.08790. arXiv, 2024.

PDF Document

1 / 1
Download

University Licenses

License preview