Скрытый слой

Скрытый слой, в искусственных нейронных сетях — набор искусственных нейронов, который обрабатывает входные данные, полученные от входных слоев, перед их передачей на выходной слой.
Скрытые слои могут формировать короткую последовательность, в которой каждый скрытый слой получает данные от предыдущего слоя и передаёт их следующему. Примером нейронной сети, использующей скрытый слой, является нейронная сеть с прямой связью[1]. Простейшие примеры встречаются в многослойных перцептронах (MLP), как показано на рисунке[2].
Скрытые слои преобразуют входные данные из входного слоя в выходной. Это достигается путем применения так называемых весов к входным данным и пропускания их через так называемую функцию активации, которая вычисляет входные данные на основе входных данных и веса. Это позволяет искусственной нейронной сети изучать нелинейные взаимосвязи между входными и выходными данными[2].
На начальном этапе обучения нейронной сети веса нейронов могут быть назначены случайным образом, а в дальнейшем настроены и откалиброваны с помощью обратного распространения ошибки[3].
Ограничения[править]
Большое количество скрытых слоев с точки зрения имеющейся сложности может вызвать так называемое переобучение, когда сеть подгоняет веса до уровня, когда она даёт хорошие результаты на обучающей выборке и неудовлетворительные — на новых данных. В противоположной ситуации, когда количество скрытых слоев меньше, чем имеющаяся сложность, может возникнуть недообучение, и системе может быть сложно справиться с поставленной задачей[4].
Примечания[править]
- ↑ Antoniadis, Panagiotis Hidden Layers in a Neural Network | Baeldung on Computer Science. Baeldung (March 18, 2024). Проверено 2 мая 2024.
- ↑ 2,0 2,1 Zhang Aston, Lipton Zachary 5.1. Multilayer Perceptrons // Dive into deep learning. — Cambridge New York Port Melbourne New Delhi Singapore: Cambridge University Press. — ISBN 978-1-009-38943-3.
- ↑ Rouse, Margaret Hidden Layer. Techopedia (2018-09-05). Проверено 2 мая 2024.
- ↑ Effects of Hidden Layers on the Efficiency of Neural Networks Muhammad Uzair, Noreen Jamil IEEE 23rd Multitopic Conference
![]() | Одним из источников, использованных при создании данной статьи, является статья из википроекта «Руниверсалис» («Руни», руни.рф) под названием «Скрытый слой», расположенная по адресу:
Материал указанной статьи полностью или частично использован в Циклопедии по лицензии CC BY-SA. Всем участникам Руниверсалиса предлагается прочитать «Обращение к участникам Руниверсалиса» основателя Циклопедии и «Почему Циклопедия?». |
---|