Metal Gear

Смещение представляет собой постоянный сдвиг. Как таковое, смещение может рассматриваться как отдельное значение, не относящееся к каким-либо из входов. Но на практике зачастую проще включить дополнительный вход, который остается постоянным и равным хо=1, и связать с ним смещение WQ. Благодаря этому появляется возможность рассматривать смещение как обычный весовой коэффициент, в результате чего код немного упрощается!
Нейронные сети применяются уже много лет, и за эти годы разработан широкий набор типов данных для представления входов, выходов и весовых коэффициентов. Возможность использования тех или других типов данных зависит от выбранных моделей и создаваемых приложений. Чаще всего применяются двоичные значения или вещественные числа. В персептронах первоначально использовались двоичные значения (0,1) и для входов, и для выходов, тогда как адалины позволяют задавать отрицательные значения входных данных и формируют вещественные значения выходных данных. Весовые коэффициенты чаще всего рассматриваются как изменяющиеся непрерывно, а не дискретно (т.е. для их представления используются вещественные числа), но выбор конкретного значения точности представления обычно зависит от приложения. Как правило, есть весомые основания повсеместно применять непрерывные значения, поскольку они позволяют достичь многих преимуществ, не сталкиваясь при этом с недостатками.
Что же касается типа данных, то в настоящей главе мы будем использовать 32-битовые числа с плавающей точкой, рискуя вызвать возмущение некоторых педантов, которые требуют придерживаться при создании нейронных сетей традиционного подхода. В действительности, принято использовать 64-битовые числа с плавающей точкой, но в играх связанное с этим удвоение объема расходуемой памяти и увеличение расхода вычислительных ресурсов почти никогда не оироіиьіьчістся; числа с плавающей точкой одинарной точности вполне позволяют достичь требуемых результатов! Для повьппения качества разрабатываемых персептронов можно ввести более важные усовершенствования, а не просто повышать точность представления весовых коэффициентов (например, многого позволяет добиться пересмотр спецификации входов и выходов, внесение изменений в процедуру обучения и т.д.).
Ниже приведено краткое изложение сведений из математики, позволяющих объяснить ход обработки данных внутри персептрона; эти сведения являются вполне доступными для восприятия (пояснения к уравнениям приведены вместе с этими уравнениями). А в следующей главе описан практический подход, который может стать идеальным дополнением к этому теоретическому описанию.