Sigmoïde-funksie

'n Sigmoïde-funksie is 'n wiskundige funksie met 'n "S"-vormige kromme (sigmoïde-kromme). Sigmoïde-funksie verwys dikwels na die spesiale geval van die logistieke funksie, soos in die eerste figuur aangetoon en deur die volgende formule gedefinieer:

S(t)={\frac {1}{1+e^{-t}}}.

Ander voorbeelde van soortgelyke vorme sluit in die Gompertz-kromme (wat gebruik word in die modellering van stelsels wat versadig is by groot waardes van t) en die ogief-kromme (wat gebruik word in die oorloop van sommige damme). 'n Wye verskeidenheid sigmoïde-funksies word gebruik as aktiveringsfunksie vir kunsmatige neurone, insluitend die logistieke funksie en die hiperboliese raaklynfunksie. Sigmoïde-krommes word ook algemeen in statistiek gebruik as kumulatiewe verspreidingsfunksies, soos die integrale van die logistieke verspreiding, die normaalverspreiding, en die Student se t waarskynlikheidsdigtheidsfunksies.

Definisie

'n Sigmoïde-funksie is 'n begrensde differensieerbare reële funksie wat gedefinieer is vir alle reële toevoerwaardes en het 'n positiewe afgeleide by elke punt.^[1]

Eienskappe

In die algemeen is 'n sigmoïde-funksie reëlwaardig en differensieerbaar met óf 'n nie-negatiewe óf nie-positiewe eerste afgeleide wat klokvormig is. Daar is ook 'n paar horisontale asimptote soos wat $t\rightarrow \pm \infty$ . Die differensiaalvergelyking ${\tfrac {\mathrm {d} }{\mathrm {d} t}}S(t)=c_{1}S(t)\left(c_{2}-S(t)\right)$ , met die insluiting van 'n randvoorwaarde wat 'n derde vryheidsgraad, $c_{3}$ , verskaf, lewer 'n klas funksies van hierdie tipe.

Die logistieke funksie het die verdere belangrike eienskap dat sy afgeleide uitgedruk kan word in terme van die funksie self,

S'(t)=S(t)(1-S(t)).

Voorbeelde

'n Vergelyking van enkele sigmoïde-funksies. In die diagram is al die funksies genormaliseer sodat hul helling by die oorsprong 1 is.

Vele natuurlike prosesse soos dié van komplekse stelsel leerkrommes, toon 'n progressie vanaf 'n klein begin wat versnel en oor tyd 'n klimaks nader. Wanneer 'n gedetailleerde beskrywing ontbreek, word 'n sigmoïde-funksie dikwels gebruik^[2]

Benewens die logistieke funksie, sluit sigmoïde-funksies die gewone arctustangens, die hiperboliese raaklyn, die Gudermann-funksie en die foutfunksie in, asook die veralgemeende logistieke funksie en algebraïese funksies soos $f(x)={\tfrac {x}{\sqrt {1+x^{2}}}}$ .

Die integrale van enige gladde, positiewe, "homp-vormige" funksie sal sigmoïde-agtig wees, derhalwe is die kumulatiewe-verspreidingsfunksies vir baie algemene waarskynlikheidsverdelings sigmoïde-agtig. Die bekendste sodanige voorbeeld is die foutfunksie wat verwant is aan die kumulatiewe-verspreidingsfunksie (KVF) van 'n normaalverspreiding.

Sien ook

Kumulatiewe-verspreidingsfunksie
Algemene logistieke kromme
Gompertz-funksie
Eenheidstrapfunksie
Hiperboliese funksie
Logistieke verspreiding
Logistieke funksie
Logistieke regressie
Logit
Gewysigde hiperboliese raaklyn
Softplus-funksie
"Smoothstep"-funksie (Grafiese)
"Softmax"-funksie
Weibull-verspreiding
Netoïde-funksie

Verwysings

↑ Han, Jun; Morag, Claudio (1995). "The influence of the sigmoid function parameters on the speed of backpropagation learning". In Mira, José; Sandoval, Francisco (reds.). From Natural to Artificial Neural Computation. pp. 195–201.
↑ Gibbs, M.N. (November 2000). "Variational Gaussian process classifiers". IEEE Transactions on Neural Networks. 11 (6): 1458–1464. doi:10.1109/72.883477.

Mitchell, Tom M. (1997). Machine Learning. WCB–McGraw–Hill. ISBN 0-07-042807-7. Sien in die besonder "Chapter 4: Artificial Neural Networks" (spesifiek pp. 96–97) waar Mitchell die terme "logistic function" en "sigmoid function" as sinonieme gebruik – hy noem hierdie funksie ook die "squashing function" – en die sigmoïde-funksie (oftewel logistieke funksie) word gebruik om die afvoere van die neurone in multilaag neurale netwerke saam te pers.
Humphrys, Mark. "Continuous output, the sigmoid function". Eienskappe van die sigmoïde, insluitend hoe dit op die asse kan skuif en hoe sy domein getransformeer kan word.

[1] Han, Jun; Morag, Claudio (1995). "The influence of the sigmoid function parameters on the speed of backpropagation learning". In Mira, José; Sandoval, Francisco (reds.). From Natural to Artificial Neural Computation. pp. 195–201.

[2] Gibbs, M.N. (November 2000). "Variational Gaussian process classifiers". IEEE Transactions on Neural Networks. 11 (6): 1458–1464. doi:10.1109/72.883477.

[1]

[2]