Rețele Neuronale

INTRODUCERE ÎN CALCULUL NEURONAL

Calculul neuronal se bazează pe modele matematice inspirate din neurobiologie, numite reţele neuronale. O reţea neuronală are trei caracteristici generale:

• unităţi de calcul interconectate, numite neuroni

• reguli recursive pentru modificarea ponderilor conexiunilor dintre neuroni

• reguli de calcul simple.

1.1. NEURONUL BIOLOGIC

Unitatea celulară fundamentală a creierului este neuronul. Creierul uman are aproximativ neuroni, fiecare fiind interconectat cu aproximativ alţi neuroni.

Neuronul biologic este alcătuit din:

• corp neuronal (sau soma), constituit din membrană şi substanţă intracelulară, rolul său fiind de a transforma semnalele de intrare în semnale de ieşire

• arbore dendridic, care reprezintă prelungiri ale corpului neuronal şi are rolul de a colecta semnalele de intrare de la alţi neuroni

• axon, care este o prelungire a corpului neuronal cu rol de a transmite semnalul de ieşire către alţi neuroni, prin intermediul arborelui axonic.

Neuronii sunt interconectaţi prin intermediul unor legături numite sinapse, care reprezintă punctele de contact dintre ramurile arborelui dendridic al unui neuron pre-sinaptic cu ramurile arborelui axonic ale unui neuron post-sinaptic. Prin intermediul dendridelor, neuronul primeşte informaţie sub formă de impulsuri nervoase de natură electrică. Aceste impulsuri provoacă depolarizări ale membranei neuronale, adică modificări ale diferenţei de potenţial dintre exteriorul şi interiorul celulei.

Potenţialele locale generate pe suprafaţa membranei se însumează, iar dacă potenţialul rezultat depăşeşte o anumită valoare – numită prag – atunci se generează un potenţial de acţiune care se transmite de-a lungul axonului pană la legătura sinaptică.

Impulsurile ajunse la nivelul sinapsei provoacă eliberarea unor substanţe chimice purtătoare de informaţie, numite neurotransmiţători; cantitatea de neurotransmiţători depinde de impulsurile primite dar şi de alţi factori. Membrana post-sinaptică recepţionează neurotransmiţătorii şi determină modificări ale permeabilităţii ionice a membranei, deci depolarizări. Sinapsele pot fi excitatoare (dacă provoacă depolarizare pozitivă) sau inhibitoare (dacă provoacă depolarizare negativă).

1.2. NEURONUL ARTIFICIAL

Într-o reţea neuronală, analogul neuronului biologic este neuronul artificial, numit simplu neuron. Fiecare neuron are intrări şi o ieşire. Intrările sunt numere reale şi reprezintă semnalele venite de la alţi neuroni sau din lumea exterioară şi corespund semnalelor electrice din modelul biologic. Fiecare intrare are asociată o pondere , ce corespunde valorii sinaptice din neuronul biologic. Semnalul de ieşire este dat de relaţia

unde este vectorul ponderilor. Funcţia se numeşte funcţie de activare (sau transfer). Definind variabila ca fiind produsul scalar

în cazul cel mai simplu, ieşirea se calculează ca fiind

unde este pragul de activare.

Figura 1.1 Neuron cu o singură ieşire

Există şi alte funcţii de activare, cele mai utilizate fiind

• funcţia liniară

• funcţia treaptă

• funcţia rampă

• funcţia semn

• funcţia sigmoidală

Alegerea unei funcţii de activare depinde de modelul de reţea neuronală ales şi de tipul problemei de rezolvat, nefiind constrânsă decât de analogia cu modelul biologic. Valoarea furnizată de funcţia de activare este propagată pe căile de ieşire, echivalente arborelui axonic din modelul biologic.

Exemplul 1.1. Considerăm intrările , ieşirea şi mulţimea de antrenare definită prin

1 1 1

1 0 0

0 1 0

0 0 0

Problema învăţarii constă în găsirea ponderilor şi a pragului astfel încât ieşirea dată de reţea să coincidă cu cea dorită. O soluţie este

şi

Figura 1.2. O soluţie a problemei din Exemplul 1.1