Rețele Neuronale

1.1.Modele ale calculului

Modelul matematic. Conceptul de calculabilitate presupune definirea

prealabila a instrumentelor disponibile, adica a unui set de functii primitive

evident calculabile si a unor de reguli de compunere. Toate functiile care se

obtin din cele primitive folosind regulile de compozitie vor fi de asemenea

calculabile.

Astfel, David Hilbert a introdus conceptul de functie primitiv recursiva ca

fiind o functie care poate fi construita din functia zero si functia succesor

utilizând compunerea, proiectia si un numar determinat de iteratii (recursie

primitiva). Dupa descoperirea de catre Wilhelm Ackerman a unei functii

calculabile care nu este primitiv recursiva a aparut conceptul de functie

general recursiva, acest formalism introducând un operator echivalent cu

consultarea unui tabel infinit. O alternativa a definitiei matematice a

conceptului de calculabilitate a fost data de Alonzo Church sub forma . -

calculului. Faptul ca o functie general recursiva poate fi exprimata cu

formalismul . -calculului, a fost aratata de Chuch si Kleene (1936). A aparut

astfel teza lui Church conform careia functiile calculabile sunt functii general

recursive si despre care, recent, David Deutsch afirma ca trebuie considerata

ca un principiu fizic.

Modelul logico-operational  masina Turing. Modelul introdus de Alan

Turing este un model operational, mecanic al calculabilitatii. O masina

Turing consta dintr-o banda infinita pe care simbolurile pot fi memorate si

citite. Un cap de citire-scriere se deplaseaza catre stânga sau dreapta în

functie de starea interna care este actualizata la fiecare pas. Teza lui Turing

afirma ca functiile calculabile sunt acelea care se pot calcula cu acest tip de

dispozitiv. Turing a demonstrat echivalenta cu calculabilitatea in sensul lui

Church.

Modelul calculatorului. Primele dispozitive de calcul electronic au aparut în

anii 30-40. Konrad Zuse a construit la Berlin între 1938 si 1944 masinile de

calcul Z1 si Z3 care erau programabile dar nu universale. Acestea puteau

executa o secventa de instructiuni dar nu puteau realiza iteratii. O alta masina

din acea perioada, Mark I construita la Harward putea executa un numar finit

de iteratii dar nu putea implementa cicluri while, adica putea calcula functii

recursive dar nu general recursive. Se pare ca prima masina universala a fost

construita la Manchester care putea acoperi toate functiile calculabile

folosind programe cu salturi conditionate.

Automatele celulare. Principala problema în realizarea consensului asupra

arhitecturii unui calculator universal a fost definirea arhitecturii minimale

care sa garanteze universabilitatea. John von Neumann a studiat automatele

celulare care proceseaza simultan datele. Comunicarea si coordonarea între

celulele de calcul este realizata prin anumiti algoritmi si conventii. S-a

demonstrat ca orice functie Turing calculabila poate fi calculata de asemenea

de m automate celulare unidimensionale. Automatele celulare constituie un

prim model de calcul paralel masiv.

Modelul biologic  retele neuronale. Retelele neuronale au fost inspirate de

fiziologia neuronilor si constau dintr-o structura ierarhica multistratificata

care se deosebeste de automatele celulare prin aceea ca în comunicare nu sunt

implicate doar unitati imediat vecine ci oricare doua unitati de procesare pot

fi conectate. Parametri necesari functionarii unei retele neuronale trebuie

determinati în mod adaptiv. Retelele neuronale artificiale au fost inspirate de

sistemul biologic si preiau, adapteaza, metodele specifice pentru procesarea

informatiei surprinzator de elegant si care au aparut ca un rezultat al unei

evolutii îndelungate a solutiilor descoperite de natura pentru operarea într-un

mediu nedeterminist, nesigur.

1.2.Retele neuronale artificiale.

În cazul retelelor neuronale artificiale (RNA) functiile primitive sunt plasate

în nodurile retelei si regulile de compunere sunt date implicit de modelul de

interconectare a nodurilor, de modul sincron sau asincron în transmiterea

informatiei si de prezenta sau absenta ciclurilor.

1.1.1.Retele de functii primitive

În figura 1 este reprezentat un neuron abstract cu n intrari, intrarea i

transmitând o valoare reala i x . Functia primitiva f care constituie corpul

neuronului abstract transforma suma ponderata a intrarilor într-o marime de

iesire bine determinata. Ponderile i w sunt asociate conexiunilor între intrari

si corpul neuronului.

Figura 1. Reprezentarea unui neuron abstract

Daca concepem o RNA ca o retea în ale carei noduri sunt plasate functii

primitive, atunci se pot construi modele diferite generate de diverse moduri

de alegere a functiilor primitive, a modelului de interconectare si a

temporizarii transmisiei informatiei. Un model functional al unui RNA este

ilustrat în fig. 2.