Calcul Paralel

1.Introducere

Conceptul clasic a lui Von Neumann despre computerul serial a fost incorporat in primele masini moderne de calcul. Viteza de calcul a crescut considerabil odata cu inlocuirea tuburilor cu tranzistori si circuite integrate.

La un moment dat, insa, capabilitatile computerelor sunt inevitabil cu un pas in urma necesitatilor aplicatiilor stiintifice si tehnologice. In zilele noastre, un computer serial efectueaza peste 109 operatii pe secunda. Din pacate, nu ne putem astepta ca, in viitor, sa fie construite masini care sa lucreze mult mai rapid decat cele existente astazi. La baza acestei afirmatii se afla ratiuni fizice. Un semnal electric se propaga intr-un metru aproximativ intr-o nanosecunda(10-9 secunde) si cum anumite componente ale calculatorului nu pot avea dimensiuni sub ordinul milimetrilor, limita fizica a numarului de operatii se afla undeva in jurul a 1010 operatii intr-o secunda.

Urmatorul pas in cautarea de metode de imbunatatire a vitezei de calcul este paralelismul. Un algoritm paralel este un algoritm care permite efectuarea simultane a mai multor operatii.

In aniii ’70 a luat un avant deosebit proiectarea unor calculatoare a caror circuite erau divizate in subunitati, fiecare executand diferite operatii. Paralelismul se realizeaza la nivelul asamblorului. Un exemplu este initierea unei operatii inaintea terminarii operatiei precedente. Au fost construite masini (Cray si Ciber) care cupleaza aceasta tehnica numita “pipelining” (tehnica conductei), cu unitati hardware independente pentru executia unor anumite operatii, cum ar fi adunarea si multiplicarea. Termenul de procesor vectorial descrie in mod uzual un asemenea sistem. Procesarea fluxului de date intr-o masina de calcul vectorial se aseamana cu o banda de productie intr-o fabrica.

Aparitia circuitelor integrate a permis dezvoltarea supercalculatoarelor. Ideea de baza este eliminarea bufferelor de mare viteza si conectarea directa a procesoarelor la banci de memorie. Memoria este distribuita intre procesoare si o parte este accesibila tuturor unitatilor. Unitatea centrala unica este inlocuita cu mai multe procesoare care, desi individual pot lucra incet, acelereaza viteza de procesare operand in paralel. Schemele de interconectare fizica a procesoarelor, utilizate in prezent, sunt de tip hipercub, inel, sau latice.

Calculul paralel a dat o dimensiune noua constructiei de algoritmi si programe. Programarea paralela nu este o simpla extensie a programarii seriale. Experienta a aratat ca modul de judecare a eficientei algoritmilor bazati pe tehnici seriale nu corespunde in cazul paralel. Nu toti algoritmii secventiali pot fi paralelizati, asa cum in natura exista o serie de exemple(exemplul lui N. Wilding: trei femei nu pot produce un copil in numai 3 luni, lucrand impreuna la aceasta problema). Pe de alta parte, o serie de algoritmi numerici standard seriali dovedesc un grad inalt de paralelism: contin numeroase calcule care sunt independente unele de altele si pot fi executate simultan. In proiectarea unor algoritmi de calcul paralel este necesara regandirea sistemelor, limbajelor, problemelor nenumerice si a metodelor numerice.

Viitorul calcualtoarelor paralele depinde in mare masura de efortul care se face in momentul de fata pentru stabilirea algoritmilor paraleli cei mai eficienti si de proiectarea limbajelor paralele in care acesti algoritmi pot fi exprimati.

In cadrul unui calcualtor paralel, nu este necesara incorporarea unor procesoare cu performante deosebite. Astfel, costul unui calculator paralel cu un numar mare de procesoare poate fi relativ mic fata de un calculator serial sau un supercomputer vectorial cu performante de procesare comparabile. Totusi, la momentul actual, calculatoarele vectoriale prezinta procentul cel mai ridicat de achizitionari pe paita de supercalculatoare. Motivul este tehnologia software relativ primitiva existenta pentru calculatoarele paralele. Prin transferarea pe calculatoarul paralel a codurilor seriale elaborate de-a lungul anilor nu se poate obtine implicit eficient maxima. Din pacate, tehnologia comunicatiilor este mult in urma tehnologiilor de caclul si, pe calculatoarele existente pe piata, multe aplicatii sufera de o anumita limita a comunicatiilor: raportul dintre timpul de comunicare si timpul de calcul efectiv, in majoritatea aplicatiilor, este extrem de ridicat.