complessità algoritmo

[enzox]

la domanda è un pò generica:
qualcuno sa l'ordine di grandezza della complessità di una semplice rete neurale?

[franksisca]

Error:InformationNotFoundException.Thread(http://www.hwupgrade.it/forum/showth...9#post10560649) to enzox.

Scusa, per la stupidata, ma non ci posso fare niente, domani alle 10 ho informatica teorica e mi sentivo preparato, ma la tua domanda mi fà crollare il mondo addosso, pensando che oggi mi hanno anche bocciato a ricerca operativa, sono proprio OK!!!!!!!!!!!!!

Comunque ceerca di essere meno generico, prima che cosa intedi per complessità(temporale o spaziale?) e poi dai più info.

[cionci]

Originariamente inviato da enzox

qualcuno sa l'ordine di grandezza della complessità di una semplice rete neurale?

La complessità è solitamente O(N) con N il numero di neuroni...

[rdefalco]

Originariamente inviato da cionci

La complessità è solitamente O(N) con N il numero di neuroni...

Sì ma la complessità di cosa??? Dello spazio richiesto dalla rete neurale, dal tempo richiesto per una generica operazione? Mi sembra che la domanda sia poco chiara...

[cionci]

Ripensando alla complessità di tempo, dipende dalla topologia delle rete... Perchè la complessità di ogni strato (sempre se parliamo di reti multistrato) dipende dal numero di ingressi...

[rdefalco]

parlo io che nemmeno so cos'è una rete neurale

solo penso che di qualsiasi cosa (pure una lavatrice) chiedere qual'è l'ordine di grandezza di complessità senza dare altre spiegazioni non ha molto senso...

[enzox]

Originariamente inviato da cionci

Ripensando alla complessità di tempo, dipende dalla topologia delle rete... Perchè la complessità di ogni strato (sempre se parliamo di reti multistrato) dipende dal numero di ingressi...

si mi riferivo alla complessità computazionale e quindi anche al tempo di elaborazione. Naturalmente dipenderà dal numero di strati e dal numero di input e da altri fattori: Sinceramente non conosco molto le reti neurali: mi interesava sapere se sono più efficienti dei modelli ARMA(p,q) per effettuare previsioni.
La complessità computazionale dell'algoritmo di stima di un modello ARMA(p,q) è
O(m(elevato 3)*T) dove T è la lunghezza della serie e m=max(p,q+1);

Quindi è meglio urilizzare i modelli ARMA(p,q) o le reti neurali per generare previsioni a partire da una serie data?

[rdefalco]

Mi sa che potrò risponderti (e capire) solo quando sarò laureato

[cionci]

Come abbiamo detto dipende dalla topologia della rete...

Ogni strato ha P ingressi e Q neuroni (pari al numero di uscite)... Gli ingressi vanno a finire su ogni neurone (solo per gli strati interni e di uscita)... Quindi è possibile valutare in PxQ il numero di operazioni fatte da ogni strato...

Supponendo una rete classica a 4 strati...M ingressi e N uscite (N <= M)...lo strato di ingresso e gli strati interni hanno M neuroni, lo strato di uscita N (come le uscite)...

Il numero di operazioni che compie lo strato di ingresso è pari a M, gli strati intermedi svolgono M^2 operazioni, lo strato di uscita NxM...

Quindi la complessità computazionale dovrebbe essere O(M^2)...con M pari al numero di neurono degli strati interni (solitamente 2 e di pari numero)...

Ora bisogna vedere l'applicabilita di una rete neurale al tuo problema... Non conosco ARMA, magari hai un link ?

[pietro84]

Originariamente inviato da enzox

si mi riferivo alla complessità computazionale e quindi anche al tempo di elaborazione. Naturalmente dipenderà dal numero di strati e dal numero di input e da altri fattori: Sinceramente non conosco molto le reti neurali: mi interesava sapere se sono più efficienti dei modelli ARMA(p,q) per effettuare previsioni.
La complessità computazionale dell'algoritmo di stima di un modello ARMA(p,q) è
O(m(elevato 3)*T) dove T è la lunghezza della serie e m=max(p,q+1);

Quindi è meglio urilizzare i modelli ARMA(p,q) o le reti neurali per generare previsioni a partire da una serie data?

vuoi identificare un sistema o una serie storica?
cmq se il sistema o la serie storica che vuoi identificare è grosso modo lineare
ti conviene utilizzare un modello AR o un ARMA,altrimenti come soluzione alternativa si usano le reti neurali(di solito si prova prima con un AR,poi con un ARMA,poi con tecniche neurali o fuzzy)