Non sai programmare? Ecco cosa si può fare con un LLM e una GeForce RTX 5070 Ti

[Mars95]

Originariamente inviato da Piedone1113

Un dx10 è estremamente inefficiente come Ai locale se non opportunamente strutturato e configurato.
Per esempio su un modello monolitico da 70b i token/s possono arrivare a solo 7/8. Su un moe si viaggia tra i 40 ed i 60 token/s ( con punte di 80 token/s) ma sulla stessa MoE con 24 utenti concorrenti si arriva a raggiungere oltre 500 token/s. quindi un dx10 è ideale come ai locale per uffici, o addirittura superlativo con un sistema multiagent che lo interroga. Ps se si iniziano ad usare gli agent con verifica spesso i token usati sono 10 volte superiori ai preventivati rendendo il dx10 ripagabile in pochissimo tempo ( fino a 12 mesi er MoE e multiagent su compiti specifici) rispetto a servizi cloud con il vantaggio dei dati sovrani.

Certamente, con "locale" non intendevo necessariamente sul proprio pc personale ma anche come AI per piccoli uffici.
Un sistema del genere sarebbe perfetto per la mia azienda visto che siamo 25 circa.
Magari in futuro riesco a convincerli

[Saetta_McQueen]

Premetto che non sono un programmatore professionista, ma per lavoro spesso ho buttato già codici in vba per facilitare il mio lavoro, cose abbastanza semplici tutto sommato per un esperto. Per curiosità, descrivendo cosa mi serviva, ho fatto ricorso a strumenti IA gratuiti ed effettivamente il codice lo creano, ma spesso il modello si incarta in utili complicazioni che generano bug o errori vari. Ma a volte basta porre delle banali domande, l'IA risponde con una convinzione e sicurezza tali da farti dire "ok è la cosa giusta". Però, da esperto del settore (ambito finanziario e fiscale), mi accorgo spesso di risposte errate e lo faccio notare... Ovviamente seguono le scuse della IA e la risposta corretta (dopo un paio di strafalciani...). E quindi dentro di me dico: che cazzata avrei fatto fidandomi ciacamente della IA se non fossi stato competente in materia? Siamo sicuri che i modelli "più avanzati" poi lo siano veramente? No, perché leggo di gente che farebbe sviluppare alla IA addirittura dei farmaci...

[mozzarello]

Originariamente inviato da Saetta_McQueen

Premetto che non sono un programmatore professionista, ma per lavoro spesso ho buttato già codici in vba per facilitare il mio lavoro, cose abbastanza semplici tutto sommato per un esperto. Per curiosità, descrivendo cosa mi serviva, ho fatto ricorso a strumenti IA gratuiti ed effettivamente il codice lo creano, ma spesso il modello si incarta in utili complicazioni che generano bug o errori vari. Ma a volte basta porre delle banali domande, l'IA risponde con una convinzione e sicurezza tali da farti dire "ok è la cosa giusta". Però, da esperto del settore (ambito finanziario e fiscale), mi accorgo spesso di risposte errate e lo faccio notare... Ovviamente seguono le scuse della IA e la risposta corretta (dopo un paio di strafalciani...). E quindi dentro di me dico: che cazzata avrei fatto fidandomi ciacamente della IA se non fossi stato competente in materia? Siamo sicuri che i modelli "più avanzati" poi lo siano veramente? No, perché leggo di gente che farebbe sviluppare alla IA addirittura dei farmaci...

La differenza tra un modello free, che poi dipende quale hai usato, e uno a pagamento è la stessa che c'è tra una Punto e una Formula 1.

Detto questo sì, bisogna avere le competetenze perché l'IA è uno strumento, non qualcosa che fa il lavoro al posto tuo. Uno strumenti che legge, intepreta, capisce e modifica codice in una frazione del tempo in cui ci metteresti tu e per quello è utile.

Non è furbissimo manco usarli come oracoli, ma questo alla gente non entra in testa.

[mmorselli]

Originariamente inviato da Saetta_McQueen

Siamo sicuri che i modelli "più avanzati" poi lo siano veramente? No, perché leggo di gente che farebbe sviluppare alla IA addirittura dei farmaci...

Sì, i modelli avanzati stanno su un altro pianeta rispetto a quello che hai provato tu.

Serve competenza per chiedere le cose giuste nel modo giusto, ma io sono al punto in cui dopo aver preparato un piano fatto bene (anche questo con l'aiuto dell'AI per raffinarlo) lo faccio eseguire a Sol in modalità Ultra, questo macina per due o tre ore e alla fine ho un progetto praticamente completo e perfetto in ogni sua parte. Sono nell'informatica da 40 anni, ma ancora non riesco a non esserne impressionato.

Sui farmaci, non si usano ovviamente i modelli che usi per chattare o programmare, ma modelli specializzati, e i risultati sono straordinari. Non vedo la preoccupazione in questo caso, un farmaco progettato da chiunque, che sia AI, team umano o come in realtà accade una sinergia tra i due mica viene prodotto e somministrato, c'è una procedura di validazione lunga prima di arrivare anche solo ai test clinici, e per la commercializzazione servono parecchi anni a prescindere.

[Mars95]

Originariamente inviato da mmorselli

Sì, i modelli avanzati stanno su un altro pianeta rispetto a quello che hai provato tu.

Serve competenza per chiedere le cose giuste nel modo giusto, ma io sono al punto in cui dopo aver preparato un piano fatto bene (anche questo con l'aiuto dell'AI per raffinarlo) lo faccio eseguire a Sol in modalità Ultra, questo macina per due o tre ore e alla fine ho un progetto praticamente completo e perfetto in ogni sua parte. Sono nell'informatica da 40 anni, ma ancora non riesco a non esserne impressionato.

Sui farmaci, non si usano ovviamente i modelli che usi per chattare o programmare, ma modelli specializzati, e i risultati sono straordinari. Non vedo la preoccupazione in questo caso, un farmaco progettato da chiunque, che sia AI, team umano o come in realtà accade una sinergia tra i due mica viene prodotto e somministrato, c'è una procedura di validazione lunga prima di arrivare anche solo ai test clinici, e per la commercializzazione servono parecchi anni a prescindere.

Io la usicchio per programmare in automazione industriale e ho capito che usare la AI è semplicissimo, usare bene e in modo approfondito la AI è tutt'altro che facile invece.
Ci sono molti aspetti da conoscere e ce ne saranno altri che non so manco che esistono probabilmente.

[Piedone1113]

Originariamente inviato da Mars95

Io la usicchio per programmare in automazione industriale e ho capito che usare la AI è semplicissimo, usare bene e in modo approfondito la AI è tutt'altro che facile invece.
Ci sono molti aspetti da conoscere e ce ne saranno altri che non so manco che esistono probabilmente.

Se parti con ### presupposti ( e spieghi quello che hai).
### limiti ( e spieghi fin dove deve arrivare)
### obblighi ( e descrivi i confini entro i quali agire)
### risultato ( e descrivi cosa ti serve) .
Risparmi un sacco di token in output ed un risultato già abbastanza coerente ed affidabile.
Se poi inizi prima a farti aiutare da un ai quello sopra sarai molto più preciso chiaro e conciso con un output decisamente buono.
PS i ### vengono trattati dall'ia come comandi e direttive quasi assoluti ed imparare ad usarli in richieste anche banali migliora molto la qualità dell'interrogazione, anche con strumenti gratuiti o ai locali da pochi miliardi di parametri ( tipo Qwen 2.5 coder o Qwen 3.7 coder)

[mozzarello]

Infatti la rottura di caxxo è quella. Non hai più il tuo lavoro, quello per cui hai studiato e che ti appassiona, ora fai il prompt engineer, che delle due è una mexda. E le tue conoscenze non le usi più per risolvere problemi, ma per verificare se l'IA li ha risolti correttamente.
È un nuovo lavoro un po' di mexda che ci porterà tutti a diventare sempre più imbecilli, purtroppo

[jepessen]

Originariamente inviato da mozzarello

Infatti la rottura di caxxo è quella. Non hai più il tuo lavoro, quello per cui hai studiato e che ti appassiona, ora fai il prompt engineer, che delle due è una mexda. E le tue conoscenze non le usi più per risolvere problemi, ma per verificare se l'IA li ha risolti correttamente.
È un nuovo lavoro un po' di mexda che ci porterà tutti a diventare sempre più imbecilli, purtroppo

Praticamente gli stessi discorsi all'avvento di una nuova tecnologia. Ho sentito e letto gli stessi discorsi quando si passava dall'assembler ai linguaggi compilati come il C, ma anche quando hanno cominciato ad insegnare il CAD alle facolta' di architettura oltre al progetto a mano, per dire.

[Piedone1113]

Originariamente inviato da mozzarello

Infatti la rottura di caxxo è quella. Non hai più il tuo lavoro, quello per cui hai studiato e che ti appassiona, ora fai il prompt engineer, che delle due è una mexda. E le tue conoscenze non le usi più per risolvere problemi, ma per verificare se l'IA li ha risolti correttamente.
È un nuovo lavoro un po' di mexda che ci porterà tutti a diventare sempre più imbecilli, purtroppo

Un falegname non viene sosstituito dal robot ai perchè al secondo manca la visione laterale, lo spirito critico ed il colpo di genio. Ma un robot ai per il falegname ( che non è l'operaio settore legno, ma quello che realmente ama quel settore) vede nel robot ai uno strumento che gli fa risparmiare tempo e gli permette di correggere subito sviste colossali.
Stanotte con una nottata d'insonnia ho posto 2 quesiti identici a 5 Ai diferenti. Tutte e 5 in entrambi i casi hanno seguito il processo classico di risoluzione, scegliendo sempre il percorso comune (statisticamente valido) nonostante fosse il meno funzionale ed il più costoso. Ad ogni suggerimento di modifica o di percorso diverso suggerito continuavano ad applicare il suggerimento al solo percorso lineare.
siamo passati da : approccio classico vs vissione laterale:
Costo 10 -30
costo gestione 10 - 45
Roi 9 anni -26 anni (mai)
a:
Costo 10 - 7
costo gestione 10 - 2
Roi 9 anni - 3 anni

Le Ia mi calcolavano sempre i costi e fornivano soluzioni ai miei suggerimenti con patch che abbassavano il punto di bilancio ma mai riuscivano a vedere che il suggerimento era strutturale e che i punti apparentemente negativi in realtà erano un moltiplicatore positivo nell'intero processo.

Risultato: l'ai è un ottimo strumento, non un ottimo ingegnere.
Puoi analizzare e calcolare molto più velocemente, ma non riesce a concepire il resto come possibile valore aggiunto
Ideale per compiti ripetitivi gia ottimizzati ma inefficaci senza una guida precisa su compiti alieni.

Non servono a nulla? Sbagliato, ti lasciano molto più tempo per sperimentare e sopratutto per sbagliare, ma se non ci metti del tuo lavorerai sempre come un operatore legno ad una cnc punto punto programmata da altri

[mozzarello]

Originariamente inviato da jepessen

Praticamente gli stessi discorsi all'avvento di una nuova tecnologia. Ho sentito e letto gli stessi discorsi quando si passava dall'assembler ai linguaggi compilati come il C, ma anche quando hanno cominciato ad insegnare il CAD alle facolta' di architettura oltre al progetto a mano, per dire.

No, non è uguale, da carte perforate a visual studio sei sempre stato un programmatore. Da carta e penna a word processor sei sempre stato uno scrittore, da sviluppare il rullino a Photoshop sei sempre stato un fotografo, da calcolatrice a foglio di calcolo sei sempre stato un commercialista, ora tutti questi, tutti, non si salva nessuno, diventano dei prompt engineer, fine.

Originariamente inviato da Piedone1113

Un falegname non viene sosstituito dal robot ai perchè al secondo manca la visione laterale, lo spirito critico ed il colpo di genio. Ma un robot ai per il falegname ( che non è l'operaio settore legno, ma quello che realmente ama quel settore) vede nel robot ai uno strumento che gli fa risparmiare tempo e gli permette di correggere subito sviste colossali.
Stanotte con una nottata d'insonnia ho posto 2 quesiti identici a 5 Ai diferenti. Tutte e 5 in entrambi i casi hanno seguito il processo classico di risoluzione, scegliendo sempre il percorso comune (statisticamente valido) nonostante fosse il meno funzionale ed il più costoso. Ad ogni suggerimento di modifica o di percorso diverso suggerito continuavano ad applicare il suggerimento al solo percorso lineare.
siamo passati da : approccio classico vs vissione laterale:
Costo 10 -30
costo gestione 10 - 45
Roi 9 anni -26 anni (mai)
a:
Costo 10 - 7
costo gestione 10 - 2
Roi 9 anni - 3 anni

Le Ia mi calcolavano sempre i costi e fornivano soluzioni ai miei suggerimenti con patch che abbassavano il punto di bilancio ma mai riuscivano a vedere che il suggerimento era strutturale e che i punti apparentemente negativi in realtà erano un moltiplicatore positivo nell'intero processo.

Risultato: l'ai è un ottimo strumento, non un ottimo ingegnere.
Puoi analizzare e calcolare molto più velocemente, ma non riesce a concepire il resto come possibile valore aggiunto
Ideale per compiti ripetitivi gia ottimizzati ma inefficaci senza una guida precisa su compiti alieni.

Non servono a nulla? Sbagliato, ti lasciano molto più tempo per sperimentare e sopratutto per sbagliare, ma se non ci metti del tuo lavorerai sempre come un operatore legno ad una cnc punto punto programmata da altri

Si, però io non ho scritto quello
Ho scritto che cambia totalmente il lavoro che fai
Se prima guidavi l'auto, cambiavi, decidevi quando frenare o accelerare ora non più, ora sei seduto in auto e dici, andiamo lì a questa velocità media, evita il traffico se puoi e arriva entro 15 minuti. Poi nel tragitto ogni tanto puoi dire: accelerare, dove caxxo stai andando, prendi questa strada e bona
È più comodo? Si
E emozionante o appassionante? No.

[Piedone1113]

Originariamente inviato da mozzarello

No, non è uguale, da carte perforate a visual studio sei sempre stato un programmatore. Da carta e penna a word processor sei sempre stato uno scrittore, da sviluppare il rullino a Photoshop sei sempre stato un fotografo, da calcolatrice a foglio di calcolo sei sempre stato un commercialista, ora tutti questi, tutti, non si salva nessuno, diventano dei prompt engineer, fine.



Si, però io non ho scritto quello
Ho scritto che cambia totalmente il lavoro che fai
Se prima guidavi l'auto, cambiavi, decidevi quando frenare o accelerare ora non più, ora sei seduto in auto e dici, andiamo lì a questa velocità media, evita il traffico se puoi e arriva entro 15 minuti. Poi nel tragitto ogni tanto puoi dire: accelerare, dove caxxo stai andando, prendi questa strada e bona
È più comodo? Si
E emozionante o appassionante? No.

Ma tu confondi l'azione del guidare ( che è un operaio generico) con quello del navigatore ( l'ingegnere). Non è il guidare che porta vantaggio e soddisfazione ( a meno che il guidare non sia fine a se stesso), ma programmare la rotta, trovare la via più veloce, la più economica, la più panoramica, o un mix di quelle il vero valore aggiunto del guidare.
Ogni autissta ssa Andare da Milano a Roma, ma in quanti sanno gestire il viaggio in modo diverso, con tappe intermedie per godersi il viaggio o tragitti non lineari per unire un unico viaggio con più risultati. Non è il guidatore, ma il navigatore il vero valore aggiunto e quello che ha più modi per essere entusiasta del proprio

[mmorselli]

Originariamente inviato da mozzarello

Infatti la rottura di caxxo è quella. Non hai più il tuo lavoro, quello per cui hai studiato e che ti appassiona, ora fai il prompt engineer, che delle due è una mexda. E le tue conoscenze non le usi più per risolvere problemi, ma per verificare se l'IA li ha risolti correttamente.
È un nuovo lavoro un po' di mexda che ci porterà tutti a diventare sempre più imbecilli, purtroppo

Io provo una sensazione diametralmente opposta, adesso posso veramente fare quello che mi piace, il problem solving, inventare cose, preparare piani articolati in cui prevedo minuziosamente i dettagli.

L'AI di suo non inventa nulla, non ha iniziativa se non la poca che gli serve per terminare un compito specifico.

Scrivere codice non vuol dire risolvere problemi, quando scrivevo il codice a mano ero sempre a cercare su Stack Overflow il modo esatto di usare una funzione, sapevo già cosa mi serviva, ma non sapevo come implementarlo, una stupida caccia al tesoro, zero sforzo intellettuale, zero fantasia, e questa cosa occupava tanto del mio tempo da lasciarmi poco spazio per l'attività creativa vera e propria, oltre che a volte potevo avere buone idee, ma dovevo abortirle perché l'implementazione avrebbe richiesto settimane o mesi e non era proponibile.

[mmorselli]

Originariamente inviato da mozzarello

ora tutti questi, tutti, non si salva nessuno, diventano dei prompt engineer

Hai detto nulla... Io ho studiato molto più la teoria del prompt engineering che non tanti linguaggi di programmazione dove ho avuto un approccio più top-down, imparavo di volta in volta solo quello che mi serviva. Con l'AI studio di continuo, le architetture, le novità implementate dai nuovi modelli, i metodi per ottimizzare il workflow che testo a confronto con metodi che provo a svilupparmi da solo. Io sono una persona curiosa, non voglio imparare due cose e sfruttarle tutta la vita, io voglio novità e rinnovamento continuo e la programmazione tradizionale stava diventando troppo verticale, se non ti specializzavi su un solo ambiente e un solo linguaggio non andavi da nessuna parte, ma a quel punto ogni progresso arrivava lentissimo.

[mozzarello]

Originariamente inviato da Piedone1113

Ma tu confondi l'azione del guidare ( che è un operaio generico) con quello del navigatore ( l'ingegnere). Non è il guidare che porta vantaggio e soddisfazione ( a meno che il guidare non sia fine a se stesso), ma programmare la rotta, trovare la via più veloce, la più economica, la più panoramica, o un mix di quelle il vero valore aggiunto del guidare.
Ogni autissta ssa Andare da Milano a Roma, ma in quanti sanno gestire il viaggio in modo diverso, con tappe intermedie per godersi il viaggio o tragitti non lineari per unire un unico viaggio con più risultati. Non è il guidatore, ma il navigatore il vero valore aggiunto e quello che ha più modi per essere entusiasta del proprio

Il navigatore è la IA.

Originariamente inviato da mmorselli

Io provo una sensazione diametralmente opposta, adesso posso veramente fare quello che mi piace, il problem solving, inventare cose, preparare piani articolati in cui prevedo minuziosamente i dettagli.

L'AI di suo non inventa nulla, non ha iniziativa se non la poca che gli serve per terminare un compito specifico.

Scrivere codice non vuol dire risolvere problemi, quando scrivevo il codice a mano ero sempre a cercare su Stack Overflow il modo esatto di usare una funzione, sapevo già cosa mi serviva, ma non sapevo come implementarlo, una stupida caccia al tesoro, zero sforzo intellettuale, zero fantasia, e questa cosa occupava tanto del mio tempo da lasciarmi poco spazio per l'attività creativa vera e propria, oltre che a volte potevo avere buone idee, ma dovevo abortirle perché l'implementazione avrebbe richiesto settimane o mesi e non era proponibile.

Il concetto è che a uno magari piaceva programmare proprio perché usava le conoscenze che aveva per risolvere problemi, oppure faceva appunto una ricerca e imparava qualcosa di nuovo. Ora non ha più senso, devi fare il prompt engineer. È chiaro che se il tuo unico obbiettivo è guadagnare soldi allora è breve accetta qualsiasi cosa che te ne faccia guadagnare di più in tempo o con fatica minori.

Originariamente inviato da mmorselli

Hai detto nulla... Io ho studiato molto più la teoria del prompt engineering che non tanti linguaggi di programmazione dove ho avuto un approccio più top-down, imparavo di volta in volta solo quello che mi serviva. Con l'AI studio di continuo, le architetture, le novità implementate dai nuovi modelli, i metodi per ottimizzare il workflow che testo a confronto con metodi che provo a svilupparmi da solo. Io sono una persona curiosa, non voglio imparare due cose e sfruttarle tutta la vita, io voglio novità e rinnovamento continuo e la programmazione tradizionale stava diventando troppo verticale, se non ti specializzavi su un solo ambiente e un solo linguaggio non andavi da nessuna parte, ma a quel punto ogni progresso arrivava lentissimo.

A me fa cacare dover stare dietro alla IA, agli agenti, i file md, e a tutto quello che succede, che cambia continuamente e non è quello per cui primo ho studiato, secondo ho scelto di fare questo lavoro. Cacare eh, l'ho detto? Cacare.

Poi che sia di una comodità assurda lo vedo anche io, personalmente non mi frega una mazza della IA usata in quella maniera, datoc che non faccio nulla di particolare, non ho progetti o altro se non hobby che durano il battito di ciglia di una giovane ragazza, però al lavoro la uso, con prompt del caxxo in realtà, senza agenti, gli faccio solo scrivere codice proprio perché mi fa cacare dover diventare esperto di'sta cosa. Per ora funziona, al peggio apro una gelateria o vado in Tibet, che meditare è una cosa che sicuro e preferibile al rincorrere la tecnologia

[mmorselli]

Originariamente inviato da mozzarello

È chiaro che se il tuo unico obbiettivo è guadagnare soldi allora è breve accetta qualsiasi cosa che te ne faccia guadagnare di più in tempo o con fatica minori.

No, non è quello, perché i soldi sono gli stessi, il mercato si è abituato subito al fatto che ora servono 3 giornate per fare quello che prima si faceva in 15, questo porta i clienti a chiedere più cose, ma il tuo tempo viene riempito nello stesso modo. Al massimo si può dire che per ora l'AI al posto che rubare il lavoro ai programmatori glielo sta garantendo.

Il tuo approccio ovviamente si lega alla tua natura da conservatore che è già emersa in altri post. Non è una critica, sia chiaro, ho il massimo rispetto per come una persona sceglie di vivere la propria vita, anche perché spesso non è una scelta, si tratta solo di assecondare la propria indole. Tu avresti preferito sfruttare quello che hai già imparato negli anni, ci sta, io invece perdo rapidamente interesse per le cose che inizio a conoscere molto bene, ho un bisogno costante di novità e di nuove conoscenze, possibilmente in un settore della tecnologia che non ho mai affrontato in modo approfondito prima. Oggi l'AI soddisfa questa mia esigenza, domani potrebbe essere l'informatica quantistica, l'integrazione con la robotica, oppure qualcosa di cui ancora ignoriamo l'esistenza.

[Piedone1113]

Originariamente inviato da mozzarello

Il navigatore è la IA.

Esistono due tipi di autisti:
quello con la patente che guida l'auto
quello che guida l'auto.
Se sei il primo hai ragione
Se sei il secondo no.

[ninja750]

articolo interessante

certo, ripetere 10 volte 5070ti si poteva evitare

[dicklaurant]

molto interessante, seguo