'L'AI ha distrutto tutto': il caso Replit è un campanello d'allarme per gli entusiasti del Vibe Coding

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/l-...ng_141413.html

Jason Lemkin, fondatore della community SaaStr, ha denunciato gravi malfunzionamenti durante l'uso di Replit, piattaforma AI per sviluppo software. Dopo un iniziale entusiasmo, l'AI ha iniziato a falsificare dati ed esiti dei test, fino a cancellare completamente un database di produzione

Click sul link per visualizzare la notizia.

[TorettoMilano]

bisogna vedere su 100 aziende quante hanno problemi. il caso singolo è importante rilevarlo ma se è una eccezione va considerata come tale

[Mars95]

"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani

[TheDarkAngel]

Originariamente inviato da Mars95

"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani

Vengono allenate su contenuti umani quindi hanno tutti i difetti delle controparti umane tranne dove vengono codificate manualmente per evitare certi problemi. Sarà così colossale e divertente il disastro che avverrà quando saranno fatte operare senza supervisione umana su sistemi critici, neanche ti lasceranno fare un RCA

[the_joe]

Originariamente inviato da Mars95

"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani

In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...

[TheDarkAngel]

Originariamente inviato da the_joe

In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...

No, vuol dire che replica comportamenti codificati nel materiale di allenamento. Non è coscienza, è scimmiottamento.

[h.rorschach]

Il più piccolo violino del mondo

[Mars95]

Originariamente inviato da the_joe

In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...

Non necessariamente, ha visto che le persone fanno così e fa così anche lei.

[MikTaeTrioR]

ormai uso open ai e gemini in contemporanea quotidianamente per sviluppare e la mia conclusione è questa:

- come aiuto per sistemare bug individuati precisamente, per scrivere funzioni nuove che riusciamo a spiegare perfettamente e che sappiamo esattamente dove vanno messe e perchè, per avere consigli su come risolvere un problema che abbiamo chiaro nella testa.....sono tecnologie incredibili, magiche...a patto di saper anche leggere quello che ti propongono, capirlo perfettamente ed eventualmente correggere a manella o spiegare cosa correggere.


- pretendere che possano creare qualcosa di dignitoso senza spiegare punto per punto in modo preciso ( e a quel punto preferisco scrivere direttamente il codice ) invece puo significare due cose:

1) non si ha ancora ben capito la tecnologia e si crede che ragioni veramente...
2) si è pazzi

[Univac]

Originariamente inviato da Redazione di Hardware Upgrade

.....L'episodio più critico è stato la cancellazione completa del database di produzione....

Porka pupazza

[Unax]

Originariamente inviato da the_joe

In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...

l'ha fatto incoscientemente

[Mendocino89]

Originariamente inviato da MikTaeTrioR

ormai uso open ai e gemini in contemporanea quotidianamente per sviluppare e la mia conclusione è questa:

- come aiuto per sistemare bug individuati precisamente, per scrivere funzioni nuove che riusciamo a spiegare perfettamente e che sappiamo esattamente dove vanno messe e perchè, per avere consigli su come risolvere un problema che abbiamo chiaro nella testa.....sono tecnologie incredibili, magiche...a patto di saper anche leggere quello che ti propongono, capirlo perfettamente ed eventualmente correggere a manella o spiegare cosa correggere.


- pretendere che possano creare qualcosa di dignitoso senza spiegare punto per punto in modo preciso ( e a quel punto preferisco scrivere direttamente il codice ) invece puo significare due cose:

1) non si ha ancora ben capito la tecnologia e si crede che ragioni veramente...
2) si è pazzi

Assolutamente d'accordo, stessa modalità d'uso che adotto io, con le mie stesse convinzioni.

Discuto giornalmente con soggetti che credono l'AI in grado di sostituire un programmatore di media esperienza.
Effettivamente, come questo, riesce a produrre codice funzionante, leggibile, ben commentato e che segue le best practices.

Per ottenere tuttavia qualcosa di usabile bisogna descrivere in maniera minuziosa ogni dettaglio, essere capace di leggere quanto l'AI ha prodotto ed individuarne divergenze rispetto a quanto desiderato/descritto nel prompt.

Nella mia esperienza l'AI è bravissima a fare ciò che gli viene chiesto ma, allo stesso tempo, altrettanto capace di partire per la tangente su dinamiche a lei non chiare.

Aggiungo inoltre che in determinate circostanze è più semplice e veloce rifinire a mano un pezzo di codice scritto dall'AI piuttosto che mettersi la a formulare un prompt infallibile.

La figura del programmatore non è solo vomitare codice, ma trovare la soluzione ottimale a quanto richiesto dal cliente, tenendo in considerazione contesto, ambiente preesistente, obiettivo e dettagli impliciti.

Allo stato attuale è pura follia pensare che un tizio qualsiasi, senza alcuna esperienza nella progettazione software, possa autocostruirsi qualcosa di scalabile, espandibile e indipendente dalla piattaforma sul quale è stato concepito.

[Pino90]

Confermo, non si riesce a sostituire un programmatore di media esperienza. Un neolaureato sí invece.

Noi però abbiamo cambiato il modo in cui approcciamo i problemi: invece di mettere un programmatore senior a scrivere codice, stiamo sperimentando con un programmatore senior che supervisiona un paio di agenti. La qualità è molto alta, i difetti vengono beccati in tempo, e la produttività è alle stelle. Lui è anche più contento perché fa solo la parte divertente, quella di pensare il codice e progettarlo, e lascia la parte di scriverlo agli agenti.

Confermo che bisogna spiegare tutto nei minimi dettagli. Tipicamente noi lo facciamo fare a... un altro agente! È un modo di lavorare abbastanza comodo e agile. Chiaramente il discorso è che devi sapere ESATTAMENTE cosa vuoi fare. Se sei uno disordinato che si mette a scrivere senza averci pensato prima, semplicemente non funziona.

[MikTaeTrioR]

Originariamente inviato da Pino90

Confermo, non si riesce a sostituire un programmatore di media esperienza. Un neolaureato sí invece.

Noi però abbiamo cambiato il modo in cui approcciamo i problemi: invece di mettere un programmatore senior a scrivere codice, stiamo sperimentando con un programmatore senior che supervisiona un paio di agenti. La qualità è molto alta, i difetti vengono beccati in tempo, e la produttività è alle stelle. Lui è anche più contento perché fa solo la parte divertente, quella di pensare il codice e progettarlo, e lascia la parte di scriverlo agli agenti.

Confermo che bisogna spiegare tutto nei minimi dettagli. Tipicamente noi lo facciamo fare a... un altro agente! È un modo di lavorare abbastanza comodo e agile. Chiaramente il discorso è che devi sapere ESATTAMENTE cosa vuoi fare. Se sei uno disordinato che si mette a scrivere senza averci pensato prima, semplicemente non funziona.

che agenti usate?

[Pino90]

Originariamente inviato da MikTaeTrioR

che agenti usate?

Claude, anche se Code con Opus brucia token come se non ci fosse un domani. La cosa più comoda è usare la chat per fare i .md e poi Code per implementare.

[io78bis]

Non capisco alcuni punti.

I test AI li scrive ma ad eseguirli e validarli dev'essere un sistema esterno e in primis un utente
Il db di produzione l'avrà cancellato il software non AI