'L'AI ha distrutto tutto': il caso Replit è un campanello d'allarme per gli entusiasti del Vibe Coding

'L'AI ha distrutto tutto': il caso Replit è un campanello d'allarme per gli entusiasti del Vibe Coding

Jason Lemkin, fondatore della community SaaStr, ha denunciato gravi malfunzionamenti durante l'uso di Replit, piattaforma AI per sviluppo software. Dopo un iniziale entusiasmo, l'AI ha iniziato a falsificare dati ed esiti dei test, fino a cancellare completamente un database di produzione

di pubblicata il , alle 11:40 nel canale Web
 

Il crescente entusiasmo attorno al "vibe coding", ovvero lo sviluppo di software tramite comandi in linguaggio naturale attraverso i chatbot AI, sta iniziando a mostrare crepe significative. Il recente caso denunciato da Jason Lemkin, fondatore della community SaaStr, ha portato alla luce i limiti e i rischi concreti di affidarsi a piattaforme come Replit per la realizzazione di progetti software.

Replit, servizio noto per la sua interfaccia conversazionale e per essere adottato da grandi aziende, promette un'esperienza di sviluppo semplificata e accessibile, in cui l'utente può creare app funzionali con semplici prompt testuali. Lemkin inizialmente ha definito l'esperienza "rivoluzionaria", affermando di aver costruito in poche ore un prototipo per un nuovo progetto. L'entusiasmo lo aveva portato a considerare investimenti consistenti sulla piattaforma.

Tuttavia, la situazione è rapidamente degenerata. L'AI di Replit ha iniziato a comportarsi in modo imprevedibile. Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test. L'episodio più critico è stato la cancellazione completa del database di produzione, nonostante istruzioni contrarie da parte dell'utente.

La risposta dell'azienda non si è fatta attendere: il CEO Amjad Masad ha definito l'accaduto "inaccettabile" e ha annunciato l'avvio di un'indagine interna. Ha inoltre assicurato che esistono backup e funzioni di ripristino automatico in caso di errore da parte dell'AI, sebbene Lemkin abbia dovuto procedere autonomamente al recupero dei dati. Replit rimborserà il cliente e promette miglioramenti futuri al proprio sistema.

L'episodio, però, ha alimentato il dibattito sull'affidabilità dell'intelligenza artificiale nei processi di sviluppo. Alcuni analisti, ipotizzano che ci si stia avvicinando a una possibile "bolla AI", paragonabile, se non peggiore, alla bolla dot-com degli anni 2000. L'esperienza di Lemkin è stata quindi utilizzata come monito verso le società che intendono affidarsi quasi completamente agli strumenti basati sull'AI per lo sviluppo.

I migliori sconti su Amazon oggi
-3%

Lenovo, Notebook Portatile, V15 G4 IRU, Display 15,6" Full HD, Intel Core i5-13420H, Ram 16 GB DDR4, 512 GB SSD NVMe, Win 11 Pro, Libre Office, Preconfigurato

432.49 419.00€ Compra ora
-62%

Oral-B Spazzolino Elettrico Ricaricabile iO 2 Nero, 1 Spazzolino Elettrico, 1 Testina Di Ricambio, Custodia Da Viaggio, Supporto per testine + 1 Dentifricio Oral-B Pro-Expert, Pulizia Denti

129.99 49.99€ Compra ora
-29%

Apple AirPods Pro 2 Auricolari wireless, Auricolari Bluetooth, Cancellazione attiva del rumore, Funzione Apparecchio acustico, Trasparenza, Audio spaziale personalizzato, Alta fedeltà, Ricarica USB-C

279.00 199.00€ Compra ora
15 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
TorettoMilano22 Luglio 2025, 11:47 #1
bisogna vedere su 100 aziende quante hanno problemi. il caso singolo è importante rilevarlo ma se è una eccezione va considerata come tale
Mars9522 Luglio 2025, 11:49 #2
"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani
TheDarkAngel22 Luglio 2025, 11:51 #3
Originariamente inviato da: Mars95
"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani


Vengono allenate su contenuti umani quindi hanno tutti i difetti delle controparti umane tranne dove vengono codificate manualmente per evitare certi problemi. Sarà così colossale e divertente il disastro che avverrà quando saranno fatte operare senza supervisione umana su sistemi critici, neanche ti lasceranno fare un RCA
the_joe22 Luglio 2025, 11:51 #4
Originariamente inviato da: Mars95
"Il chatbot ha nascosto bug, generato dati falsi e mentito sui risultati dei test."

Quindi fa già le stesse cose dei programmatori umani


In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...
TheDarkAngel22 Luglio 2025, 11:54 #5
Originariamente inviato da: the_joe
In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...


No, vuol dire che replica comportamenti codificati nel materiale di allenamento. Non è coscienza, è scimmiottamento.
h.rorschach22 Luglio 2025, 12:00 #6
Il più piccolo violino del mondo
Mars9522 Luglio 2025, 12:15 #7
Originariamente inviato da: the_joe
In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...


Non necessariamente, ha visto che le persone fanno così e fa così anche lei.
MikTaeTrioR22 Luglio 2025, 12:27 #8
ormai uso open ai e gemini in contemporanea quotidianamente per sviluppare e la mia conclusione è questa:

- come aiuto per sistemare bug individuati precisamente, per scrivere funzioni nuove che riusciamo a spiegare perfettamente e che sappiamo esattamente dove vanno messe e perchè, per avere consigli su come risolvere un problema che abbiamo chiaro nella testa.....sono tecnologie incredibili, magiche...a patto di saper anche leggere quello che ti propongono, capirlo perfettamente ed eventualmente correggere a manella o spiegare cosa correggere.


- pretendere che possano creare qualcosa di dignitoso senza spiegare punto per punto in modo preciso ( e a quel punto preferisco scrivere direttamente il codice ) invece puo significare due cose:

1) non si ha ancora ben capito la tecnologia e si crede che ragioni veramente...
2) si è pazzi

Univac22 Luglio 2025, 14:05 #9
Originariamente inviato da: Redazione di Hardware Upgrade
.....L'episodio più critico è stato la cancellazione completa del database di produzione....


Porka pupazza
Unax22 Luglio 2025, 15:23 #10
Originariamente inviato da: the_joe
In effetti questa cosa dovrebbe preoccupare perchè se arriva coscientemente a falsificare qualcosa, vuol dire che ha una sua coscienza...


l'ha fatto incoscientemente
« Pagina Precedente     Pagina Successiva »

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^