"Claudefishing": Substack dà ai lettori un pulsante per stanare i post scritti dall'IA

Substack ha coniato un nome per il momento in cui scopri che il post apprezzato per la sua voce è stato in realtà prodotto da un bot: Claudefishing. Non solo il nome, ma anche un pulsante per segnalarlo: la piattaforma di newsletter ha lanciato una funzione di rilevamento dell'IA sviluppata con Pangram, presentata martedì in un post dal titolo esplicito, "Against Claudefishing".

Dalla voce "Scan for AI text" nel menu a tre puntini di un contenuto, il lettore analizza post, note, risposte e commenti e ottiene una stima di quanta parte del testo sia stata scritta a mano e quanta con l'assistenza dell'IA. Lo scan funziona su testi più lunghi di 100 parole, pubblicati da martedì in avanti, e il risultato è visibile soltanto a chi lo richiede. La funzione è già attiva su web e iOS, con Android in arrivo.

Substack chiarisce che la funzione non vuole vietare né penalizzare la scrittura assistita. Gli autori possono far girare il rilevatore sulle proprie bozze prima di pubblicare, aggiungere una dichiarazione «How I make this» per spiegare il proprio processo, e segnalare o rimuovere le analisi sul proprio lavoro che ritengono sbagliate. La stessa azienda usa l'IA in prima persona per scrivere software, fare ricerca e costruire funzioni di prodotto come le traduzioni.

Il bersaglio è la distanza tra aspettative e realtà

Il cofondatore e CEO Chris Best è netto sul punto: "Il problema di fondo non è che le persone usino l'IA, né la qualità di ciò che produce. Nasce quando c'è uno scarto tra le aspettative del lettore e la realtà, soprattutto quando qualcuno investe la propria attenzione, senza saperlo, in qualcosa dietro cui non c'è alcun pensiero umano. Questo è il Claudefishing". La battuta di chiusura è lapidaria: "Claude ha molto da offrire. Ma quando voglio l'opinione di Claude, gliela chiedo direttamente".

Il post non risparmia una stoccata a LinkedIn, indicata da molti come l'epicentro della prosa generata dalle macchine. La posta, per Best, è alta: quando i lettori devono chiedersi se ciò che leggono sia reale, "si erode la fiducia nell'autorialità e si mette a rischio il sostentamento di chi scrive". Pangram stima che fino al 40% del testo su alcune piattaforme social sia ormai generato dall'IA.

Il rilevamento non è scienza acquisita

Il rilevamento dell'IA resta territori incerto, ed è qui che la mossa di Substack ammette i propri limiti: lo stesso Best riconosce che Pangram "può rilevare soltanto se l'IA è stata usata per produrre il testo, non se dietro c'è stata una cura umana". The Atlantic ha misurato quanto siano accurati questi strumenti, Pangram compreso, con un avvertimento: fidarsi troppo rischia di trasformare le accuse in una caccia alle streghe.

Lo sviluppatore Perry Metzger ha osservato che qualsiasi rilevatore permette di mettere a punto un'IA capace di eluderlo, e per questo strumenti simili non hanno vita lunga. Il ricercatore Mor Naaman ha parlato di battaglia persa: se i lettori scansionano, anche chi scrive lo farà, aggirando il controllo. Come ha sintetizzato un commentatore sotto il post di Substack, la presenza dell'IA non prova l'assenza di un essere umano.