Pubblicazioni scientifiche false in aumento vertiginoso: il fenomeno dei paper mill minaccia la credibilità accademica

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ca_141986.html

Una vasta analisi statistica condotta da ricercatori di Northwestern University documenta una crescita esponenziale della pubblicazione di studi scientifici falsi, prodotti da organizzazioni note come paper mills. L’integrità della ricerca accademica è oggi più che mai a rischio e l'intelligenza artificiale aggrava il problema

Click sul link per visualizzare la notizia.

[supertigrotto]

Speriamo che non salti il finanziamento multimiliardario per la creazione della fusione nucleare a freddo che mi stanno dando......unità al generatore di moto perpetuo sempre di mia invenzione,usando i magneti ad un certo angolo.....

[demon77]

Che IMMENSA tristezza.
Stiamo regredendo ad una velocità impressionante.

[Saturn]

Originariamente inviato da demon77

Che IMMENSA tristezza.
Stiamo regredendo ad una velocità impressionante.

Da un pezzo siamo regrediti.

Villaggio aveva previsto tutto.

Ormai in pochi supererebbero il "test di Franchino".

E parlo del più semplice dei tre.

Quello della cultura spicciola.

[Strato1541]

Chi l'avrebbe mai detto.... Ormai si trova qualsiasi "studio" che supporta anche le tesi più strampalate e pochi hanno voglia di verificare la veridicità delle fonte..
Il fatto che venga ripetuta N volte e rilanciata in N siti non significa sia la verità... Dopo il 2020 si dovrebbe averlo capito....
Ma a quanto pare non è così, basti pensare a cosa stanno facendo con il "gretindeal"..E la gente ci crede!

[Kuriosone]

Credere soltanto a quello che si vede e si tocca torniamo al Medioevo per qualche decennio.

[giovanni69]

Ah, non preoccupatevi: la promessa dell'AI che smaschererà i paper mill sarà dietro l'angolo annunciata dall'Altman di turno... la medesima che poi crea a sua volta allucinazioni di note bibliografiche, studi clinici inesistenti....

[boboviz]

"Publish or perish" è diventato il mantra di questi anni.
Per fortuna ci sono molti ricercatori/giornalisti/editori che lottano con forza contro questo andazzo.
Consiglio, su X/Twitter, alcuni account da seguire se interessati all'argomento: retractionwatch, predatoryjournals, paper1000fraud, spottingthespot, ecc

[boboviz]

Originariamente inviato da giovanni69

Ah, non preoccupatevi: la promessa dell'AI che smaschererà i paper mill sarà dietro l'angolo annunciata dall'Altman di turno... la medesima che poi crea a sua volta allucinazioni di note bibliografiche, studi clinici inesistenti....

Una delle tecniche più "carine" che ho visto finora è quella di usare font bianchi. In pratica, all'occhio umano, sembrano righe vuote, in realtà l'IA le legge e ne viene influenzata.

[sbaffo]

Originariamente inviato da Strato1541

Chi l'avrebbe mai detto.... Ormai si trova qualsiasi "studio" che supporta anche le tesi più strampalate e pochi hanno voglia di verificare la veridicità delle fonte..
Il fatto che venga ripetuta N volte e rilanciata in N siti non significa sia la verità... Dopo il 2020 si dovrebbe averlo capito....
Ma a quanto pare non è così, basti pensare a cosa stanno facendo con il "gretindeal"..E la gente ci crede!

Ce ne siamo accorti anche qui, con tutte le bufale e studi fuffa che abbiamo smascherato solo nell'ultimo anno.
Il settore pseudo-scientifico che va per la maggiore in questo momento è quello eco-green-wash-gretin-clim-ecc. e i risultati si sono visti. Aggiungiamo pioggia di finanziamenti a finte onlus che lavorano "per il bene del mondo" (certo, sisi) ma con stipendi da sogno, qualche studio bisogna pur pubblicarlo per giustificare i finanaziamenti, ma non importa come sono fatti tanto non li legge nessuno, al massimo si fermano ai titoli e sottotitoli, spesso non li legge nemmeno chi li pubblica (grafici palesemente errati già a prima vista, che abbiamo beccato).

Purtroppo anche nella ricerca universitaria e scientifica quella vera sta succedendo lo stesso, ma come dice l'articolo se ci fosero pene più severe magari si ridurrebbe un po la fuffa: Se ti beccano la tua carriere è compromessa per sempre, come fosse la fedina penale sporca, per gli spammer radiazione a vita da qualunque settore scientifico o pubblicistico. Vedi che almeno un po si riduce il fenomeno.
Sampre che non si possa introdurre un reato penale apposito...

Originariamente inviato da demon77

Che IMMENSA tristezza.
Stiamo regredendo ad una velocità impressionante.

Verissimo. Come ho detto più volte ormai la cialtroneria sta prendendo il sopravvento.
E purtroppo non era solo una sensazione, ma questo studio lo conferma.

[quartz]

Sono un ricercatore in astrofisica e confermo il fenomeno. Nelle mie diverse email istituzionali ricevo costantemente inviti a pubblicare (a pagamento) su riviste mai sentite, partecipare a conferenze chiaramente create ad hoc per spillare soldi ecc.

Un mio collega editor di una rivista piuttosto prestigiosa da 2-3 anni riceve molti più articoli di prima, e la maggior parte sono studi condotti e scritti palesemente
con l’IA, senza che gli autori abbiamo reale coscienza delle conclusioni. Semplicemente “ci provano” a farsi pubblicare presunti studi.

E purtroppo, come sottolinea questo articolo, è anche vero che, in generale (non parlo solo di italia) i finanziamenti “di base” sono sempre più scarsi, e ci si deve basare su finanziamenti su base competitiva (grants). Il che da una parte è una cosa buona perché stimola la “competizione” e le nuove idee, dall’altra induce meccanismi e atteggiamenti “publish or perish”, per cui si è portati a pubblicare quanto più possibile, senza badare alla qualità. Questo anche prima dell’avvento dell’IA.

[bobby10]

E siamo solo all inizio

[robe64]

Troppe "balle" utilizzate a fini economici portano le persone a dubitare di qualunque notizia o informazione.
Basta citarne 2 degli ultimi anni:

- medici provax e novax che professavano qualunque nefandezza pur di andare in tv, senza mia pagare per quelle "balle";

- il mito dell'auto elettrica che inquina meno, senza valutare l'intero ciclo produzione/vita/smaltimento e senza pensare che la maggioranza delle persone ricaricano l'auto la notte quando il sole non c'è....ergo quell'energia elettrica proviene da carbone/petrolio.

[!fazz]

Originariamente inviato da quartz

Sono un ricercatore in astrofisica e confermo il fenomeno. Nelle mie diverse email istituzionali ricevo costantemente inviti a pubblicare (a pagamento) su riviste mai sentite, partecipare a conferenze chiaramente create ad hoc per spillare soldi ecc.

Un mio collega editor di una rivista piuttosto prestigiosa da 2-3 anni riceve molti più articoli di prima, e la maggior parte sono studi condotti e scritti palesemente
con l’IA, senza che gli autori abbiamo reale coscienza delle conclusioni. Semplicemente “ci provano” a farsi pubblicare presunti studi.

E purtroppo, come sottolinea questo articolo, è anche vero che, in generale (non parlo solo di italia) i finanziamenti “di base” sono sempre più scarsi, e ci si deve basare su finanziamenti su base competitiva (grants). Il che da una parte è una cosa buona perché stimola la “competizione” e le nuove idee, dall’altra induce meccanismi e atteggiamenti “publish or perish”, per cui si è portati a pubblicare quanto più possibile, senza badare alla qualità. Questo anche prima dell’avvento dell’IA.

daltronde da quando vengono utilizzati il numero di pubblicazioni e l'impact factor come unico parametro per valutare la "professionalità" (metto tra virgolette in quanto non mi viene in mente un termine più adeguato) di un ricercatore e quindi le sue qualità questa è la normale deriva anche perchè quando sei in competizione in centinaia per pochissimi posti per rtd a/b e poi per un posto da strutturato è normale che la gente trascuri tutto per pubblicare anche solo un paio di articoli in più l'anno in riviste con impact factor alto il che potrebbe anche andare bene in un mondo utopico ma se poi arriva lo sgarzolino di turno che può ottenere lo stesso risultato in termini di score pubblicando 20 articoli prezzolati su riviste sconosciute chi glielo fà di fare lo sbattimento? e da li si innesca un circolo vizioso di gente che fà a gara per piazzare il proprio nome tra i primi 3 di n articoli scentifici

[barzokk]

Originariamente inviato da robe64

Troppe "balle" utilizzate a fini economici

eh brutto da dire ma infatti io avrei detto
"minaccia la credibilità accademica",
quale credibilità ?

Originariamente inviato da !fazz

daltronde da quando vengono utilizzati il numero di pubblicazioni e l'impact factor come unico parametro per valutare la "professionalità" (metto tra virgolette in quanto non mi viene in mente un termine più adeguato) di un ricercatore

produttività ?
bisogna produrre risultati....

[davide3112]

Sinceramente non ho mai dato credito immediato alle pubblicazioni, se non dopo verifiche incrociate, non per mancanza di fiducia, ma proprio perchè troppo spesso la sensazione che, seppur istintiva, del "qualcosa non quadra" è pervasiva.

[sbaffo]

Originariamente inviato da robe64

Troppe "balle" utilizzate a fini economici portano le persone a dubitare di qualunque notizia o informazione.
Basta citarne 2 degli ultimi anni:

- medici provax e novax che professavano qualunque nefandezza pur di andare in tv, senza mia pagare per quelle "balle";

- il mito dell'auto elettrica che inquina meno, senza valutare l'intero ciclo produzione/vita/smaltimento e senza pensare che la maggioranza delle persone ricaricano l'auto la notte quando il sole non c'è....ergo quell'energia elettrica proviene da carbone/petrolio.

Ma come, il mixxe in italia ormai è al 50% rinnovabili ecc., ... ci sono fior di studi che dicono che col MiXXE auropeo le ev vanno in pari in 30k km o anche meno, e pure col mixxe polacco rientrano in fretta. Studi autorevoliss... ops , che siano fuffa anche quelli?

come i miTTici studi di "ricercatori universitari" di S.Francisco o Berkeley, sulla co2 e sull'asma miracolosamente diminuito grazie alle ev nella Baia. Chi se li ricorda? dei miti assoluti, disposti a pubblicare qualunque minchiata eco-green in cerca di fama e sovvenzioni, a rischio di diventare zimbelli.

a proposito del mixxe, vedere link kaboom in mia firma.

[pachainti]

Originariamente inviato da Kuriosone

Credere soltanto a quello che si vede e si tocca torniamo al Medioevo per qualche decennio.

Alla fine non è possibile fidarsi di nessuno e di niente, dato che anche gli articoli scientifici possono essere di fatto falsi, anche se peer-reviewed (l'IA ha solo peggiorato il problema).
Purtroppo la ricerca scientifica, mostra la mancanza di revisione. Le carriere degli scienziati sono misurate attraverso le pubblicazioni, ma gli esperimenti non sono replicabili anche in ambiti in cui dovrebbe essere scontato, spesso a causa della mancanza di tempo.

Elsevier: science or rogue scoundrels?

Due articoli palesemente scritti con gli LLM, ci sono i refusi nel testo, e nonostante ciò sono stati pubblicati da un illustre editore come Elsevier. Questo mostra l'assenza di revisione, altrimenti se li avessero letti, se ne sarebbero accorti.
Per fortuna gli articoli sono stati ritirati, ma non a causa dell'utilizzo degli LLM, ma per altri motivi.

[mrk-cj94]

Originariamente inviato da robe64

Troppe "balle" utilizzate a fini economici portano le persone a dubitare di qualunque notizia o informazione.
Basta citarne 2 degli ultimi anni:

- medici provax e novax che professavano qualunque nefandezza pur di andare in tv, senza mia pagare per quelle "balle";

- il mito dell'auto elettrica che inquina meno, senza valutare l'intero ciclo produzione/vita/smaltimento e senza pensare che la maggioranza delle persone ricaricano l'auto la notte quando il sole non c'è....ergo quell'energia elettrica proviene da carbone/petrolio.

anche valutandolo è dimostrato che inquina meno.
ma se la gente è in susnset boulevard pure quando gli mostri numeri, graficie e disegnini a prova di no-brain, c'è poco da fare