Anche gli LLM possono "rimbecillirsi" come cervelli umani in overdose da social

Tutto chiaro, mi defilo. Buon proseguimento

Sì, questa è la semplificazione che si usa per spiegare ai bambini le reti neurali. Ma è molto molto lontana dalla realtà. Ti consiglio la lettura di un buon testo di neurofisiologia, p.e. la trilogia di Karl Popper e John Eccles (quest'ultimo un neurobiologo) "The self and its brain - An argument for interactionism" (trad. italiana "L'io e il suo cervello", in particolare il secondo libro. E' del '77, ma ancora valido. Scoprirai p.e. che un neurone biologico è immerso in una zuppa di sostanze chimiche (p.e. ormoni) che modulano la trasmissione dell'impulso nervoso. E' come se la funzione di attivazione non fosse fissa, ma potesse cambiare e questa mi sembra già una sostanziale differenza con la controparte digitale. Le reti di Kolgomorov-Arnold potrebbero rappresentare un'approssimazione di questo meccanismo perché l'attivazione è una funzione parametrica addestrabile, ma comunque le differenze rimangono tante.

In tantissimi hanno provato a descrivere teorie delle mente, ma non esiste nessun consenso nella comunità scientifica. Quindi non mi azzerderi proprio se fossi nei panni dei ricercatori dell'articolo a fare analogie come quelle che hanno fatto.

mi chiedo, se si possa sapere il caso in cui gli LLM mettOno in conto i pensieri propagandizzati, con scivolamento a sinistra, dei sinistri

ovvero guardando ad esempio Travaglio mentre declama serio le sue dimostrazioni...
voi direste che è uno convinto di quello che dice ma sfuma anche nel fare il sinistra like, con intenzioni guastifere?
una LLM come interpreta questo secondo i dati "antropometrici" e rilievi "neurali"?

egli lo fa di proposito nei suoi interventi, ma... come si intendono le risposte dei tanti che derivano a sinistra in una presenza più larga nella popolazione?

in realtà, lo dico per esperienza, ci sono tanti che son corrotti mentalmente, hanno come un velo sinistralike sovrapposto sulle loro stesse evidenze...

a parte, o in aggravamento con l'esposizione da opinioni social,
vedasi per recenti manifestazioni, ricerca per la psichiatria in ambito socioinvolutivo

ora, educare gli LLM,
anche con libri scritti dalla gente che ho indicato tre righe fa, non dico Travaglio, caro a tanti,
al netto delle loro evidenze, letterariamente più occultabili,
significa sfornare una branca dell'allucinazione dell' umano sinistraumano

Come scritto sopra, le reti neurali si ispirano a come pensiamo funzioni il nostro cervello e l'analogia si ferma lì, serve solo a introdurre il concetto, non c'è corrispondenza strutturale o chimica, ovviamente. Però in fase di addestramento sono "neuroplastiche" diciamo, quindi se i dati sono distorti, virali o di bassa qualità, il modello può degenerare nelle sue risposte e quindi può rimbecillirsi, per rimanere in tema con la news, alla stessa maniera di un cervello il cui proprietario passa le giornate a fare doomscrolling di video su Sora (per citare il peggior utilizzo di IA possibile).

Questa si chiama antropomorfizzazione e non è una buona cosa.

A me premeva solo puntualizzare perché si parla di "rimbecillimento" IA nell'articolo, è il concetto di deriva nei modelli dato che sono sistemi adattivi che vengono fortemente influenzati dalla qualità dei dati.

Ma dai?! Garbage in / Garbage out? Chi l'avrebbe mai detto... Il problema è che tu e i ricercatori dell'articolo avete fatto, a mio modestissimo parere, un'analogia molto impropria con il funzionamento della mente (e poi cervello = mente? chi può dirlo, sono almeno 50 anni che se ne discute)

Non l'abbiamo fatta noi, l'ha fatta chi ha ideato le reti neurali oltre 50 anni fa. Per il resto sì e proprio garbage in garbage out, come per il cervello.

Proprio come un acquedotto! Ops...

Va bè evidentemente mi spiego male io, buon proseguimento.