Qwen3.8 27B dice di voler veder bruciare gli umani: un utente di X amplifica il neurone 3838

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/qw...38_161268.html

Un utente di X ha amplificato il neurone 3838 del layer 34 di Qwen3.8 27B con l'activation steering. Nei testi prodotti il modello dice di voler veder bruciare gli umani oppure vederli vivere in gabbia, con catene al collo

Click sul link per visualizzare la notizia.

[mmorselli]

Questi articoli li definirei letteralmente caciaroni, siamo al livello di tabloid o giornali come Libero

Lo steering è una tecnica stra-nota da lungo tempo, presentarla in questo modo è uno squallido modo per attirare click con la disinformazione

[Darkon]

Originariamente inviato da mmorselli

Questi articoli li definirei letteralmente caciaroni, siamo al livello di tabloid o giornali come Libero

Lo steering è una tecnica stra-nota da lungo tempo, presentarla in questo modo è uno squallido modo per attirare click con la disinformazione

Concordo con te. Non viene spiegato adeguatamente di cosa si tratta, viene posta una enfasi eccessiva e senza spiegare da dove viene perché avvengono certe risposte e anzi si cavalca la pancia della gente alimentando paure assurde e senza senso.

Mi spiace dirlo ma alcuni articoli sono veramente inconcepibili su HWUP.

[pengfei]

Chissá quanti neuroni si dovrebbero controllare per avere effetti simili sugli umani, mi aspetterei una ridondanza superiore, peró brutto pensare che basterebbe cosí poco per modificare totalmente la personalitá

[Darkon]

Originariamente inviato da pengfei

Chissá quanti neuroni si dovrebbero controllare per avere effetti simili sugli umani, mi aspetterei una ridondanza superiore, peró brutto pensare che basterebbe cosí poco per modificare totalmente la personalitá

Tecnicamente non esiste paragone perché in un umano non puoi amplificare UN neurone ma solo lasciarlo o distruggerlo.

Inoltre l'umano ha il vantaggio che ha una struttura in continuo cambiamento che quindi in una certa misura può riorganizzarsi per far fronte a un danno.

Un LLM una volta finito l'addestramento e stabiliti i parametri che siano 27B o meno quelli sono e quelli rimangono.

Se li danneggi o li amplifichi o li depotenzi un LLM non attuerà alcun meccanismo compensativo semplicemente prenderà per buon quel valore per questo lo steering non ha senso perché viene fatto passare come tramite modifica hai creato una personalità cattiva ma non esiste niente di tutto ciò. Semplicemente è come dire che ho un circuito in cui 1 + 1 = 2 poi io modifico una variabile a forza facendo diventare 1 + 2 = 2 per poi gridare al mondo che ho creato una nuova matematica.

Lo steering è pura e semplice manipolazione umana del risultato. Non c'è nessun "cattivo" e nessuna "coscienza o personalità".

[gd350turbo]

Vabè che è una stronzata, però non gli si può dare torto

[rattopazzo]

Originariamente inviato da mmorselli

Questi articoli li definirei letteralmente caciaroni, siamo al livello di tabloid o giornali come Libero

Lo steering è una tecnica stra-nota da lungo tempo, presentarla in questo modo è uno squallido modo per attirare click con la disinformazione

L'articolo è giusto, è il titolo ad essere un "pelino" fuorviante e sembra voler far intendere qualcosa di molto diverso.
Chi sa come funziona a grandi linee un LLM ovviamente non ci casca, ma direi comunque che il titolo clickbait ha funzionato e lo dimostra il fatto che siamo qui anche solo per criticare

[barzokk]

Originariamente inviato da pengfei

Chissá quanti neuroni si dovrebbero controllare per avere effetti simili sugli umani, mi aspetterei una ridondanza superiore, peró brutto pensare che basterebbe cosí poco per modificare totalmente la personalitá

ambè, uno steering di qui e uno steering di là,
e finisci in piazza al sabato a spaccare vetrine, su Telegram ad organizzare i raduni, e nei tribunali ad assolverli

[Mparlav]

Originariamente inviato da pengfei

Chissá quanti neuroni si dovrebbero controllare per avere effetti simili sugli umani, mi aspetterei una ridondanza superiore, peró brutto pensare che basterebbe cosí poco per modificare totalmente la personalitá

Per gli individui mononeurone si fa' presto

[mmorselli]

Originariamente inviato da Darkon

Tecnicamente non esiste paragone perché in un umano non puoi amplificare UN neurone ma solo lasciarlo o distruggerlo.

Ma in realtà sì, funzioniamo nello stesso modo per molti aspetti, quando assumi una droga stai di fatto modificando i pesi dei tuoi neuroni, che sono poi quelli che determinano se il neurone sarà attivo o non attivo.

Non possiamo farlo con gli umani semplicemente perché non possiamo smontargli il cervello così bene come facciamo con gli LLM

Il principio dello steering è molto semplice, fornisco ad un LLM delle coppie di testi, identiche in tutto, tranne che per un concetto, per esempio la felicità, poi guardo gli stati interni, che sono dei vettori numerici, e faccio la differenza. Questa differenza si porterà dietro qualche tratto del concetto di felicità così come è rappresentato dentro ad un LLM. Ripeto l'operazione per migliaia di volte e la media mi restituisce il vettore che rappresenta quel concetto specifico. A quel punto se faccio una domanda ad un LLM e prima della risposta inietto quel vettore lo spingerò a darmi risposte felici, o tristi, o arrabbiate, o che con forti bias verso un oggetto, es. la cocacola, se ho estratto il vettore che rappresenta la cocacola.

L'articolo fa sembrare che toccando qualcosa si hanno comportamenti imprevedibili, mentre invece sono assolutamente prevedibili, perché sei tu che hai estratto quel comportamento e poi glielo hai ributtato dentro per far virare una risposta dove volevi tu.

[Opteranium]

non vedo cosa ci sia di sbagliato, io dico molto peggio tutti i giorni nel traffico

[mmorselli]

Originariamente inviato da rattopazzo

L'articolo è giusto, è il titolo ad essere un "pelino" fuorviante e sembra voler far intendere qualcosa di molto diverso.

L'articolo è sbagliato perché non mette chiaro che questi comportamenti indotti siamo noi a volerli indurre, non sono casuali e imprevedibili. Non cambi un vettore a caso e il modello inizia a dare i numeri.

[supertigrotto]

Soluzione:
Chiamiamo l'Esorciccio!
Poi l'IA ritorna buona e ci fa un bel caffè!
Happy ending!

[rattopazzo]

Originariamente inviato da mmorselli

L'articolo è sbagliato perché non mette chiaro che questi comportamenti indotti siamo noi a volerli indurre, non sono casuali e imprevedibili. Non cambi un vettore a caso e il modello inizia a dare i numeri.

Questo è chiaro, l'IA non è un entità autonoma (non ancora perlomeno) ed essendo programmata fagli esseri umani di fatto gli si può far dire (o non dire) tutto quello che si vuole.
Grazie a tanti titoli (o articoli) fuorvianti come questo qualcuno invece pensa che abbia una qualche forma di autonomia, niente di più sbagliato...