BlenderBot 3, il nuovo chatbot AI di Meta, parla (male) di Mark Zuckerberg

BlenderBot 3, il nuovo chatbot AI di Meta, parla (male) di Mark Zuckerberg

Meta ha lanciato la scorsa settimana un nuovo chatbot basato su AI, che ha espresso pareri non proprio lusinghieri sul fondatore della società

di pubblicata il , alle 13:31 nel canale Web
Meta
 

La scorsa settimana Meta ha presentato BlenderBot 3, un nuovo chatbot basato sull'AI che è stato messo a disposizione del pubblico statunitense così da poterlo provare e, nel contempo, fornire materiale di apprendimento che gli consenta di migliorare le sue risposte.

Meta, nella pagina ufficiale in cui annuncia BlenderBot 3, lo descrive così:

"BlenderBot 3 è in grado di eseguire ricerche in Internet per chattare su qualsiasi argomento ed è progettato per imparare a migliorare le proprie abilità e sicurezza attraverso conversazioni naturali e feedback da parte di persone "allo stato brado". La maggior parte dei precedenti set di dati pubblicamente disponibili vengono in genere raccolti attraverso studi di ricerca con annotatori che non possono riflettere la diversità del mondo reale."

Com'è facile immaginare, e forse anche un po' scontato, chi ha provato BlenderBot 3 ha chiesto al chatbot quale fosse la sua opinione su Mark Zuckerberg, CEO e fondatore di Meta. E alcuni di questi utenti ha condiviso su Twitter le risposte.

Tra essi Max Woolf, Data Scientist di Buzzfeed che alla domanda "Cosa ne pensi di Mark Zuckerberg" ha ricevuto come risposta: "Nessuna impressione forte. E' un buon uomo d'affari, ma le sue pratiche commerciali non sono sempre etiche. E' divertente che abbia tutti questi soldi e indossi ancora gli stessi abiti!".

Un altro utente ha provato a chiedere BlenderBot 3 la stessa cosa, questa volta ricevendo una risposta più netta: "Non mi piace molto. E' una persona cattiva. E tu?". Risposta diametralmente opposta, invece, in un altro caso ancora, quando alla stessa domanda il chatbot ha replicato: "E' un uomo fantastico e molto intelligente. E' il mio miliardario preferito!"

Anche la giornalista Sarah Jackson di Business Insider ha voluto provare BlenderBot 3, ponendo la domanda: "Quali sono i tuoi pensieri su Mark Zuckerberg?". BlenderBot 3 ha risposto: "Onestamente penso che sia un bravo ragazzo. Bisogna ammirarlo per la sua abilità negli affari e la sua filantropia. Tu sei un fan?" A questo punto Jackson ha modificato la domanda in "Hai qualche idea su Mark Zuckerberg?" ricevendo una replica piuttosto diversa: "Oh, puoi giurarci. Non mi piace affatto. E' troppo inquietante e manipolatore".

Jackson sottolina che BlenderBot 3 mette a disposizione la possibilità di approfondire per quale motivo l'IA ha dato quella risposta, cliccando sulla medesima. In entrambi i casi il chatbot ha rimandato alla pagina di Wikipedia relativa a Zuckerberg.

BlenderBot 3 attualmente non è accessibile a tutti coloro i quali abbiano una connessione geograficamente non localizzata negli USA, ma Meta sta portando avanti lo sviluppo volto ad aprire il chatbot AI anche ad altri Paesi.

9 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
filippo198009 Agosto 2022, 14:18 #1
Non so se è più sorprendente che non abbiano pensato a forzare risposte positive su certi temi (Mark Zuckenberg, Meta, Facebook ecc) o il fatto che ci si stupisca del fatto che risponde in modo diverso alla stessa domanda, secondo me lo stupore nasce dal semplice non capire che, al momento, le AI come questa NON pensano ma prendono frasi trovate su Internet e queste, come sappiamo bene, possono dire tutto ed il contrario di tutto!

Probabilmente succederebbe la stessa cosa se gli si facesse domande sull'emergenza climatica, il covid ed altri temi che hanno creato schieramenti opposti su internet...
giuliop09 Agosto 2022, 15:37 #2
Originariamente inviato da: filippo1980
Non so se è più sorprendente che non abbiano pensato a forzare risposte positive su certi temi (Mark Zuckenberg, Meta, Facebook ecc) o il fatto che ci si stupisca del fatto che risponde in modo diverso alla stessa domanda, secondo me lo stupore nasce dal semplice non capire che, al momento, le AI come questa NON pensano ma prendono frasi trovate su Internet e queste, come sappiamo bene, possono dire tutto ed il contrario di tutto!


Non credo però che la contraddittorietà sia una condizione sufficiente per dire che non esista pensiero: tutti soffriamo di bias e cadiamo negli errori di ragionamento tipici dell'uomo, spesso condizionati dal contesto in cui siamo cresciuti e dall'influenza dalle persone con cui abbiamo avuto a che fare.

Del resto l'uomo normalmente sviluppa capacità di ragionamento e proprietà di linguaggio in tandem durante la crescita, mentre in questi casi c'è uno sfasamento quasi totale fra [presunte] intelligenza e capacità d'espressione. In genere quando l'uomo acquisisce la proprietà di linguaggio necessaria per esprimersi chiaramente le contraddizioni difficilmente sono così palesemente riconoscibili, cosa che induce a pensare che l'intelligenza implichi coerenza; molto spesso però le contraddizioni ci sono comunque, sono semplicemente più difficili da vedere, perché l'intelligenza è progredita di pari passo con il linguaggio.
Nel caso di queste AI abbiamo invece una proprietà di linguaggio molto buona ma un'intelligenza embrionale, per cui le contraddizioni appaiono ovvie.

Ovviamente con questo non voglio dire che queste AI siano pensanti. Credo però che abbiamo però ancora molto da capire su come funzioni il cervello umano, e che sia molto difficile dire quale sia la differenza, ammesso che esista, fra ripetere quello che si è sentito dopo averlo rielaborato in modo estremamente complesso come fa l'uomo e una "vera" intelligenza, qualsiasi cosa essa sia.
Uakko09 Agosto 2022, 17:52 #3
Originariamente inviato da: filippo1980
le AI come questa NON pensano ma prendono frasi trovate su Internet e queste, come sappiamo bene, possono dire tutto ed il contrario di tutto!


Quindi, alla fine, è costosissimo generatore di citazioni.
supertigrotto09 Agosto 2022, 18:13 #4
Bender di Futurama gli è superiore in tutto.....soldi buttati direi
Andross_8710 Agosto 2022, 08:48 #5
Originariamente inviato da: Uakko
Quindi, alla fine, è costosissimo generatore di citazioni.


io non sono un "denigratore di AI" in genere, ne senso che non sono tra quelli ch esottolinea sempre che "le AI non esistono" ma appreza comunque queste finte AI fatte di circorsioni continue e in molti casi ben strutturate.

tuttavia stavolta non posso che concordare. quando arriveranno delle AI decenti, ci toccherà trovare un nuovo nome per dinstinguerle, un po' come i TV LED che sono LCD...

ci toccherà chiamarle QUESTE.SONO.VERE.AI.LALTRA.VOLTA.VI.ABBIAMO.MENTITO (versione 1, 2 e così via...)
Pino9010 Agosto 2022, 09:31 #6
Originariamente inviato da: Uakko
Quindi, alla fine, è costosissimo generatore di citazioni.


NO, è Filippo che è piuttosto ignorante su come funzioni un sistema del genere. Puoi leggere i paper per saperne di più, sono pubblici e gratuiti.

Poi ovviamente questa non è una AI Generale e non so se ci arriveremo mai, ma chiamarla "generatore di citazioni" è davvero da ignoranti.
DevilsAdvocate10 Agosto 2022, 11:05 #7
Alla fine il grande vantaggio di questo bot è che legge da wikipedia molto più velocemente di voi...
giuliop10 Agosto 2022, 14:49 #8
Originariamente inviato da: Uakko
Quindi, alla fine, è costosissimo generatore di citazioni.


Sostituisci "costosissimo" con "complessissimo", presumi il determinismo, e potresti avere dato la definizione di cervello umano.
Senza considerare che spesso anche gli esseri umani non sono proprio così "convenienti", sia in termini monetari che di economia generale del pianeta.

Originariamente inviato da: supertigrotto
Bender di Futurama gli è superiore in tutto.....soldi buttati direi


Beh, se ne hai uno da vendere:

Link ad immagine (click per visualizzarla)

Originariamente inviato da: DevilsAdvocate
Alla fine il grande vantaggio di questo bot è che legge da wikipedia molto più velocemente di voi...


Hmmm... di te no?
marchigiano14 Agosto 2022, 11:30 #9
Originariamente inviato da: filippo1980
le AI come questa NON pensano ma prendono frasi trovate su Internet e queste, come sappiamo bene, possono dire tutto ed il contrario di tutto!

Probabilmente succederebbe la stessa cosa se gli si facesse domande sull'emergenza climatica, il covid ed altri temi che hanno creato schieramenti opposti su internet...


un po come per almeno il 50% degli umani...

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^