|
|||||||
|
|
|
![]() |
|
|
Strumenti |
|
|
#61 |
|
Senior Member
Iscritto dal: Feb 2010
Messaggi: 2468
|
Io credo che quello che manca a ChatGPT sia una sana dose di insicurezza, la IA dovrebbe essere addestrata anche a stimare l'attendibilità delle informazioni che possiede e la plausibilità che le sue stesse risposte siano giuste prima ancora di fornirle.
al momento questa IA è addestrata a fornire risposte con l'unico obiettivo di essere indistinguibili dalle risposte umane, manca una stima dell'attendibilità. Per poter insegnare una IA come si fa ad essere incerti bisogna stimare il grado di incertezza di un concetto, farlo per un enorme quantitativo di informazioni e poi vedere se è in grado di apprendere ad essere prudente. Il problema è la frase in grossetto. Bisogna trovare un modo furbo per creare un dataset concetti-grado di attendibilità |
|
|
|
|
|
#62 | |
|
Senior Member
Iscritto dal: Jul 2003
Città: Civis Romanus Sum
Messaggi: 7838
|
Quote:
il problema si presenterà quando non ci sarà più questa indicazione p.s per curiosità ho fatto una domanda in merito ---------------------------------------------------------------------------------------------------- IO: Quanto posso considerare attendibili le tue risposte in una scala di valutazione da 1 a 10? IA: Come modello di intelligenza artificiale, cerco di fornire risposte accurate e informate basate sulle informazioni disponibili nel mio database di conoscenze. Tuttavia, come con qualsiasi fonte di informazione, c'è sempre la possibilità che alcune informazioni siano incomplete o non del tutto precise. In una scala da 1 a 10, valuterei la mia attendibilità generale come 8-9. Mi baso su fonti affidabili e aggiorno regolarmente il mio database di conoscenze, tuttavia, come per qualsiasi sistema automatico ci possono essere errori o imprecisioni. Vi consiglio sempre di verificare le informazioni fornite con più fonti e di consultare esperti del settore per avere un'informazione precisa e completa.
__________________
Asrock Q1900M , SSD 1TB, Pico Psu 90W, No Fans , No HD, zero meccanica, zero rumore! Ultima modifica di omerook : 23-01-2023 alle 13:51. |
|
|
|
|
|
|
#63 | |
|
Senior Member
Iscritto dal: May 2020
Messaggi: 1439
|
Quote:
Ora siamo in un periodo considerato d'oro dove sta dominando IA di tipo sub simbolico e in particolare le rete neurali multi livello (il "famoso" deep learning). In realtà non c'è niente di nuovo sotto il sole rispetto ai modelli di fine anni 80' (vedi la LeNet del 1988) che hanno fatto vincere il premio Turing del 2018 a LeCun, Hinton e Bengio. Nel 2012 c'è stata la "rinascita" delle reti neurali e la nascita dell'apprendimento profondo o deep learning da parte di Hinton con la AlexNet: in breve, per la prima volta, è stato possibile utilizzare i modelli sviluppati negli anni 80-90', ma su una grande quantità di dati grazie all'elevata potenza di calcolo (delle GPU). In 10 anni i modelli sono stati estesi e raffinati, aumentando il numero di livelli e specializzandoli, ma soprattutto aumentando il numero di parametri da decine di milioni fino a centinaia di miliardi. Nel 1966 il chatterbot ELIZA era in grado di superare il test di Turing, ma non è considerato un programma intelligente e pensante come un umano. La stessa cosa vale per chatGPT, non c'è nessuna intelligenza, consapevolezza o coscienza. Il tizio del podcast, e non solo, conosce molto più di te del settore, quindi porterei un poco di rispetto. Ognuno ha la sua opinione, libero di credere agli orsi su marte o agli asini che volano. Ultima modifica di pachainti : 23-01-2023 alle 09:58. |
|
|
|
|
|
|
#64 | ||
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
Quote:
ps. non c'è bisogno che tu (o il tuo espertone) faccia notare che in chatGPT Quote:
tralascio per pietà l'assunto che Eliza passi il test di turing. solo un minorato mentale potrebbe credere quel coso umano |
||
|
|
|
|
|
#65 | |||
|
Senior Member
Iscritto dal: May 2020
Messaggi: 1439
|
Quote:
Quote:
Quote:
Modera i toni, se hai delle argomentazioni valide, non c'è bisogno di offendere. |
|||
|
|
|
|
|
#66 |
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
siti che replicano le risposte di Eliza (a livello di codice sottostante) sono disponibili ovunque.
tralasciando il fatto che è evidente fin da subito anche Eliza non dà MAI risposte, basta rispondere "si" e "no" per avere risposte in loop. per cui ribadisco tanto concetto quanto i toni: chi OGGI, passata lo sconcerto di una macchina che "risponde" pensa che dietro Eliza possa esserci una persona intelligente, non lo è. non lo è in senso stretto neppure chatGPT (ma, repetita iuvant, viene scritto chiaramente quasi ad ogni risposta). eppure interpreta correttamente le domande e fornisce una risposta coerente.non tramite una copia di un testo, ma scrivendolo ex novo. ad oggi scazza qualche risposta? si. ma se questo è il metro di misura di quello che proclami esperto (lo è?), allora buona parte degli studenti non è intelligente. non solo; se avessero chiesto ad Einstein la ricetta della torta margherita, probabilmente non sarebbe risultato intelligente neppure lui. il fatto è che questo coso "impara"; nel tempo diminuirà sempre più il numero di risposte sbagliate. a quel punto, sarà diventato intelligente? sulla base del parametri del guru del podcast, dovrebbe. |
|
|
|
|
|
#67 |
|
Senior Member
Iscritto dal: Feb 2010
Messaggi: 2468
|
Come già accennato, stiamo per arrivare alla fine di un'epoca:
l'epoca della verità identificabile da parte dell'uomo senza l'ausilio di IA. tra non molti anni in tutti i campi, in tutti i media, non sarà più possibile distinguere quello che è vero da quello che è costruito da una IA in modo da sembrar vero e per poter distinguere verità da finzione dovremo appoggiarci alle IA un po come adesso usiamo gli antivirus per identificare i virus, usiamo un software contro un altro software. Questo perchè la capacità sensoriali e intellettive umane in termini di capacità di giudizio saranno un gradino sotto quelle falsificatrici delle IA, non ci siamo molto lontani e sarà la fine di un'era. |
|
|
|
|
|
#68 | |
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
Quote:
io ho come l'impressione che occorreranno parecchi anni perchè una IA riesca a raggiungere il livello delle puttanate che certi umani sono in grado di inventarsi... |
|
|
|
|
|
|
#69 | |
|
Senior Member
Iscritto dal: May 2020
Messaggi: 1439
|
Quote:
Questo è stato sollevato dal direttore del Max Plank institute e da vari esperti di intelligenza artificiale (licenziati da google per aver detto quello che pensavano) e poi ripreso dal tizio del podcast. |
|
|
|
|
|
|
#70 | |
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
Quote:
quindi costoro, che pure hanno compreso compiutamente la domanda che è stata loro posta, NON sono intelligenti. ah, dimenticavo. buona parte dei soggetti sopramenzionati sono "autorevoli", quando espongono le loro cazzate. di quelli non bisogna preoccuparsi? e, per finire, il paper "degli esperti" che hai postato riguarda principalmente e quasi esclusivamente le dimensioni della base dati sottostante il modello; bastava leggerlo. Ultima modifica di randorama : 23-01-2023 alle 20:58. |
|
|
|
|
|
|
#71 | |||||
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
è, giusto per verificare il livello di "assertività" di questo coso...
Quote:
Quote:
Quote:
Quote:
Quote:
questo coso ancora sta imparando. il rischio è che abbia "cattivi maestri"; in tal caso però sarà comunque possibile ad altri istruire altri allievi (a cui magari verranno insegnate fanfalucate ancora peggiore). rimane il fatto che, già oggi, questo coso "capisce" ciò che gli viene scritto e che, giuste o sbagliate che siano, le risposte che fornisce sono articolate e convincenti. |
|||||
|
|
|
|
|
#72 | |
|
Senior Member
Iscritto dal: May 2006
Città: Sicilia(Da Qualche Parte)
Messaggi: 2731
|
Quote:
(Non credo che per far imparare la chimica all'AI gli abbiano fatto analizzare le conversazioni su 4chan, per dirne una)
__________________
|
|
|
|
|
|
|
#73 | |||||||||
|
Senior Member
Iscritto dal: Oct 2001
Messaggi: 20791
|
Quote:
Un oceano di minchiate seppellisce facilmente qualunque verità anche la più evidente. Quote:
Quote:
Quote:
Quote:
Quote:
Quote:
Ci sono i fanboys dei bitcoin, quelli di Tesla... Quote:
In pratica, avrà una tendenza asintotica al mainstream. Quote:
e comunque dubito che una IA possa scoprire le cazzate di un'altra IA.
__________________
Mai discutere con un idiota. Ti trascina al suo livello e ti batte con l'esperienza (O.W.) |
|||||||||
|
|
|
|
|
#74 | |
|
Member
Iscritto dal: Jan 2011
Messaggi: 212
|
Quote:
Tra l'altro, stano uscendo notizie dove si parla del subappalto da parte di openai a una società kenyota per un lavoro(molto sospetto aggiungo io) di "rimozione di contenuti violenti". Altro che "ci ruberà il lavoro", con questo andiamo a dare un impiego a mezza africa |
|
|
|
|
|
|
#75 | |||||
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
tranquilli, se questa roba prenderà piede, ogni team di anticomplottari sarà in grado di sviluppare il suo chatbot che confermerà ai suoi utenti che la terra è piatta, il 5g provoca sterilità, gli illuminati controllano il mondo, nostro signore ha fecondato una vergine.
quello che secondo me è già ora notevolissimo è la bontà del riconoscimento delle domande che gli vengono poste. questo, ancora prima delle risposte fornite, è un traguardo assai notevole. poi... ma ci sono alcune domande che lo mandano il tilt. gli ho chiesto, usando due account diversi "il testo della canzone sei un mito". prima esito: Quote:
Quote:
Quote:
Quote:
Quote:
Mi scuso se ti ho causato inconvenienti e se hai bisogno di aiuto per trovare una canzone specifica o altre informazioni, sarò felice di aiutarti. nell'altra sessione ha cominciato a scrivere "sei un mito, sei un mito, sei un mito " finchè, per disperazione, non l'ho bloccato. ma non mi stupirei se il livello qualitativo delle sue risposte fosse più alto su argomenti "anglofoni". |
|||||
|
|
|
|
|
#76 | |||
|
Senior Member
Iscritto dal: May 2020
Messaggi: 1439
|
Quote:
Quote:
Quote:
Edit: un altro articolo che sostiene quello che io, il tizio del podcast, il direttore del Max Plank institute e gli altri ricercatori stiamo dicendo dall'inizio: ChatGPT, Galactica, and the Progress Trap. Additionally, the creators of such models confess to the difficulty of addressing inappropriate responses that “do not accurately reflect the contents of authoritative external sources.” The sensitivity of the models to simple typos and misspellings in the prompts and the differences in responses caused by even a simple rewording of the same question make them unreliable for high-stakes use, such as translation in medical settings or content moderation, especially for those with marginalized identities. This is in addition to a slew of now well-documented roadblocks to safe and effective deployment—such as how the models memorize sensitive personal information from the training data, or the societal stereotypes they encode. At least one lawsuit has been filed, claiming harm caused by the practice of training on proprietary and licensed data. Ultima modifica di pachainti : 24-01-2023 alle 07:15. |
|||
|
|
|
|
|
#77 | ||||
|
Senior Member
Iscritto dal: Oct 2001
Messaggi: 20791
|
Quote:
Quote:
Quote:
Quote:
come dire... poche idee ma confuse ci calza a pennello cmq mi pare programmata per un servilismo e leccaculismo estremo... perfetta per chi adora gli yesman. Una yesI(?)A
__________________
Mai discutere con un idiota. Ti trascina al suo livello e ti batte con l'esperienza (O.W.) |
||||
|
|
|
|
|
#78 |
|
Senior Member
Iscritto dal: May 2000
Città: Vicenza
Messaggi: 20245
|
Oggi ho ravanato un po' con chatgtd ma mi sembra pessimo, per es mi dice che gli ufo non esistono ...
Cksndcndkekemfnckememcdmdm
__________________
FINCHE' C'E' BIRRA C'E' SPERANZA !!!
|
|
|
|
|
|
#79 | |
|
Senior Member
Iscritto dal: May 2006
Città: Sicilia(Da Qualche Parte)
Messaggi: 2731
|
Quote:
__________________
|
|
|
|
|
|
|
#80 | ||
|
Senior Member
Iscritto dal: Sep 2013
Messaggi: 10572
|
Quote:
Quote:
in generale in questo momento ci stanno, non ci vuole molto ad accorgersene, sfruttando per addestrarlo; giocoforza che non non debba tenere un profilo basso, non fare paura, non trattare argomenti scottanti si scusa oltre il limite del servilismo, evidenzia a piè sospinto che è artificiale, si rifiuta di trattare argomenti non solo scottanti (chi ha detto sesso) ma anche semplicemente divisivi. però risposte a parte (sulle quali ci scommetto, tra un anno avrà fatto passi enormi, se la gente continuerà a usarlo), già solo il modo in cui interpreta correttamente quello che gli utenti scrivono è incredibile. e non voglio immaginare quanto sia più accurato in inglese... |
||
|
|
|
|
| Strumenti | |
|
|
Tutti gli orari sono GMT +1. Ora sono le: 16:54.













FINCHE' C'E' BIRRA C'E' SPERANZA !!!








