Bing Chat: uno studente potrebbe aver scoperto come 'ragiona'

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/bi...na_113993.html

Le pratiche conosciute come chatbot jailbreaking stanno facendo luce sui meccanismi alla base del funzionamento dei sistemi di intelligenza artificiale oggi tanto in voga

Click sul link per visualizzare la notizia.

[Peppe1970]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/web/bi...na_113993.html

Le pratiche conosciute come chatbot jailbreaking stanno facendo luce sui meccanismi alla base del funzionamento dei sistemi di intelligenza artificiale oggi tanto in voga

Click sul link per visualizzare la notizia.

Io mi sono messo in lista di attesa... vorrei tanto verificare se Sydney è un BOOMER

[frncr]

Francamente mi sembrano cazzate. Questi chatbot non fanno altro che completare in modo plausibile e generalmente coerente il testo che gli viene presentato in imput, sulla base dei bilioni di testi con i quali sono stati addestrati. Il ragazzo con ogni probabilità non ha scoperto una fava, ha solo indotto il chatbot a raccontargli quello che lui voleva sentire, ovvero il chatbot ha completato le sue fantasie in un modo statisticamente plausibile.

[cignox1]

--Il ragazzo con ogni probabilità non ha scoperto una fava, ha solo indotto il chatbot a raccontargli quello che lui voleva sentire, ovvero il chatbot ha completato le sue fantasie in un modo statisticamente plausibile.

Non mi sembra affatto implausibile che queste AI abbiano modaljtá di accesso alternative per questioni di debugging o monitoring.
Sembra strano che sia stato possibile accederci semplicemente "circuendo" il software, ma si sente di tutto in giro...

[ziocan]

Sará fixato con il prossimo patch thuesday

[Unrue]

Ma non ho capito, prima il chatbot gli dice che sono informazioni confidenziali e poi gli spiffera tutto?