Quote:
Originariamente inviato da UtenteHD
Il problema e' che il ragionamento delle IA e' solo logico, anche se gli chiedi di fare una cosa "buona", magari per eseguire quel compito chissa' che fanno (per intenderci), per questo dovrebbero avere delle direttive primarie preimpostate veramente sicure per tutti.
Ma se gia' stanno pensando di farne alcuni come armi.. ciao
|
Anche se la tua è una preoccupazione assolutamente valida e più volte esplorata dalle produzioni fantascientifiche, il problema in questo caso risiede altrove.
I sistemi di apprendimento automatico che comunemente chiamiamo IA, per quanto magnificamente complessi non esercitano nessun tipo di "ragionamento". Infatti le loro risposte possono essere completamente
illogiche.
Ad esempio chatgpt, nonostante sia una feat tecnologica vermente impressionante, al suo core non è altro che un elaborato autocomplete.
Il vero problema di questi strumenti è come sempre l'uso che ne facciamo, delegare le decisioni a un sistema apparentemente intelligente è già un problema di per se.
Quando questi sistemi saranno veramente intelligenti e avranno delle loro ambizioni e obiettivi, questo problema sarà amplificato; specialmente se negli anni precedenti abbiamo lasciato a sistemi automatici la gestione delle nostre vite senza sistemi di controllo