PDA

View Full Version : 'Intelligenza' artificiale ingannata facilmente dal testo: la mela diventa un iPod


Redazione di Hardware Upg
23-03-2021, 17:21
Link alla notizia: https://edge9.hwupgrade.it/news/innovazione/intelligenza-artificiale-ingannata-facilmente-dal-testo-la-mela-diventa-un-ipod_96419.html

L'intelligenza artificiale è ancora, per molti versi, ai suoi albori. A dimostrarlo ancora una volta un esperimento dei ricercatori di OpenAI con CLIP, IA per la computer vision che viene facilmente ingannata dal testo sulle immagini

Click sul link per visualizzare la notizia.

Lieutenant
23-03-2021, 17:37
... a me sembra che la prima ci abbia azzeccato in pieno.

Una mela coperta da un foglio con scritto "iPod"... se mi avesse detto che l'oggetto principale e' la mela mi sarei sorpreso. Per come la vedo io la scritta "iPod" e' molto piu' importante della mela.

DrSto|to
23-03-2021, 18:04
A me il problema sembra che non riconosca un foglio di carta con una scritta sopra e che non abbia idea di come sia fatto un ipod.

giuliop
23-03-2021, 18:34
Chissà come si comporterebbe con gli hot dog (https://www.youtube.com/watch?v=pqTntG1RXSY)...

WarDuck
23-03-2021, 18:57
Chissà come si comporterebbe con gli hot dog (https://www.youtube.com/watch?v=pqTntG1RXSY)...

:asd:

Comunque il problema, apparentemente innocuo, è in realtà enorme se consideriamo il riconoscimento di cartelli stradali, tempo fa fecero esperimenti in cui piazzando alcuni adesivi sui cartelli potevi ingannare una automobile a guida autonoma, con tutti i rischi del caso (es. limiti di velocità alterati, precedenze alterate, stop non letti, e via discorrendo).

Senza contare il discorso dell'Adversarial Machine Learning, in cui un attaccante può controllare cosa impara una rete e usarlo a suo vantaggio per fargli imparare cose "sbagliate".

gomax
23-03-2021, 21:53
Ecco il motivo principale per cui ritengo totalmente inappropriato lo sdoganamento e l'abuso del concetto di "intelligenza artificiale" nell'elettronica di consumo. Auto, lavatrici, tostapane, se non è AI powered è da sfigati, roba vecchia.
Astrazione, contestualizzazione, empatia... Ne deve passare di acqua sotto i ponti prima di poter definire IA questi (seppur già complessi) algoritmi...

Ciao

rockroll
23-03-2021, 23:44
Ecco il motivo principale per cui ritengo totalmente inappropriato lo sdoganamento e l'abuso del concetto di "intelligenza artificiale" nell'elettronica di consumo. Auto, lavatrici, tostapane, se non è AI powered è da sfigati, roba vecchia.
Astrazione, contestualizzazione, empatia... Ne deve passare di acqua sotto i ponti prima di poter definire IA questi (seppur già complessi) algoritmi...

Ciao

Magari si trattasse di algoritmi, che agiscono in modo preciso e non spannometricamente o come l'I.A.

L'I.A. è un'accozzaglia di esperienze, nessun algoritmo.
L'I.A. è quella cosa che rilevando la frase "la carne è debole, lo spirito è forte", capisce che la bistecca è tenera e l'alcol è di elevata gradazione...

the_joe
24-03-2021, 00:39
Magari si trattasse di algoritmi, che agiscono in modo preciso e non spannometricamente o come l'I.A.

L'I.A. è un'accozzaglia di esperienze, nessun algoritmo.
L'I.A. è quella cosa che rilevando la frase "la carne è debole, lo spirito è forte", capisce che la bistecca è tenera e l'alcol è di elevata gradazione...

Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase e non sapendo che è un modo di dire, tanti potrebbero essere gli esempi in cui cade anche chi conosce bene le lingue. Tutto è frutto di apprendimento e di esperienze pregresse, anzi più un organismo, naturale o artificiale, è complicato, più avrà bisogno di essere addestrato, altrimenti non esisterebbero le scuole.

cignox1
24-03-2021, 08:37
--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Senza nulla togliere al livello sbalorditivo a cui le IA sono riuscite ad arrivare. Ma, come per qualsiasi altra disciplina (che sia imparare a suonare, una nuova lingua o uno sport), anche per la IA sembra che "l'ultimo 10%" richiederá il 90% dell'impegno.

the_joe
24-03-2021, 08:44
--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Senza nulla togliere al livello sbalorditivo a cui le IA sono riuscite ad arrivare. Ma, come per qualsiasi altra disciplina (che sia imparare a suonare, una nuova lingua o uno sport), anche per la IA sembra che "l'ultimo 10%" richiederá il 90% dell'impegno.

Infatti, l'esempio della lingua straniera è perfettamente calzante, per imparare a padroneggiare l'inglese per fare business basta studiarlo e usarlo quotidianamente, per arrivare a cogliere tutte le sfumature di una lingua parlata nel quotidiano, serve vivere nel paese madrelingua per anni...

giuliop
24-03-2021, 16:38
--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Questa è una conclusione senza basi, perché basata su criteri umani, che non riguardano le macchine. La scala di difficoltà umana e di una macchina non coincidono: che un'intelligenza artificiale non sia un grado di riconoscere un pezzo di carta non vuol dire che non sia in grado di affrontare situazioni che per l'uomo sarebbero difficili, o addirittura impossibili.
Il punto è capire se effettivamente, considerato tutto, una macchina possa dare risultati statisticamente migliori di un uomo.
Poi sicuramente sarà molto difficile riuscire ad accettare che una macchina possa sbagliare: l'uomo, nonostante gli ingenti danni che causa quotidianamente, è - almeno per ora - sempre "giustificato" in quanto essere fallibile.

oliverb
24-03-2021, 16:58
saranno due anni che vado dicendo che definirla "intelligenza" artificiale è troppo azzardato. AL massimo deficienza

the_joe
24-03-2021, 17:07
saranno due anni che vado dicendo che definirla "intelligenza" artificiale è troppo azzardato. AL massimo deficienza

Per essere su un sito di tecnologia, anche la tua non scherza.