'Intelligenza' artificiale ingannata facilmente dal testo: la mela diventa un iPod

[Redazione di Hardware Upg]

Link alla notizia: https://edge9.hwupgrade.it/news/inno...pod_96419.html

L'intelligenza artificiale è ancora, per molti versi, ai suoi albori. A dimostrarlo ancora una volta un esperimento dei ricercatori di OpenAI con CLIP, IA per la computer vision che viene facilmente ingannata dal testo sulle immagini

Click sul link per visualizzare la notizia.

[Lieutenant]

... a me sembra che la prima ci abbia azzeccato in pieno.

Una mela coperta da un foglio con scritto "iPod"... se mi avesse detto che l'oggetto principale e' la mela mi sarei sorpreso. Per come la vedo io la scritta "iPod" e' molto piu' importante della mela.

[DrSto|to]

A me il problema sembra che non riconosca un foglio di carta con una scritta sopra e che non abbia idea di come sia fatto un ipod.

[giuliop]

Chissà come si comporterebbe con gli hot dog...

[WarDuck]

Originariamente inviato da giuliop

Chissà come si comporterebbe con gli hot dog...

Comunque il problema, apparentemente innocuo, è in realtà enorme se consideriamo il riconoscimento di cartelli stradali, tempo fa fecero esperimenti in cui piazzando alcuni adesivi sui cartelli potevi ingannare una automobile a guida autonoma, con tutti i rischi del caso (es. limiti di velocità alterati, precedenze alterate, stop non letti, e via discorrendo).

Senza contare il discorso dell'Adversarial Machine Learning, in cui un attaccante può controllare cosa impara una rete e usarlo a suo vantaggio per fargli imparare cose "sbagliate".

[gomax]

Ecco il motivo principale per cui ritengo totalmente inappropriato lo sdoganamento e l'abuso del concetto di "intelligenza artificiale" nell'elettronica di consumo. Auto, lavatrici, tostapane, se non è AI powered è da sfigati, roba vecchia.
Astrazione, contestualizzazione, empatia... Ne deve passare di acqua sotto i ponti prima di poter definire IA questi (seppur già complessi) algoritmi...

Ciao

[rockroll]

Originariamente inviato da gomax

Ecco il motivo principale per cui ritengo totalmente inappropriato lo sdoganamento e l'abuso del concetto di "intelligenza artificiale" nell'elettronica di consumo. Auto, lavatrici, tostapane, se non è AI powered è da sfigati, roba vecchia.
Astrazione, contestualizzazione, empatia... Ne deve passare di acqua sotto i ponti prima di poter definire IA questi (seppur già complessi) algoritmi...

Ciao

Magari si trattasse di algoritmi, che agiscono in modo preciso e non spannometricamente o come l'I.A.

L'I.A. è un'accozzaglia di esperienze, nessun algoritmo.
L'I.A. è quella cosa che rilevando la frase "la carne è debole, lo spirito è forte", capisce che la bistecca è tenera e l'alcol è di elevata gradazione...

[the_joe]

Originariamente inviato da rockroll

Magari si trattasse di algoritmi, che agiscono in modo preciso e non spannometricamente o come l'I.A.

L'I.A. è un'accozzaglia di esperienze, nessun algoritmo.
L'I.A. è quella cosa che rilevando la frase "la carne è debole, lo spirito è forte", capisce che la bistecca è tenera e l'alcol è di elevata gradazione...

Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase e non sapendo che è un modo di dire, tanti potrebbero essere gli esempi in cui cade anche chi conosce bene le lingue. Tutto è frutto di apprendimento e di esperienze pregresse, anzi più un organismo, naturale o artificiale, è complicato, più avrà bisogno di essere addestrato, altrimenti non esisterebbero le scuole.

[cignox1]

--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Senza nulla togliere al livello sbalorditivo a cui le IA sono riuscite ad arrivare. Ma, come per qualsiasi altra disciplina (che sia imparare a suonare, una nuova lingua o uno sport), anche per la IA sembra che "l'ultimo 10%" richiederá il 90% dell'impegno.

[the_joe]

Originariamente inviato da cignox1

--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Senza nulla togliere al livello sbalorditivo a cui le IA sono riuscite ad arrivare. Ma, come per qualsiasi altra disciplina (che sia imparare a suonare, una nuova lingua o uno sport), anche per la IA sembra che "l'ultimo 10%" richiederá il 90% dell'impegno.

Infatti, l'esempio della lingua straniera è perfettamente calzante, per imparare a padroneggiare l'inglese per fare business basta studiarlo e usarlo quotidianamente, per arrivare a cogliere tutte le sfumature di una lingua parlata nel quotidiano, serve vivere nel paese madrelingua per anni...

[giuliop]

Originariamente inviato da cignox1

--Che è la stessa cosa che potrebbe capire uno straniero leggendo questa frase
Ecco perché prima di dare compiti delicati a qualcuno ti assicuri che sia preparato adeguatamente.
Ma se alle IA piú avanzate, quelle a cui vorremmo affidare la nostra vita, basta un adesivo o un foglio di carta per "cascare", allora preferisco ancora guidarla la mia auto.

Questa è una conclusione senza basi, perché basata su criteri umani, che non riguardano le macchine. La scala di difficoltà umana e di una macchina non coincidono: che un'intelligenza artificiale non sia un grado di riconoscere un pezzo di carta non vuol dire che non sia in grado di affrontare situazioni che per l'uomo sarebbero difficili, o addirittura impossibili.
Il punto è capire se effettivamente, considerato tutto, una macchina possa dare risultati statisticamente migliori di un uomo.
Poi sicuramente sarà molto difficile riuscire ad accettare che una macchina possa sbagliare: l'uomo, nonostante gli ingenti danni che causa quotidianamente, è - almeno per ora - sempre "giustificato" in quanto essere fallibile.

[oliverb]

saranno due anni che vado dicendo che definirla "intelligenza" artificiale è troppo azzardato. AL massimo deficienza

[the_joe]

Originariamente inviato da oliverb

saranno due anni che vado dicendo che definirla "intelligenza" artificiale è troppo azzardato. AL massimo deficienza

Per essere su un sito di tecnologia, anche la tua non scherza.