Emma avrebbe dovuto contribuire alla sovranità tecnologica italiana, ma non sa neanche la tabellina del 9

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/em...-9_155335.html

Il modello linguistico Emma-5, presentato da Egomnia come progetto di sovranità tecnologica nazionale, ha collezionato in pochi giorni decine di screenshot di risposte sbagliate e frasi senza senso. Dietro la beffa social ci sono però specifiche tecniche precise, 550,4 milioni di parametri e una finestra di contesto di appena 2.048 token, e una storia aziendale, quella del fondatore Matteo Achilli, che spiega perché lo scetticismo del pubblico non nasca dal nulla

Click sul link per visualizzare la notizia.

[Ripper89]

Sovranità ?

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ?
La solita mentalità europea che vuole far suo un termine reinterpretandone il significato.

Ed a questo si aggiunge la validità del prodotto che sarà sempre enormemente dietro e mai competitivo con quelle USA e cinesi.

[matrix83]

Ah Achilli/Egomnia, quello che google stesso definisce fuffarolo.

[lollo9]

Il caso Emma, in definitiva, non riguarda solo un chatbot da 2,46 gigabyte capace di girare su un portatile qualunque: riguarda anche il modo in cui si comunica al pubblico un progetto tecnologico, e quanto la sproporzione tra parole e specifiche tecniche possa trasformare un'iniziativa, magari onesta nei suoi limiti dichiarati, nella barzelletta del giorno.

Fuffarolo dunque, come dice qualcuno

Che poi sto modello sarebbe pure 1 in pieno work in progress e 2, soprattutto, fatto per il retraining e rinforzo aziendale. Una baseline per costruirci sopra piccoli chatbot.
Come tanti che analizzano le conversazioni dei supporti clienti per estrarre pattern su come gestire i clienti. Usarli nudi e crudi questi modelli danno sempre risultati del genere, eppure alla base i transformer sottostanti sono validi ed ampiamente utilizzati. MiniCPM è leader del mercato nella sua nicchia con parecchi prodotti costruiti sopra, eppure ti dà risultati tipo Emma5 se ci interagisci come LLM

Emma5 è l’ABC di come non proporre un modello. È una specie di semilavorato, non un prodotto per il pubblico così com’è.

[NeroCupo]

Originariamente inviato da Ripper89

Sovranità ?

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ?
La solita mentalità europea che vuole far suo un termine reinterpretandone il significato.

Ed a questo si aggiunge la validità del prodotto che sarà sempre enormemente dietro e mai competitivo con quelle USA e cinesi.

Ma infatti

La Cina:
- Vuole crearsi da sè i chip per l'AI
- Vuole crearsi da sè l'LLM
- Vuole addestrarsi da sè l'LLM

QUELLA è SOVRANITA' TECNOLOGICA NAZIONALE, non queste bojate che oltretutto sono limitatissime se viste in confronto anche al più scrauso degli LLM più conosciuti (ChatGPT 4.0 ha qualcosa come 100 trilioni di parametri)

[Ripper89]

Gira su hardware Nvidia, fine della sovranità.

[Spider Baby]

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?
Non è che un software italiano sia meno italiano perché gira su PC con hardware che arriva da ogni parte del mondo.
Come dire che una Ferrari non è orgoglio italiano se viaggia su una strada tedesca...

[Max Power]

Una bella chiavica

[mozzarello]

Originariamente inviato da Spider Baby

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?
Non è che un software italiano sia meno italiano perché gira su PC con hardware che arriva da ogni parte del mondo.
Come dire che una Ferrari non è orgoglio italiano se viaggia su una strada tedesca...

O il fatto che un auto americana usi freni Brembo

Comunque il concetto di sovranità non è farsi tutto in casa, che non ha senso visto che manco abbiamo petrolio o uranio per dire, ma che le infrastrutture fondamentali non dipendono da terze parti (private o meno). L'idea che ci sia un LLM europeo che gira su server europei è sovranità, indipendentemente che quei server sono fatti con chip montati a Taiwan. Che poi si spera in Europa ci sia gente in grado di disegnare chip per IA migliori delle schede video Nvidia, ottimizzate zero per IA e consumi, dato che chissenefrega, ci devono giocare

[Ripper89]

Originariamente inviato da Spider Baby

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?

La sovranità digitale include entrambi e non a scelta.
Se manca si ritorna ad essere dipendenti da altri.

[mmorselli]

Originariamente inviato da Ripper89

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ?

Secondo me fai un po' di confusione con il concetto di LLM

Un LLM è un Modello, come dice l'ultima lettera, un modello di dati per la precisione. Sono una fila di numeri mostruosamente grande, zero codice.

Su che hardware gira una fila di numeri? Ovviamente qualsiasi, una fila di numeri è un file che risiede su un HD e viene caricato in memoria.

Per capire il concetto devi distinguere:

- addestramento (genera il modello)
- modello (un file statico)
- inferenza (le risposte ai prompt degli utenti)

La sovranità ti serve sul modello. Se è tuo nessuno te lo può chiudere. Ti è utile (ma non indispensabile) per addestramento e inferenza se stai messo come i Cinesi che hanno accesso limitato alle tecnologie americane di punta, ma una volta fatto è fatto, poi il problema si sposta sul modello successivo.

Il codice per l'addestramento e l'inferenza lo scrivi generalmente per poter girare su piattaforme diverse, comunque lo scrivi tu, se hai le nVidia a disposizione e vuoi usare CUDA per velocizzare usalo pure, ma se domani non hai più CUDA usi una libreria diversa. I Cinesi fanno così, usano hardware domestico compensando le minori prestazioni con la quantità. Poi se intendi dire che dobbiamo usare chip europei ci sta in linea teorica, ma a meno che tu non sia in guerra con tutto il mondo quello che non ti vende il tuo nemico di solito è felice di vendertelo il nemico del tuo nemico.

[Ripper89]

Originariamente inviato da mozzarello

O il fatto che un auto americana usi freni Brembo

Comunque il concetto di sovranità non è farsi tutto in casa

Infatti gli USA non sono indipendenti nella produzione di automobili.
L'unica realtà che volendo potrebbe essere indipendente nell'automotive è la Cina.
Sospensioni e freni magari non saranno al pari dei nostri ma almeno loro volendo lo se hanno azienda che produce queste componenti all'interno del loro suolo.

Comunque il concetto di sovranità non è farsi tutto in casa

Hai una strana idea di sovranità tecnologica.

DEFINIZIONE
Sovranità Tecnologica: È la capacità di utilizzare, sviluppare e gestire infrastrutture digitali (come il cloud computing), software e sistemi di Intelligenza Artificiale senza essere vincolati da monopoli di grandi multinazionali.

Che razza di sovranità è se sei dipendente da Jensen Huang e da Taiwan ?!

[mmorselli]

Originariamente inviato da Ripper89

La sovranità digitale include entrambi e non a scelta. Se manca si ritorna ad essere dipendenti da altri.

In teoria sì, ma le affermazioni vanno anche messe a confronto con i rischi reali. Uscendo di casa potresti essere colpito da un meteorite, vero in linea teorica, ma informazione inutile dal punto di vista pratico, perché nel corso della tua vita non succederà.

Sei indipendente anche quando puoi contare su un buon numero di alternative, non serve l'autarchia che tanto cara fu ai fascisti.

[Ripper89]

Originariamente inviato da mmorselli

In teoria sì, ma le affermazioni vanno anche messe a confronto con i rischi reali. Uscendo di casa potresti essere colpito da un meteorite, vero in linea teorica, ma informazione inutile dal punto di vista pratico, perché nel corso della tua vita non succederà.

Sei indipendente anche quando puoi contare su un buon numero di alternative, non serve l'autarchia che tanto cara fu ai fascisti.

Allora non si può parlare di sovranità.
Perchè la definizione di sovranità tecnologica è quella e non si scappa.
Non è che solo perchè non ci piace o non abbiamo i mezzi dobbiamo cambiare la definizione a nostro piacimento.

[mmorselli]

Originariamente inviato da Ripper89

Infatti gli USA non sono indipendenti nella produzione di automobili.

E potresti usarla come leva di ricatto? Tipo "sbloccate Hormuz altrimenti non vi diamo più i freni Brembo" ?

[mmorselli]

Originariamente inviato da Ripper89

Allora non si può parlare di sovranità.
Perchè la definizione di sovranità tecnologica è quella e non si scappa.

La geopolitica non si fa con le definizioni del dizionario, ma con il pragmatismo. Si valutano rischi, costi e benefici di ogni azione. Applicare la sovranità nel modo in cui lo stai intendendo è stupido quanto non farlo, perché è come se stessi pagando 100.000 euro all'anno per assicurare l'auto. Il rischio non vale i costi.

Non che farebbe schifo avere una filiera di produzione avanzata di chip in Europa, ma non la fai in perdita per la sovranità, la fai se ha senso, se nel contesto di mercato è praticabile.

[Ripper89]

Originariamente inviato da mmorselli

E potresti usarla come leva di ricatto? Tipo "sbloccate Hormuz altrimenti non vi diamo più i freni Brembo" ?

Per ogni leva che abbiamo noi, loro ne hanno 10 e ficcate direttamente nel retto.
EDIT : Come non detto, i costruttori statunitensi che producono persino nel loro territorio ce li hanno già

Freni
Wilwood Engineering
Sede e produzione in California. ( SEDE E PRODUZIONE HAI CAPITO ? Roba che l'europeo medio vede di rado )
Produce pinze, dischi, mozzi, pompe freno e kit completi.
Molto diffusa in NASCAR locali, drag racing, autocross, road racing e restomod.
Performance Friction Corporation
Azienda americana nata in South Carolina.
Produce internamente dischi, pinze e soprattutto pastiglie racing.
Fornitore di numerosi team professionistici in endurance, GT e stock car.
Baer Brakes
Produzione e sviluppo negli USA.
Più orientata al mercato performance e muscle car che al motorsport puro.
Strange Engineering
Specializzata nel drag racing.
Produce anche sistemi frenanti specifici per questa disciplina.

SOSPENSIONI
Penske Racing Shocks
Probabilmente il riferimento assoluto americano nel racing professionistico.
King Shocks
Produzione in California.
Molto forte nel fuoristrada da competizione.
FOX Factory
Azienda statunitense con produzione interna e ampia integrazione verticale.
QA1
Produce ammortizzatori e componenti sospensivi in Minnesota.

Originariamente inviato da mmorselli

Secondo me fai un po' di confusione con il concetto di LLM

Un LLM è un Modello, come dice l'ultima lettera, un modello di dati per la precisione. Sono una fila di numeri mostruosamente grande, zero codice.

Su che hardware gira una fila di numeri?

Non interessa a nessuno del codice o del concetto di LLM.
Interessa il prodotto intero, ossia hardware su cui gira il software.
Quindi NO, non deve necessariamente girare su hardware Nvidia, ma se non hai altro non sei sovrano, sarei sempre dipendente, e quindi sempre accondiscendente anche in chiave geopolitica.

[mozzarello]

Originariamente inviato da Ripper89

Infatti gli USA non sono indipendenti nella produzione di automobili.
L'unica realtà che volendo potrebbe essere indipendente nell'automotive è la Cina.
Sospensioni e freni magari non saranno al pari dei nostri ma almeno loro volendo lo se hanno azienda che produce queste componenti all'interno del loro suolo.


Hai una strana idea di sovranità tecnologica.

DEFINIZIONE
Sovranità Tecnologica: È la capacità di utilizzare, sviluppare e gestire infrastrutture digitali (come il cloud computing), software e sistemi di Intelligenza Artificiale senza essere vincolati da monopoli di grandi multinazionali.

Che razza di sovranità è se sei dipendente da Jensen Huang e da Taiwan ?!

E' la stessa della sovranità energitica se poi il petrolio lo devi andare a racattare in africa. Però se differenzi abbastanza non sei dipendente solo dal petrolio, che non hai.

Intanto staccati dalla dipendenza dai modelli americani, che è già qualcosa, i tuoi li addestri anche con nVidia che ti frega? Te le vendono.
Poi li fai girare su server in europa, che ti frega se hanno sopra nvidia? Ormai le hai comprate, mica viene Huang a staccarti la spina.

Intanto non sei più dipendente da google, openai e antrhopic per i modelli, da aws, azure e google per i server. Che poi puoi anche farti delle token farm in casa che utilizzano i modelli open source cinesi, tanto lo hai in casa, pechino non rompe. E spingi le aziende di sw basato su IA europee a usare le tue token farm per fornire i propri servizi.

Questa è sovranità tecnologica.

Come ho scritto, se poi sei in grado anche di disegnarti chip, te li disegni e poi li fai fare a Taiwan, che al momento non ha alternative manco per americani, ci fanno pure le nVidia a taiwan mi pare.

Il concetto base è non essere dipendenti da servizi di paesi terzi, non tanto da prodotti di paesi terzi. I servizi li spengono o aumentano di prezzo, i prodotti una volta comprati son tuoi. Infatti abbiamo già diversi super computer in casa per addestrare modelli.

[AlexSwitch]

Emma non sa neanche la tabellina del 9.... Ahhh annamo bene, proprio bene!!

[Ripper89]

Originariamente inviato da mozzarello

E' la stessa della sovranità energitica se poi il petrolio lo devi andare a racattare in africa. Però se differenzi abbastanza non sei dipendente solo dal petrolio, che non hai.

E in che modo intendi differenziare i prodotti IT visto che vengono tutti da aziende USA o produttori controllati da USA ?
Si c'è un unico player alternativo, sarebbe la Cina, ma nella migliore delle ipotesi i player totali per differenzia sarebbero solamente due.

Ma realizzare un proprio produttore no eh ?
Dovè finito il Mario Draghi di turno che dice "whatever it takes" ?