Link alla notizia: https://www.hwupgrade.it/news/web/emma-avrebbe-dovuto-contribuire-alla-sovranita-tecnologica-italiana-ma-non-sa-neanche-la-tabellina-del-9_155335.html

Il modello linguistico Emma-5, presentato da Egomnia come progetto di sovranità tecnologica nazionale, ha collezionato in pochi giorni decine di screenshot di risposte sbagliate e frasi senza senso. Dietro la beffa social ci sono però specifiche tecniche precise, 550,4 milioni di parametri e una finestra di contesto di appena 2.048 token, e una storia aziendale, quella del fondatore Matteo Achilli, che spiega perché lo scetticismo del pubblico non nasca dal nulla

Click sul link per visualizzare la notizia.

Sovranità ?

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ? :read:
La solita mentalità europea che vuole far suo un termine reinterpretandone il significato.

Ed a questo si aggiunge la validità del prodotto che sarà sempre enormemente dietro e mai competitivo con quelle USA e cinesi.

Ah Achilli/Egomnia, quello che google stesso definisce fuffarolo.

https://i.postimg.cc/6BjGTyqX/image.png

Il caso Emma, in definitiva, non riguarda solo un chatbot da 2,46 gigabyte capace di girare su un portatile qualunque: riguarda anche il modo in cui si comunica al pubblico un progetto tecnologico, e quanto la sproporzione tra parole e specifiche tecniche possa trasformare un'iniziativa, magari onesta nei suoi limiti dichiarati, nella barzelletta del giorno.

Fuffarolo dunque, come dice qualcuno

Che poi sto modello sarebbe pure 1 in pieno work in progress e 2, soprattutto, fatto per il retraining e rinforzo aziendale. Una baseline per costruirci sopra piccoli chatbot.
Come tanti che analizzano le conversazioni dei supporti clienti per estrarre pattern su come gestire i clienti. Usarli nudi e crudi questi modelli danno sempre risultati del genere, eppure alla base i transformer sottostanti sono validi ed ampiamente utilizzati. MiniCPM è leader del mercato nella sua nicchia con parecchi prodotti costruiti sopra, eppure ti dà risultati tipo Emma5 se ci interagisci come LLM

Emma5 è l’ABC di come non proporre un modello. È una specie di semilavorato, non un prodotto per il pubblico così com’è.

Sovranità ?

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ? :read:
La solita mentalità europea che vuole far suo un termine reinterpretandone il significato.

Ed a questo si aggiunge la validità del prodotto che sarà sempre enormemente dietro e mai competitivo con quelle USA e cinesi.Ma infatti :rolleyes:

La Cina:
- Vuole crearsi da sè i chip per l'AI
- Vuole crearsi da sè l'LLM
- Vuole addestrarsi da sè l'LLM

QUELLA è SOVRANITA' TECNOLOGICA NAZIONALE, non queste bojate che oltretutto sono limitatissime se viste in confronto anche al più scrauso degli LLM più conosciuti (ChatGPT 4.0 ha qualcosa come 100 trilioni di parametri) :ciapet:

Gira su hardware Nvidia, fine della sovranità.

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?
Non è che un software italiano sia meno italiano perché gira su PC con hardware che arriva da ogni parte del mondo.
Come dire che una Ferrari non è orgoglio italiano se viaggia su una strada tedesca...

Una bella chiavica :asd:

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?
Non è che un software italiano sia meno italiano perché gira su PC con hardware che arriva da ogni parte del mondo.
Come dire che una Ferrari non è orgoglio italiano se viaggia su una strada tedesca...

O il fatto che un auto americana usi freni Brembo

Comunque il concetto di sovranità non è farsi tutto in casa, che non ha senso visto che manco abbiamo petrolio o uranio per dire, ma che le infrastrutture fondamentali non dipendono da terze parti (private o meno). L'idea che ci sia un LLM europeo che gira su server europei è sovranità, indipendentemente che quei server sono fatti con chip montati a Taiwan. Che poi si spera in Europa ci sia gente in grado di disegnare chip per IA migliori delle schede video Nvidia, ottimizzate zero per IA e consumi, dato che chissenefrega, ci devono giocare

Mi riferisco ai commenti: riuscite a distinguere software da hardware? Perché mettete insieme le due cose?

La sovranità digitale include entrambi e non a scelta.
Se manca si ritorna ad essere dipendenti da altri.

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ? :read:


Secondo me fai un po' di confusione con il concetto di LLM

Un LLM è un Modello, come dice l'ultima lettera, un modello di dati per la precisione. Sono una fila di numeri mostruosamente grande, zero codice.

Su che hardware gira una fila di numeri? Ovviamente qualsiasi, una fila di numeri è un file che risiede su un HD e viene caricato in memoria.

Per capire il concetto devi distinguere:

- addestramento (genera il modello)
- modello (un file statico)
- inferenza (le risposte ai prompt degli utenti)

La sovranità ti serve sul modello. Se è tuo nessuno te lo può chiudere. Ti è utile (ma non indispensabile) per addestramento e inferenza se stai messo come i Cinesi che hanno accesso limitato alle tecnologie americane di punta, ma una volta fatto è fatto, poi il problema si sposta sul modello successivo.

Il codice per l'addestramento e l'inferenza lo scrivi generalmente per poter girare su piattaforme diverse, comunque lo scrivi tu, se hai le nVidia a disposizione e vuoi usare CUDA per velocizzare usalo pure, ma se domani non hai più CUDA usi una libreria diversa. I Cinesi fanno così, usano hardware domestico compensando le minori prestazioni con la quantità. Poi se intendi dire che dobbiamo usare chip europei ci sta in linea teorica, ma a meno che tu non sia in guerra con tutto il mondo quello che non ti vende il tuo nemico di solito è felice di vendertelo il nemico del tuo nemico.

O il fatto che un auto americana usi freni Brembo

Comunque il concetto di sovranità non è farsi tutto in casa
Infatti gli USA non sono indipendenti nella produzione di automobili.
L'unica realtà che volendo potrebbe essere indipendente nell'automotive è la Cina.
Sospensioni e freni magari non saranno al pari dei nostri ma almeno loro volendo lo se hanno azienda che produce queste componenti all'interno del loro suolo.

Comunque il concetto di sovranità non è farsi tutto in casa
Hai una strana idea di sovranità tecnologica.

DEFINIZIONE
Sovranità Tecnologica: È la capacità di utilizzare, sviluppare e gestire infrastrutture digitali (come il cloud computing), software e sistemi di Intelligenza Artificiale senza essere vincolati da monopoli di grandi multinazionali.

Che razza di sovranità è se sei dipendente da Jensen Huang e da Taiwan ?! :read:

La sovranità digitale include entrambi e non a scelta. Se manca si ritorna ad essere dipendenti da altri.

In teoria sì, ma le affermazioni vanno anche messe a confronto con i rischi reali. Uscendo di casa potresti essere colpito da un meteorite, vero in linea teorica, ma informazione inutile dal punto di vista pratico, perché nel corso della tua vita non succederà.

Sei indipendente anche quando puoi contare su un buon numero di alternative, non serve l'autarchia che tanto cara fu ai fascisti.

In teoria sì, ma le affermazioni vanno anche messe a confronto con i rischi reali. Uscendo di casa potresti essere colpito da un meteorite, vero in linea teorica, ma informazione inutile dal punto di vista pratico, perché nel corso della tua vita non succederà.

Sei indipendente anche quando puoi contare su un buon numero di alternative, non serve l'autarchia che tanto cara fu ai fascisti.Allora non si può parlare di sovranità.
Perchè la definizione di sovranità tecnologica è quella e non si scappa.
Non è che solo perchè non ci piace o non abbiamo i mezzi dobbiamo cambiare la definizione a nostro piacimento.

Infatti gli USA non sono indipendenti nella produzione di automobili.

E potresti usarla come leva di ricatto? Tipo "sbloccate Hormuz altrimenti non vi diamo più i freni Brembo" ?

Allora non si può parlare di sovranità.
Perchè la definizione di sovranità tecnologica è quella e non si scappa.


La geopolitica non si fa con le definizioni del dizionario, ma con il pragmatismo. Si valutano rischi, costi e benefici di ogni azione. Applicare la sovranità nel modo in cui lo stai intendendo è stupido quanto non farlo, perché è come se stessi pagando 100.000 euro all'anno per assicurare l'auto. Il rischio non vale i costi.

Non che farebbe schifo avere una filiera di produzione avanzata di chip in Europa, ma non la fai in perdita per la sovranità, la fai se ha senso, se nel contesto di mercato è praticabile.

E potresti usarla come leva di ricatto? Tipo "sbloccate Hormuz altrimenti non vi diamo più i freni Brembo" ?
Per ogni leva che abbiamo noi, loro ne hanno 10 e ficcate direttamente nel retto.
EDIT : Come non detto, i costruttori statunitensi che producono persino nel loro territorio ce li hanno già

Freni
Wilwood Engineering
Sede e produzione in California. ( SEDE E PRODUZIONE HAI CAPITO ? Roba che l'europeo medio vede di rado )
Produce pinze, dischi, mozzi, pompe freno e kit completi.
Molto diffusa in NASCAR locali, drag racing, autocross, road racing e restomod.
Performance Friction Corporation
Azienda americana nata in South Carolina.
Produce internamente dischi, pinze e soprattutto pastiglie racing.
Fornitore di numerosi team professionistici in endurance, GT e stock car.
Baer Brakes
Produzione e sviluppo negli USA.
Più orientata al mercato performance e muscle car che al motorsport puro.
Strange Engineering
Specializzata nel drag racing.
Produce anche sistemi frenanti specifici per questa disciplina.

SOSPENSIONI
Penske Racing Shocks
Probabilmente il riferimento assoluto americano nel racing professionistico.
King Shocks
Produzione in California.
Molto forte nel fuoristrada da competizione.
FOX Factory
Azienda statunitense con produzione interna e ampia integrazione verticale.
QA1
Produce ammortizzatori e componenti sospensivi in Minnesota.

Secondo me fai un po' di confusione con il concetto di LLM

Un LLM è un Modello, come dice l'ultima lettera, un modello di dati per la precisione. Sono una fila di numeri mostruosamente grande, zero codice.

Su che hardware gira una fila di numeri?
Non interessa a nessuno del codice o del concetto di LLM.
Interessa il prodotto intero, ossia hardware su cui gira il software.
Quindi NO, non deve necessariamente girare su hardware Nvidia, ma se non hai altro non sei sovrano, sarei sempre dipendente, e quindi sempre accondiscendente anche in chiave geopolitica.

Infatti gli USA non sono indipendenti nella produzione di automobili.
L'unica realtà che volendo potrebbe essere indipendente nell'automotive è la Cina.
Sospensioni e freni magari non saranno al pari dei nostri ma almeno loro volendo lo se hanno azienda che produce queste componenti all'interno del loro suolo.


Hai una strana idea di sovranità tecnologica.

DEFINIZIONE
Sovranità Tecnologica: È la capacità di utilizzare, sviluppare e gestire infrastrutture digitali (come il cloud computing), software e sistemi di Intelligenza Artificiale senza essere vincolati da monopoli di grandi multinazionali.

Che razza di sovranità è se sei dipendente da Jensen Huang e da Taiwan ?! :read:

E' la stessa della sovranità energitica se poi il petrolio lo devi andare a racattare in africa. Però se differenzi abbastanza non sei dipendente solo dal petrolio, che non hai.

Intanto staccati dalla dipendenza dai modelli americani, che è già qualcosa, i tuoi li addestri anche con nVidia che ti frega? Te le vendono.
Poi li fai girare su server in europa, che ti frega se hanno sopra nvidia? Ormai le hai comprate, mica viene Huang a staccarti la spina.

Intanto non sei più dipendente da google, openai e antrhopic per i modelli, da aws, azure e google per i server. Che poi puoi anche farti delle token farm in casa che utilizzano i modelli open source cinesi, tanto lo hai in casa, pechino non rompe. E spingi le aziende di sw basato su IA europee a usare le tue token farm per fornire i propri servizi.

Questa è sovranità tecnologica.

Come ho scritto, se poi sei in grado anche di disegnarti chip, te li disegni e poi li fai fare a Taiwan, che al momento non ha alternative manco per americani, ci fanno pure le nVidia a taiwan mi pare.

Il concetto base è non essere dipendenti da servizi di paesi terzi, non tanto da prodotti di paesi terzi. I servizi li spengono o aumentano di prezzo, i prodotti una volta comprati son tuoi. Infatti abbiamo già diversi super computer in casa per addestrare modelli.

Emma non sa neanche la tabellina del 9.... Ahhh annamo bene, proprio bene!! :O :rolleyes:

E' la stessa della sovranità energitica se poi il petrolio lo devi andare a racattare in africa. Però se differenzi abbastanza non sei dipendente solo dal petrolio, che non hai.
E in che modo intendi differenziare i prodotti IT visto che vengono tutti da aziende USA o produttori controllati da USA ?
Si c'è un unico player alternativo, sarebbe la Cina, ma nella migliore delle ipotesi i player totali per differenzia sarebbero solamente due.

Ma realizzare un proprio produttore no eh ?
Dovè finito il Mario Draghi di turno che dice "whatever it takes" ?

Porca p....non sono riuscito a parlarle ! :doh:

Sapete quando tornerà online ?!?

Dopo l'estate, per gli esami di riparazione ?!? :sofico:

Non interessa a nessuno del codice o del concetto di LLM.
Interessa il prodotto intero, ossia hardware su cui gira il software.
Quindi NO, non deve necessariamente girare su hardware Nvidia, ma se non hai altro non sei sovrano, sarei sempre dipendente, e quindi sempre accondiscendente anche in chiave geopolitica.

Sono concetti che interessano a chi deve decidere se mettere sul piatto 2000 miliardi per un rischioso progetto di indipendenza tecnologica totale.

Non avere hardware americano non significa non avere altro, ci sono altri Paesi più avanti di noi in quei settori che saranno disposti a vendercelo.

Il problema nei tuoi ragionamento è che sono totalmente scollegati dalla realtà, non è ciò che desideri ad essere sbagliato, a chi non piacerebbe non dover dipendere da nessuno? Ma nella pratica è impossibile per cui si ritiene sufficiente avere buone alternative.

Ma realizzare un proprio produttore no eh ?

Ma che significa "realizzare un proprio produttore"? Lo realizza chi? Chi è il soggetto, l'Europa? E il sovrano onnipotente del regno d'Europa chi è?


Dovè finito il Mario Draghi di turno che dice "whatever it takes" ?

Draghi disse questa frase da presidente BCE, con "qualsiasi cosa" non intendeva realmente qualsiasi cosa, non ne aveva il potere, ma "qualsiasi cosa tra quelle che può fare la BCE per sostenere l'Euro", cioè modificare il tasso d'interesse e acquistare titoli di Stato, sostanzialmente.

A te serve qualcuno molto più in alto di dove stava Draghi in quel momento.... Quali Dei preghi, di solito? Eviterei quelli Cristiani che non amano fare miracoli appariscenti e punterei dritto su quelli Norreni.

Sono concetti che interessano a chi deve decidere se mettere sul piatto 2000 miliardi per un rischioso progetto di indipendenza tecnologica totale.

Non avere hardware americano non significa non avere altro, ci sono altri Paesi più avanti di noi in quei settori che saranno disposti a vendercelo.

Il problema nei tuoi ragionamento è che sono totalmente scollegati dalla realtà, non è ciò che desideri ad essere sbagliato, a chi non piacerebbe non dover dipendere da nessuno? Ma nella pratica è impossibile per cui si ritiene sufficiente avere buone alternative.

Se vuoi la mia hahi ragione su alcune cose e torto su altre.
Per esempio buttarci sopra a livello europeo 2000 miliardi significa in realtà investirne solo 500 ( perchè almeno 1500 ritornano in tassazione tra diretta ed indiretta).
500 miliardi non sono pochi, ma quanto costa temere che i miliardi spesi in f35 potrebbero diventare di colpo dei soprammobili? L'indipendenza tecnologica puo non essere conveniente sui bilanci puri, ma se sommi tutte le variabili, incluse le quelle apparentemente più remote, vedrai che i numeri cambiano

Per esempio buttarci sopra a livello europeo 2000 miliardi significa in realtà investirne solo 500 ( perchè almeno 1500 ritornano in tassazione tra diretta ed indiretta).

2000 miliardi è una cifra buttata a caso per indicare un investimento gigantesco, ma il denaro in tasse lo prendi se il progetto fa utili, cosa che difficilmente succederebbe dal momento che la ragione per cui non lo facciamo è che non saremmo competitivi. Un conto è avere un proprio prodotto e magari usarlo per infrastrutture strategiche, un altro è obbligare gli Europei a comprarlo, io come cittadino sarò comunque libero di comprare una GPU nVidia o una CPU AMD se mi conviene. Se vuoi spingere le imprese private a basare i propri progetti sul tuo prodotto devi incentivarlo, cioè finanziarlo in perdita.

Se fosse così semplice non staremmo a parlare di problemi con l'automotive, basterebbe obbligare gli Europei a comprare solo auto Europee.

prodotto italiano ? a parte il cibo e poche eccezioni siamo il paese del "tutto fumo e ..." il paese dell'imprenditorialità "creativa", non mi fiderei mai di un prodotto "made in italy", perchè è solo moda e sovrapprezzo per roba che dal cinese le paghi 1/10. Basti pensare che l'imprenditoria qui si è venduta tutto a tutti i livelli, l'industria è deceduta da anni e son rimaste le briciole con ammortizzatori sociali.

prodotto italiano ?

Si parlava di prodotto Europeo, non esageriamo con i sovranismi :D

Italiano sarebbe oltremodo complicato, sia per le cifre in gioco, sia perché finanziare aziende nazionali direttamente diventa aiuto di Stato, che è sostanzialmente vietato perché anticoncorrenziale rispetto agli altri Stati Membri. Abbiamo tutti la stessa moneta per cui gli Stati più ricchi potrebbero facilmente rendere più competitive le proprie aziende pompando denaro pubblico buttando fuori mercato quelle degli Stati più poveri.

In Europa abbiamo Mistral come azienda ben posizionata in campo AI, ma sviluppare un modello di frontiera è più complicato per noi, che siamo meno propensi a rubare senza ritegno i dati del mondo senza permesso. Non significa però che non potremmo lavorare di reinforcement learning sui modelli di chi l'ha già fatto, ovviamente quelli Cinesi, gli unici open tra quelli di frontiera.

Mistral si è anche già proposta in tal senso, il problema è ovviamente più politico che di denaro.

la differenza la fanno i soldi, usa e cina investono centinania di miliardi, qua in europa vogliamo fare la "guerra" con mazzafionde e bastoni

2000 miliardi è una cifra buttata a caso per indicare un investimento gigantesco, ma il denaro in tasse lo prendi se il progetto fa utili, cosa che difficilmente succederebbe dal momento che la ragione per cui non lo facciamo è che non saremmo competitivi. Un conto è avere un proprio prodotto e magari usarlo per infrastrutture strategiche, un altro è obbligare gli Europei a comprarlo, io come cittadino sarò comunque libero di comprare una GPU nVidia o una CPU AMD se mi conviene. Se vuoi spingere le imprese private a basare i propri progetti sul tuo prodotto devi incentivarlo, cioè finanziarlo in perdita.

Se fosse così semplice non staremmo a parlare di problemi con l'automotive, basterebbe obbligare gli Europei a comprare solo auto Europee.
la cifra è circa quella anche se il progetto fosse un fallimento, i soldi devono essere usati in qualche modo, se il volano poi si mette in moto il ritorno in tassazione (diretta ed indiretta) diventa molto più alta dei 2000 miliardi investiti ( capisco bene l'esagerazione delle cifre e le conssidero come X e non come cifra reale necessaria, che potrebbe comunque esssere insufficiente se si tende a semplificare la questione)

la differenza la fanno i soldi, usa e cina investono centinania di miliardi, qua in europa vogliamo fare la "guerra" con mazzafionde e bastoni

Si continua a fare grande confusione su queste cose, ovunque si parla di Stati e soldi come se fossimo in una realtà parallela in cui il ruolo di pubblico e privato si possono intercambiare a piacere nei discorsi.

Gli USA, cioè il Governo Federale, non investe proprio nulla, al massimo negli USA, ma sono sempre capitali privati, che possono venire anche dall'estero. Queste aziende nascono negli USA perché c'è un ambiente economicamente favorevole, sono ricchi. OpenAI e Anthropic sono nate da capitali interamente privati, il Governo Federale al massimo le sostiene con contratti per la difesa e la pubblica amministrazione, ma sono vendite, non finanziamenti, e non incidono più di tanto nel totale.

In Cina il Governo è più aperto agli aiuti di Stato, ma attenzione a credere che le aziende AI siano emanazioni dirette di Pechino, anche lì queste imprese nascono principalmente da capitale privato. DeepSeek è stata finanziata con 7 miliardi interamente privati, metà dei quali sono arrivati dal fondatore che è un miliardario già fondatore di un hedge fund di successo, e poi da altri grandi attori privati come Tencent o CATL. A differenza degli USA qui il Governo può intervenire direttamente nel finanziamento delle imprese, ma in DeepSeek sono entrati 150 milioni dal Governo, non una quota così rilevante del totale, che rimane privata.

In Europa dovrebbe funzionare in modo simile, prima crei l'azienda con capitale privato e dimostri che ha valore, poi puoi partecipare a bandi di finanziamento pubblici che danno ulteriore impulso.

Porca p....non sono riuscito a parlarle ! :doh:

Sapete quando tornerà online ?!?

Dopo l'estate, per gli esami di riparazione ?!? :sofico:

Ma guardate che EMMA è un diminutivo.
Il nome completo è EMMACHECCAZZODICI.



..mi pre abbia anche fatto un provino per un film di Pina Sinalefe.

Non avere hardware americano non significa non avere altro, ci sono altri Paesi più avanti di noi in quei settori che saranno disposti a vendercelo.
Esistono molti paesi che producono CPU e GPU per HPC e Datacenters ?
Se togliamo l'hardware di provenienza americana, rimane solo la Cina.

Se togliamo l'hardware di provenienza americana, rimane solo la Cina.

Sì, ma c'è una differenza rispetto ad un modello AI, l'hardware lo compri, non è un servizio on-demand

Una volta che hai comprato le GPU sono tue, se la situazione geopolitica dovesse cambiare le conseguenze si vedrebbero dopo diversi anni, ci sarebbe tutto il tempo di studiare una strategia ottimale. Piuttosto questo hardware dovremmo comprarlo, questo sì.

I modelli AI forniti on-demand, invece, possono essere spenti totalmente dalla sera alla mattina, come è stato fatto per Claude Fable e Mythos

Con i modelli Cinesi open weight va già diversamente, la Cina potrebbe decidere di tenersi i prossimi, ma quelli già distribuiti non te li può togliere nessuno, per questo comportano di per sé già una sovranità maggiore rispetto ai modelli americani.

Se togliamo l'hardware di provenienza americana, rimane solo la Cina.

Comunque esiste anche la Corea, le fab di Samsung sono tra le più avanzate al mondo.

Taiwan inoltre è Cinese dal punto di vista geografico, ma produce per chi vuole, a parte la Cina stessa a cui è vietato l'accesso alle macchine di ASML. Sarebbe comico che gli USA o la Cina ci impedissero di produrre cose nostre a Taiwan, dal momento che tutti i macchinari sono Europei. Gli USA possono toglierti l'accesso alle GPU americane, non al processo produttivo di ASML

Comunque esiste anche la Corea, le fab di Samsung sono tra le più avanzate al mondo.

Taiwan inoltre è Cinese dal punto di vista geografico, ma produce per chi vuole. Sarebbe comico che gli USA o la Cina ci impedissero di produrre cose nostre a Taiwan, dal momento che tutti i macchinari sono Europei.
Samsung grande produttore ma non ha una linea di proprie CPU e GPU ad alte prestazioni per Datacenters e HPC.
Quelli prodotti sono tutti statunitensi, così come la maggior parte della loro produzione è per aziende USA.

Taiwan stesso discorso anzi peggio, Taiwan produce soltanto non progetta nulla, e quindi non ha una sua linea di prodotti finiti.

TSMC produce per chi vuole ? E il ban verso la Cina l'ha deciso Taiwan ?
Taiwan fa quello che gli dicono gli USA visto che la sopravvivenza di Taiwan stessa è in mano agli stati uniti.
Un altra realtà dove l'UE non conta una mazza.


Persino i Japponesi, che negli anni 90 sembravano dover essere leader nell'IT, oggi hanno tutto hardware statunitense nei loro prodotti o basati su essi, basta aprire una Playstation per trovare un AMD, un Bravia o un Xperia per trovare lo snapdragon di turno.
VGA, CPU ? mai viste.

Samsung grande produttore ma non ha una linea di proprie CPU e GPU ad alte prestazioni per Datacenters e HPC.


Samsung ha il suo progetto per inferenza AI ad alta efficienza chiamato MACH1, ma non gliene frega nulla di produrlo al momento perché fa più soldi con i chip di Google


TSMC produce per chi vuole ? E il ban verso la Cina l'ha deciso Taiwan ?
Taiwan fa quello che gli dicono gli USA visto che la sopravvivenza di Taiwan stessa è in mano agli stati uniti.
Un altra realtà dove l'UE non conta una mazza.


L'ho scritto del ban verso la Cina, no? Ma esiste perché c'è un accordo congiunto tra USA e ASML, nessuno dei due può fare a meno dell'altro. Gli USA possono vietare l'esportazione in Europa di GPU nVidia se vogliono, ma non possono vietare a noi di usare le fonderie di Taiwan, perché semplicemente se ciò accadesse noi potremmo vietarlo a loro.

Taiwan l'ho citato come alternativa a creare in Europa una filiera di produzione di chip finiti, ovviamente dovremmo progettarli noi, ma non è che non lo facciamo eh? L'Europa ha centri d'eccellenza per la progettazione sub 2nm, ma avere un prodotto finito e sul mercato è una cosa diversa, per ora non ci è mai convenuto, l'idea è che le cose cambino un po' da qui al 2030.

https://digital-strategy.ec.europa.eu/en/policies/european-chips-act

in questa pagina trovi anche una bella lista di aziende Europee piuttosto rilevanti nel settore, tra cui la "nostra" STM

Ripper89 ma dove la tracci la linea? Un acceleratore NVIDIA è americano, siamo tutti d’accordo, ma perché lo è?

Se guardiamo la filiera, la litografia mondiale dipende dall'olandese ASML. incisione e deposizione chimica di precisione le fanno i giapponesi di Tokyo Electron. wafer di silicio e i fotoresist chimici li compri da Shin etsu o comesichiama e JSR (sempre Giappone). gas ultrapuri arrivano da Linde (Germania/Irlanda) e Air Liquide (Francia). il taglio pre-packaging del chip avvengono in Vietnam, Malesia o Cina. Persino Intel e Samsung, che hanno processi produttivi migliori sul mercato per l'HPC, dipendono da questa rete

eppure consideri NVIDIA o Intel aziende "sovrane" americane, anche se dipendono totalmente dall'estero per esistere fisicamente. perché allora Mistral non dovrebbe essere una realtà strategica ed europea solo perché usa hardware NVIDIA, librerie software scritte magari da un tedesco e un sistema operativo figlio di un geek finlandese? la tua è una linea del tutto arbitraria

dov’è che decidi cosa è "sovrano"? sul fatto di trasformare semilavorati in prodotti finiti? Beh, allora vale anche per il software. Senza il codice, una H100 è solo un bellissimo e costosissimo fermacarte. per Mistral la H100 è un semilavorato, esattamente come lo è per i cloud provider francesi, Scaleway/Iliad o Dassault, che quel ferro lo accendono e lo gestiscono. Mistral crea e vende il valore che sta sopra quel ferro: i modelli, i pesi, l'algoritmo.
idem per chiunque faccia AI o software. Huggingface è roba francotedesca, per dire.

Sovranità non è autarchia, quella è solo il sogno mitico e bagnato di qualche nostalgico di un mondo che mai è esistito
Sovranità è controllare la proprietà intellettuale e la catena del valore relativamente al prodotto che vendi. Altrimenti seguendo il tuo ragionamento, l'unica entità "sovrana" al mondo sarebbe la cava di quarzo da cui estraggono il silicio grezzo.

Sovranità ?

L'hardware su cui gira sta roba in cosa consiste ? Non saranno mica componenti USA vero ? :read:
La solita mentalità europea che vuole far suo un termine reinterpretandone il significato.

Ed a questo si aggiunge la validità del prodotto che sarà sempre enormemente dietro e mai competitivo con quelle USA e cinesi.

ma infatti, tutti a fare i sovranisti su Dell, HP, Cisco, Extreme Net, Fortinet, Paloalto, devo andare avanti?
Qualcosa MADE IN EU vero?
O fai come Mr Orange co Huawei oppure ti attacchi...

ma infatti, tutti a fare i sovranisti su Dell, HP, Cisco, Extreme Net, Fortinet, Paloalto, devo andare avanti?
Qualcosa MADE IN EU vero?
O fai come Mr Orange co Huawei oppure ti attacchi...

Il sovranismo è roba del secolo scorso, la mia generazione ha perso.
Quel che si deve fare è essere indipendenti da servizi, almeno dovrebbero per me esserlo i membri della UE.

Quindi, quel che compri lo compri da chi lo produce, come funziona da sempre ovunque, il servizio che è strategico per l'infrastruttura economica e pure militare, non può essere dipendente in qualsiasi momento dalle bizze di un paese straniero o da una multinazionale quotata in borsa che ha sede in un paese straniero. Per me.

DI base, niente di strategico dovrebbe girare su server fuori dalla UE o usare software di cui l'UE non ha il controllo, meglio se è sviluppatop da aziende europee. Questo soprattutto per amministrazioni, ma sarebbe bello fosse disponibile anche per i privati.

Ripper89 ma dove la tracci la linea? Un acceleratore NVIDIA è americano, siamo tutti d’accordo, ma perché lo è?

Se guardiamo la filiera, la litografia mondiale dipende dall'olandese ASML. incisione e deposizione chimica di precisione le fanno i giapponesi di Tokyo Electron. wafer di silicio e i fotoresist chimici li compri da Shin etsu o comesichiama e JSR (sempre Giappone). gas ultrapuri arrivano da Linde (Germania/Irlanda) e Air Liquide (Francia). il taglio pre-packaging del chip avvengono in Vietnam, Malesia o Cina. Persino Intel e Samsung, che hanno processi produttivi migliori sul mercato per l'HPC, dipendono da questa rete

eppure consideri NVIDIA o Intel aziende "sovrane" americane, anche se dipendono totalmente dall'estero per esistere fisicamente. perché allora Mistral non dovrebbe essere una realtà strategica ed europea solo perché usa hardware NVIDIA, librerie software scritte magari da un tedesco e un sistema operativo figlio di un geek finlandese? la tua è una linea del tutto arbitraria

dov’è che decidi cosa è "sovrano"? sul fatto di trasformare semilavorati in prodotti finiti? Beh, allora vale anche per il software. Senza il codice, una H100 è solo un bellissimo e costosissimo fermacarte. per Mistral la H100 è un semilavorato, esattamente come lo è per i cloud provider francesi, Scaleway/Iliad o Dassault, che quel ferro lo accendono e lo gestiscono. Mistral crea e vende il valore che sta sopra quel ferro: i modelli, i pesi, l'algoritmo.
idem per chiunque faccia AI o software. Huggingface è roba francotedesca, per dire.

Sovranità non è autarchia, quella è solo il sogno mitico e bagnato di qualche nostalgico di un mondo che mai è esistito
Sovranità è controllare la proprietà intellettuale e la catena del valore relativamente al prodotto che vendi. Altrimenti seguendo il tuo ragionamento, l'unica entità "sovrana" al mondo sarebbe la cava di quarzo da cui estraggono il silicio grezzo.

La sovranità è, appunto, avere il controllo ( relativo ) della filiera dell'hardware strategico e l'imposizione delle architetture.
Se vogliamo poi allargare il ragionamento su basi economiche, la sovranità è di chi mette in campo gli investimenti per finanziare tutto il castello digitale AI.
Senza le migliaia di miliardi da " bruciare " in questa fornace non si andrebbe da nessuna parte.

Un LLM .. Sono una fila di numeri mostruosamente grande, zero codice.


Come delirio non c'è male.
Il codice è talmente piu' importante del modello che il modello te lo danno, il codice sorgente no.

Come delirio non c'è male.
Il codice è talmente piu' importante del modello che il modello te lo danno, il codice sorgente no.

Intendi per i modelli chiusi come gpt o claude, non per quelli opensource cinesi giusto? Per quelli ti danno sia il codice che il modello mi pare.

Ti pare male... Anche quelli ti danno solo un bytecode compatibile con ollama e simile...

Come delirio non c'è male.
Il codice è talmente piu' importante del modello che il modello te lo danno, il codice sorgente no.

Ma non è vero, tanti modelli di danno tutto, codice di addestramento e codice per l'inferenza. Modelli di frontiera come DeepSeek oltre a rilasciare l'inferenza e tutti i paper scientifici che descrivono il funzionamento del modello rilasciano anche dei framework di training e recipe, rilasciare tutta la suite di pre-training non avrebbe molto senso, perché sia usabile dovresti avere anche i dati con cui è stato addestrato il modello, e questo è materialmente impossibile, ma che te ne fai? Se sviluppi una tua versione del modello sarà perché vuoi partire da un dataset diverso e modificare il pre-training

Sull'inferenza ti invito a seguire il progetto straordinario che sta portando avanti Salvatore Sanfilippo, DwarfStar 4 (DS4), che ha rifatto il motore d'inferenza di DeepSeek (e a breve GLM) con ottimizzazioni davvero brillanti per farlo girare su macchine "consumer". La sua inferenza è migliore dell'originale.

Con un modello Open Weight puoi tranquillamente sviluppare un modello più potente di quello di partenza, puoi fare di tutto, fine tuning, continued pre-training, distillazione, merging...

Con un modello Open Weight puoi tranquillamente sviluppare un modello più potente di quello di partenza, puoi fare di tutto, fine tuning, continued pre-training, distillazione, merging...

Certo che sì, perché sono stati sviluppati dei tool che permettono di farlo senza avere bisogno del codice sorgente dell'llm.
Ossia questi "motori" hanno api molto simili, ma il codice sorgente non c'è. Il loro funzionamento è nascosto nel bytecode.
Open Weight non significa Open Source.

e poi da 2022 esiste GiuliaAI progetto di ricerca di il_Nikk indicato dall'autore come "un sistema AI pensato per conversare, leggere il contesto e stare dentro una live vera, non solo rispondere a messaggi isolati" conosciuto da quattro gatti in croce

https://giuliaai.live/

https://www.youtube.com/@GiuliaAIofficial

Certo che sì, perché sono stati sviluppati dei tool che permettono di farlo senza avere bisogno del codice sorgente dell'llm.
Ossia questi "motori" hanno api molto simili, ma il codice sorgente non c'è. Il loro funzionamento è nascosto nel bytecode.
Open Weight non significa Open Source.

Scusa, ma tu cosa intendi esattamente con "codice sorgente del LLM" ?

E' molto ambigua come frase, un LLM non è un programma, lui di per sé non ha un codice sorgente. Un LLM è un insieme di dati, come potrebbe essere un file mp3 o una jpeg, non c'è logica applicativa nel modello.

Il software serve per fare addestramento ed inferenza, ma tu stesso qui sopra hai confermato che nessuna delle due è preclusa.

Poi parli di API, che è un'altra cosa che non c'entra molto. Sicuro di avere competenze specifiche?