Grok-1.5, l'IA di Elon Musk diventa molto più potente: tutte le novità

Grok-1.5, l'IA di Elon Musk diventa molto più potente: tutte le novità

xAI ha svelato Grok-1.5, una significativa evoluzione del suo modello linguistico di grandi dimensioni (LLM). L'aggiornamento promette di offrire una memoria a breve termine 16 volte superiore, oltre a miglioramenti nelle capacità di ragionamento matematico e programmazione.

di pubblicata il , alle 11:31 nel canale Web
 

In questo momento, il progresso in ambito IA è velocissimo e la competizione aspra. Fra i competitor emergenti c'è xAI, la startup di Elon Musk, che ha appena annunciato una nuova versione del suo modello linguistico di grandi dimensioni (LLM): Grok-1.5. Secondo quanto rivelato dall'azienda, l'aggiornamento rappresenta un'evoluzione significativa nella capacità di elaborazione e ragionamento.

Uno dei miglioramenti più notevoli di Grok-1.5 è la sua capacità di elaborare una quantità di dati senza precedenti per xAI. Con la possibilità di gestire fino a 128 mila token, il nuovo modello offre una memoria a breve termine 16 volte superiore rispetto alla versione precedente. Questo aumento significativo nella capacità di memorizzazione consente a Grok-1.5 di elaborare documenti sostanzialmente più lunghi e complessi, aprendo la strada a nuove applicazioni e casi d'uso.

xAI annuncia Grok-1.5, con possibilità di gestire fino a 128 mila token

Il modello ha dimostrato un netto miglioramento nelle sue capacità di ragionamento matematico e nella programmazione. Nei test interni di xAI, Grok-1.5 ha ottenuto punteggi di gran lunga superiori rispetto a Grok-1 in benchmark come MATH (50,6%) e GSM8K (90%), che valutano la capacità di risolvere problemi matematici di livello scolastico. Inoltre, il modello ha ottenuto un punteggio del 74,1% nel benchmark HumanEval, che misura le capacità di generazione di codice e problem solving.

Queste prestazioni sono state rese possibili grazie a un innovativo framework per il training distribuito sviluppato internamente da xAI. Basato su tecnologie come JAX, Rust e Kubernetes, la tecnologia garantisce un processo di addestramento ottimizzato in grado di rilevare e rimuovere automaticamente i nodi problematici durante l'addestramento. Con il nuovo metodo Grok-1.5 riesce ad allinearsi in termini di prestazioni ai modelli linguistici più diffusi del momento, come Claude 3, Gemini Pro 1.5 e l'immancabile GPT-4 di OpenAI.

L'accesso a Grok-1.5 sarà, tuttavia, inizialmente limitato: xAI ha annunciato che i primi a poter sperimentare Grok-1.5 saranno i tester e gli attuali utenti di Grok, o ancora gli abbonati a X Premium+. Nel corso del tempo, però, l'azienda prevede di distribuire il nuovo modello a un pubblico più ampio. Ricordiamo inoltre che di recente Musk ha mantenuto la promessa secondo cui avrebbe reso Grok open-source, e il suo codice sorgente è stato divulgato via GitHub.

4 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
TorettoMilano29 Marzo 2024, 11:42 #1
e faccelo provare questo agGROKkio
io78bis29 Marzo 2024, 12:17 #2
Non so quanto sia vera questa favola del consumo energetico delle IA ma, nel caso lo sia direi che è giusto che vengano usate solo dietro piani a pagamento in modo che si evitino gli usi poco utili.
UtenteHD29 Marzo 2024, 14:51 #3
Se parli di consumi, se leggi i consumi delle attuali IA offline, dai dati tecnici non le vedo cosi' energivore, certo devi moltiplicare il tutto per migliaia di persone ecc.. ma non le vedo comunque cosi' apocalittiche.

Per il discorso dell'uso altamente inutile, si hai ragione, io se la uso e' solo se necessario per correggere una frase importante, aiutarmi in qualcosa del genere ecc.. (per me e' importante), se salta fuori che il 90% delle persone le usa inutilmente beh allora si, con mio dispiacere mettetele a pagamento, cosi' non ci saranno sprechi altamente inutili di risorse. Oppure se a pagamento, la Gente sara' costretta a prendersele offline (magari per lavoro nella privacy conviene) cosi' la bolletta elettrica, l'HW, ecc.. se la pagano Loro ed imparano ad usarle con cervello e parsimonia.
LMCH29 Marzo 2024, 21:45 #4
Originariamente inviato da: UtenteHD
Se parli di consumi, se leggi i consumi delle attuali IA offline, dai dati tecnici non le vedo cosi' energivore, certo devi moltiplicare il tutto per migliaia di persone ecc.. ma non le vedo comunque cosi' apocalittiche.

Devi anche considerare i costi per la "costruzione" del modello, quelli sono molto più alti e richiedono l'intervento di tester e validatori per verificare se ci sono nuove "sorprese" legate ai dati utilizzati ed apportare correzioni. Più cresce il modello e più i costi aumentano. Non è un caso se gran parte delle centinaia di milioni di dollari di finanziamento di Microsoft ad OpenAI erano sotto forma di tempo e risorse di calcolo su Azure.

Inoltre per far girare un modello "semplice" come Stable Diffusion, servono MINIMO una GPU con 4GB di ram, ed un processore "potente" con almeno 16GB.
Per modelli più avanzati serve molto di più (e questo come requisiti MINIMI).

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^