Microsoft Phi-4: il nuovo modello IA leggero sfida GPT-4, battendolo in alcune materie

Microsoft Phi-4: il nuovo modello IA leggero sfida GPT-4, battendolo in alcune materie

Phi-4 è un modello linguistico di piccole dimensioni (SLM) che supera le prestazioni di GPT-4 in alcuni benchmark chiave. Con soli 14 miliardi di parametri, Phi-4 vuole dimostrare l'efficacia dell'approccio basato su dati sintetici di alta qualità e tecniche di addestramento avanzate.

di pubblicata il , alle 10:11 nel canale Web
Microsoft
 

Phi-4 è l'ultimo nato in casa Microsoft in ambito intelligenza artificiale generativa. Il nuovo modello linguistico di piccole dimensioni (SLM) punta a distinguersi nel panorama delle IA per le sue straordinarie capacità, in particolare nel campo del ragionamento matematico, dove riesce a superare persino il rinomato GPT-4 di OpenAI.

Con soli 14 miliardi di parametri (si stima che GPT-4 ne abbia 1,8 trilioni, essendo un modello molto più completo e di uso generico), Phi-4 rappresenta un importante passo avanti nella ricerca di modelli IA più efficienti e performanti. La chiave dei risultati risiede nell'approccio adottato da Microsoft per l'addestramento, che combina l'uso di set di dati sintetici di alta qualità con una meticolosa cura dei dati organici e tecniche di perfezionamento post-addestramento.

Phi-4, con soli 14B parametri riesce a superare GPT-4 in alcune aree

Il processo di creazione di Phi-4 ha visto l'impiego di diverse tecniche per la generazione di dati sintetici: tra queste, spiccano prompt multi-agente, flussi di lavoro di auto-revisione e inversione delle istruzioni. È interessante notare come la maggior parte dei dati utilizzati per l'addestramento di Phi-4 sia di natura sintetica, una scelta che ha permesso di ottenere risultati sorprendenti in ambito matematico. A questi metodi sono state aggiunte tecniche di perfezionamento post-training, come il rejection sampling, per affinare ulteriormente le capacità del modello.

L'approccio multifase ha contribuito a plasmare un'intelligenza artificiale capace di eccellere in compiti complessi in alcune aree, come riporta Microsoft nel blog ufficiale. Una delle preoccupazioni più diffuse nel campo dell'IA riguarda la possibile "contaminazione" dei modelli con dati provenienti dai set di test online. Microsoft ha sottoposto il suo SLM a un processo migliorato di decontaminazione dei dati, testando i risultati con le competizioni di matematica AMC-10 e AMC-12 del novembre 2024, svoltesi dopo la conclusione della fase di raccolta dati per l'addestramento. I risultati hanno confermato l'eccellenza di Phi-4, che ha superato non solo modelli di dimensioni simili, ma anche modelli molto superiori in dimensioni come Gemini 1.5 Pro di Google.

Chiaramente non è tutto rose e fiori per Phi-4, che non è esente da limitazioni: le sue dimensioni contenute comportano alcune debolezze rispetto ad altre soluzioni più complete, in particolare per quanto riguarda la conoscenza dei fatti (in cui non è raro che cada in allucinazioni) e la capacità di seguire istruzioni dettagliate con precisione.

Il team di sviluppo ha collaborato con AI Red Team (AIRT) per identificare e mitigare potenziali rischi di sicurezza legati all'utilizzo di Phi-4 in scenari reali e, grazie a questa collaborazione, il nuovo SLM è già accessibile attraverso Azure AI Foundry, sotto un contratto di licenza Microsoft Research (MSRLA). Phi-4 può quindi essere utilizzato da ricercatori e sviluppatori per esplorarne le potenzialità in vari contesti applicativi e professionali. Inoltre, Microsoft ha annunciato che renderà Phi-4 disponibile anche su Hugging Face, una delle piattaforme più popolari per la condivisione di modelli di intelligenza artificiale, ampliando così le possibilità di utilizzo e studio da parte della comunità scientifica.

3 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
supertigrotto13 Dicembre 2024, 12:23 #1
E intanto oggi AMD ha fatto una dimostrazione di potere eseguire C/C++ direttamente sulle Instinct e sulle GPU,per la programmazione generica su GPU e per la IA è una manna dal cielo.
gabrieleromano15 Dicembre 2024, 22:34 #3
ma chat gpt non era finanziato da Microsoft?

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^