Non sai programmare? Ecco cosa si può fare con un LLM e una GeForce RTX 5070 Ti

[mmorselli]

Originariamente inviato da mozzarello

Secondo me il gaming andrà in streaming anche quello.

Il gaming però è già in streaming, GeForce Now funziona davvero molto bene, le prestazioni sono ottime anche in Italia, ma non va bene per tutto, i giocatori hanno spesso esigenze molto verticali, c'è chi vuole la latenza minima per il competitivo, chi vuole installarsi le mod, e poi c'è appunto la questione del possesso, il gioco voglio possederlo perché magari sto portando avanti la mia partita due giorni al mese, ho poco tempo, e non voglio pagare un abbonamento per questo.

Malgrado i costi hardware siano improponibili già da quasi un anno il cloud gaming ancora rappresenta il 5% del mercato, crescerà grazie a questo, ma non c'è la corsa.

[mmorselli]

Originariamente inviato da zoomx

Vero ma come per l'ossigeno risulta legato agli altri elementi per cui lo si va a prendere in luoghi dove i processi geologici lo hanno concentrato sotto forma di silice, cioè quarzo.

Certo, ma è un problema di disponibilità, non di quantità, usiamo quello che al momento ci costa meno usare. Il discorso che ho quotato parlava di esaurimento delle risorse del pianeta, ma quel silicio lo usiamo praticamente solo a quello scopo, se la domanda cresce il freno diventano i costi, non la disponibilità delle materie prime. L'aumento di costi serve proprio a livellare una domanda che altrimenti sarebbe esponenziale.

[mozzarello]

Originariamente inviato da mmorselli

Il gaming però è già in streaming, GeForce Now funziona davvero molto bene, le prestazioni sono ottime anche in Italia, ma non va bene per tutto, i giocatori hanno spesso esigenze molto verticali, c'è chi vuole la latenza minima per il competitivo, chi vuole installarsi le mod, e poi c'è appunto la questione del possesso, il gioco voglio possederlo perché magari sto portando avanti la mia partita due giorni al mese, ho poco tempo, e non voglio pagare un abbonamento per questo.

Malgrado i costi hardware siano improponibili già da quasi un anno il cloud gaming ancora rappresenta il 5% del mercato, crescerà grazie a questo, ma non c'è la corsa.

Diciamo allora che il mercato console andrà verso lo streaming. Soprattutto quando magari ti permette di giocare al day one a GTA VI invece che spenderci 100€

Il competitivo e le mod sono una nicchia PC. Io son PCista single player che non usa solitamente mod, ma mi tengo volentieri il PC e i giochi scaricati (magari da gog drm free) sullo streaming, ma a me va bene anche spendere 3000€ di PC.

Il problema dell'abbonamento credo diventerà irrilevante, tutti avranno un abbonamento a tutto (video e musica streaming, libri magari, sicuro il calcio, l'IA diventerà obbligatoria, e infine i giochi, che poi molti hanno già appunto GeForce Now e Game Pass o Luna).

Anche fosse 20€ al mese, cosa che dubito al momento, sono 240€ l'anno. Se andiamo a vedere quanto spende mediamente un videogiocatore medio console, ma anche PC, delle due risparmia.

[jepessen]

Originariamente inviato da sintopatataelettronica

"L'assurdo economico" è già stato investire soldi (che non si avevano) in queste .. "tecnologie del futuro" ,.. mandando a donnine allegre tutto quanto in nome di .... IN NOME DI COSA ?

Che cosa sta migliorando nel concreto l'uso di queste LLM ? E a che prezzo questo "cambiamento" sta avvenendo ?

Scusa ma queste domande denotano un'ignoranza pressoche' assoluta dell'argomanto. Probabilmente per te la IA e' solamente video deficienti sui social (che estirperei tranquillamente pure io dalla faccia della terra eh), ma le IA hanno modificato radicalmente moltissimi settori dell'industria, e questo indipendentemente dalla loro sostenibilita' economica.

Hanno reso piu' veloce la creazione ed il test di farmaci, hanno migliorato la ricerca chimica e fisica, hanno scoperto fenomeni astronomici, hanno risolto problemi ingegneristici, hanno praticamente fatto di tutto. Solo che essendo in settori specializzati a te non viene niente dato che non ti interessi di queste cose, vedi solo quello che ti si pone davanti il mondo che vedi, ovvero filmati cretini.

[sintopatataelettronica]

Originariamente inviato da jepessen

e questo indipendentemente dalla loro sostenibilita' economica.

Infatti il mio intervento si focalizzava su quello: la completa INSOSTENIBILITÀ ECONOMICA (e anche ambientale/energetica) di questo baraccone AI.

Originariamente inviato da jepessen

Hanno reso piu' veloce la creazione ed il test di farmaci, hanno migliorato la ricerca chimica e fisica, hanno scoperto fenomeni astronomici, hanno risolto problemi ingegneristici, hanno praticamente fatto di tutto. Solo che essendo in settori specializzati a te non viene niente dato che non ti interessi di queste cose, vedi solo quello che ti si pone davanti il mondo che vedi, ovvero filmati cretini.

Premettendo che tutti 'sti benefici bisogna vederli e toccarli con mano - e servono pure dati a supporto, non del marketing.. il mio intervento non era contro i (possibili) benefici di una tecnologia nuova .. ma il baraccone AI - del tutto insostenibile sia a livello economico che ambientale - che han prodotto le aziende che la vogliono vendere a chiunque..

E sarebbe anche il caso di domandarsi davvero quanta parte delle risorse di questa infrastruttura in continua crescita son usate per il progresso tecnologico e medico dell'umanità, e quante invece vengono del tutto sprecate per produrre meno di niente (a fronte di costi - e spreco di risorse - immensi).

[mmorselli]

Originariamente inviato da mozzarello

Il problema dell'abbonamento credo diventerà irrilevante, tutti avranno un abbonamento a tutto (video e musica streaming, libri magari, sicuro il calcio, l'IA diventerà obbligatoria, e infine i giochi, che poi molti hanno già appunto GeForce Now e Game Pass o Luna).

Ma intendi un unico abbonamento con dentro tutto? E chi può proporlo?

Perché un abbonamento per ogni servizio diventa impegnativo, soprattutto per chi ha poco tempo e sa che userebbe i servizi in modo incostante, o per chi ha introiti discontinui.

[mmorselli]

Originariamente inviato da sintopatataelettronica

E sarebbe anche il caso di domandarsi davvero quanta parte delle risorse di questa infrastruttura in continua crescita son usate per il progresso tecnologico e medico dell'umanità, e quante invece vengono del tutto sprecate per produrre meno di niente (a fronte di costi - e spreco di risorse - immensi).

Anche l'intrattenimento ha la sua importanza, come sono importanti gli strumenti che danno la possibilità alle persone di sperimentare con la propria creatività, a prescindere dal risultato che spesso sarà da scartare.

Tu perché stai inquinando il pianeta scrivendo post in un forum online? Pensi che il tuo messaggio abbia una qualche utilità concreta a parte soddisfare il tuo desiderio d'intrattenimento?

Come al solito quello che fanno gli altri è sempre troppo, quello che facciamo noi è sempre adeguato, stabiliamo una soglia da non superare che guardacaso si trova proprio sopra alle cose che ci piace continuare a fare.

[sintopatataelettronica]

Originariamente inviato da mmorselli

Anche l'intrattenimento ha la sua importanza, come sono importanti gli strumenti che danno la possibilità alle persone di sperimentare con la propria creatività, a prescindere dal risultato che spesso sarà da scartare.

Tu perché stai inquinando il pianeta scrivendo post in un forum online? Pensi che il tuo messaggio abbia una qualche utilità concreta a parte soddisfare il tuo desiderio d'intrattenimento?

Come al solito quello che fanno gli altri è sempre troppo, quello che facciamo noi è sempre adeguato, stabiliamo una soglia da non superare che guardacaso si trova proprio sopra alle cose che ci piace continuare a fare.

Ma che c'entra ?
Il discorso era sul costo/benefici/sostenibilità di qualcosa..

Ma comunque continuiamo pure a fare finta che vada tutto bene.. che siamo agli inizi dell'età dell'oro definitiva.. che i benefici sono tanti - e sempre di più - e che i prezzi l'anno prossimo (come ci si ripete ogni anno dal 2020) torneranno come nel....

E via, i prezzi di ogni cosa in ambito tecnologico e informatico (perché la crisi dei componenti creata da questa follia si sta riversando su tutto, dai televisori alle auto) intanto stanno salendo a ritmi mai visti prima (sempre che qualcuno ti venda ciò di cui hai bisogno - tante aziende stanno uscendo dal settore consumer ) però centinaia di milioni di <tizi> che non sanno programmare potranno domani farsi le loro app personalizzate .. e tanta gente che non sa fare niente (e non è nemmeno motivata ad imparare - lo dimostrano i dati statistici nelle scuole) potrà produrre... <roba>. Che bello.

[Piedone1113]

Originariamente inviato da TorettoMilano

e chi non si mette a creare app dall’oggi al domani…

polemiche sterili, l’articolo vuole solo dimostrare come con una 5070 Ti si possano sfruttare le IA locali. ma potenzialmente, immagino essendo ignorante, si possono sfruttare schede video meno potenti

Puoi sfruttare anche schede video da 8 GB ( Bonsai 27B massima compressione tra 2.5 e 4 GB vram) ma perdi in qualità. Per esempio PrismML con bonsai27bT ( compressione a tre bit spazio occupato tra 7.5 e 8 GB RAM) basato su Qwen 3.6 ha un hit del 91% rispetto a Qwen nativo compresso a 16 GB, ma questo divario cresce all'aumentare del contesto. Per un minimo di produttività personale ( o solo per capire le potenzialità delle Ai) devi partire da 64 GB RAM e 32 GB vram ( consigliato Radeon ai pro r9700 con Rocm sufficientemente matura, mentre Intel b70 soffre maggiormente di supporto software)

[Piedone1113]

Originariamente inviato da mail9000it

Quasi. Tutta la discussione sulla quantizzazione indica che è la RAM il limite più importante non la potenza di calcolo.
Quindi meno potente "forse" ma con almeno 16GB.

Dipende dal modello: se monolitico è la velocità della vram il vero collo di bottiglia ( o meglio quello che si presenta prima), se modello MoE è la potenza di calcolo della GPU ( e anche la 5070 non è una grande scelta

[mmorselli]

Originariamente inviato da sintopatataelettronica

Ma che c'entra ?
Il discorso era sul costo/benefici/sostenibilità di qualcosa..

Il problema è che il beneficio che il mondo ricava dai post che scrivi è zero. Ovviamente vale anche per i miei, ma io do valore all'intrattenimento personale. Però lo fai lo stesso.

Il beneficio dell'AI invece è concreto, semplicemente tu non lo vedi. Lo sviluppo di farmaci con l'AI aumenta tantissimo la percentuale dei composti candidati, un giorno potrebbero curare una tua malattia, ma siccome questo non avviene sotto i tuoi occhi allora non esiste.

E il software viene sviluppato più in fretta anche quello serio, non solo quello di "chi non sa programmare", anche chi sa programmare molto bene ha aumentato la sua produttività e competenza di 10 volte, e tutto dipende dal software, se stai sviluppando qualcosa di fisico hai bisogno che il reparto software sviluppi soluzioni e oggi lo fa a velocità impensabili solo un anno fa. Ma anche questo siccome non cade dentro la tua ristretta sfera d'interessi, non esiste.

Vuoi vedere i risultati? Cioè ti aspetti che ogni innovazione tecnologica che vedrai da oggi in avanti abbia un cartello con scritto "qui c'è stato un importante contributo da parte dell'AI"? Usa il buonsenso piuttosto, e inizia a dare questa cosa per scontata, non come una possibilità.

Ma comunque continuiamo pure a fare finta che vada tutto bene.. che siamo agli inizi dell'età dell'oro definitiva.. che i benefici sono tanti - e sempre di più - e che i prezzi l'anno prossimo (come ci si ripete ogni anno dal 2020) torneranno come nel....

Se si ripete dal 2020 che c'entra l'AI? Mi spiace per chi vorrebbe cambiare un PC che funziona ancora benissimo, però sa di vecchio e non fa girare i giochi nuovi in 4K a Ultra o apre le pagine web in 0.2 secondi quando potrebbe metterci 0.1 secondi, ma non è la cosa più importante oggi. Poi sentire parlare di ambiente e sostenibilità da una persona che usa un personal computer e magari pure per giocare, quando potresti farne a meno salvando un pinguino imperatore... Sei davvero convinto che il TUO uso della tecnologia, dal computer ai tuoi elettrodomestici, sia sostenibile? Oppure preferisci pensare che sia così per non smettere di usarli?

però centinaia di milioni di <tizi> che non sanno programmare potranno domani farsi le loro app personalizzate ..

Spiegami perché i desideri futili di centinaia di milioni di tizi che vogliono farsi le loro app valgono meno dei desideri futili di centinaia di milioni di tizi che vogliono cambiare il computer o il televisore... Alla fine questi tizi non rappresentano tutti il mercato consumer? L'AI "per fare le cazzate" non è essa stessa un prodotto consumer? Si vede che le persone hanno cambiato l'oggetto del loro interesse, e tu rosichi perché non sei tra questi.

[sintopatataelettronica]

Mai mettersi a cercare di fare ragionamenti di qualche tipo da nessuna parte .. tanto alla fine finisce sempre così.. che ce se butta dentro de tutto e finisce tutto con il solito blablabla e si va a cadere sul personale con offese gratuite e battutine del cazzo (ma link a fatti e dati concreti.. mai.. MANCO UNO)

Intanto se guardiamo al CONCRETO e AD OGGI - non al marketing o ai sogni di ogni uomo o donna o animale - quest'anno le aspettative di vita in salute si son abbassate in quasi tutto il mondo, i prezzi sono alla follia.. e .. ma va tutto meglio (ma dall'anno prossimo, però. SEMPRE DALL'ANNO PROSSIMO)

[Ago72]

Interessante prima dici:

Originariamente inviato da sintopatataelettronica

Mai mettersi a cercare di fare ragionamenti di qualche tipo da nessuna parte .. tanto alla fine finisce sempre così.. che ce se butta dentro de tutto

E poi scivi:

Originariamente inviato da sintopatataelettronica

quest'anno le aspettative di vita in salute si son abbassate in quasi tutto il mondo, i prezzi sono alla follia..

Ma che c'entra, l'aspettativa di vita con l'AI? Giusto per "buttarci dentro de tutto".

Se invece ti riferivi all'uso dell'AI nella ricerca farmaceutica, allora hai fatto l'esempio sbagliato. lo sviluppo di un farmaco va tra i 10 e i 12 anni, e la maggior parte sono dedicati ai trials clinici... Per cui l'AI non può incidere su ciò che accade oggi. (fonte)
Solo ridurre di qualche anno questo tempo di sviluppo significherebbe dare un grande sollievo ai malati.

Comunque un grande apporto dell'AI nella vita di tutti i giorni, che non vedi ma esiste, è il riciclo della spazzatura. Grazie all'AI e alla sua capacità di combinare diversi sensori (visione 3D, spettrometri, ...) è possibile migliorare la quantità di materiale riciclato e ridurre quanto va' in discarica/inceneritore. Giusto per citare un'azienda (fonte).

[mmorselli]

Originariamente inviato da sintopatataelettronica

Mai mettersi a cercare di fare ragionamenti di qualche tipo da nessuna parte .. tanto alla fine finisce sempre così.. che ce se butta dentro de tutto e finisce tutto con il solito blablabla e si va a cadere sul personale con offese gratuite e battutine del cazzo (ma link a fatti e dati concreti.. mai.. MANCO UNO)

Si potrebbe sommergerti di link con innovazioni tecnologiche utili che sono possibili solo grazie all'AI, ma poi tu che faresti? Diresti "effettivamente avete ragione, sono stato stupido a non fare prima qualche ricerca per conto mio"

Risponderesti così? No, la mente umana non funziona così, attiveresti un meccanismo di protezione delle tue convinzioni e della tua autostima, e li ignoreresti in blocco. Vuoi scommettere?

[mozzarello]

Originariamente inviato da mmorselli

Ma intendi un unico abbonamento con dentro tutto? E chi può proporlo?

Perché un abbonamento per ogni servizio diventa impegnativo, soprattutto per chi ha poco tempo e sa che userebbe i servizi in modo incostante, o per chi ha introiti discontinui.

Un abbonamento per ogni servizio.

Io ho Spotify (musica), Now (video), DAZN (Calcio), ChatGPT Plus (LLM), Prime Video (quello per non avere pubblicità). Questi son quelli mensili, annuali : Prime (uso tutto, anche i libri e i giochi in regalo), Focus (la rivista cartacea), Firefox Relay / SimpleLogin (email mask), Proton VPN e ho fatto per provare a 50€ un anno di Google AI Plus che dà anche 400GB di Drive. Ma in passato avevo anche Netflix e Game Pass, tolti perché inutili per i miei bisogni. Feci anche Kindle Unlimited per tre mesi, ma non leggo abbastanza per giustificarlo, e Audible, idem. Poi ho un paio di app Android per cui ho pagato la quota annuale, che adesso vedo se rifarla o no.

Alla fine sono 120€ al mese per tutto (mensile e annuale), non è tantissimo considerando che più della metà son DAZN + Now che ho solo per calcio e formula 1

[mmorselli]

Originariamente inviato da mozzarello

Alla fine sono 120€ al mese per tutto (mensile e annuale), non è tantissimo considerando che più della metà son DAZN + Now che ho solo per calcio e formula 1

Non sono tantissimo per chi non ha una vita al di fuori di quello, ma per molte persone sarebbero soldi buttati dato che non passano tutto quel tempo in casa o davanti alla TV

Poi c'è la questione economica fine a sé stessa, 120 euro al mese, cioè 1440 euro all'anno, sono accettabili per chi vive da solo con uno stipendio normale o per chi ha una famiglia, ma a questo punto introiti di buon livello, altrimenti sono oggettivamente troppi. Se con introiti da impiegato devi cambiare il guardaroba dei tuoi figli gli abbonamenti mi sa che aspettano.

[mozzarello]

Originariamente inviato da mmorselli

Non sono tantissimo per chi non ha una vita al di fuori di quello, ma per molte persone sarebbero soldi buttati dato che non passano tutto quel tempo in casa o davanti alla TV

Poi c'è la questione economica fine a sé stessa, 120 euro al mese, cioè 1440 euro all'anno, sono accettabili per chi vive da solo con uno stipendio normale o per chi ha una famiglia, ma a questo punto introiti di buon livello, altrimenti sono oggettivamente troppi. Se con introiti da impiegato devi cambiare il guardaroba dei tuoi figli gli abbonamenti mi sa che aspettano.

Sì, ma si parla appunto di gente che vuole farli gli abbonamenti perché li sfrutta. Se sei sempre in giro o in vacanza e mai in casa, a parte che a fine anno sono 14400 euro invece che 1/10 (io se esco minimo 20€ per una serata tranquillissima, senza pranzo o cena nel mezzo, li lascio), non è detto ti convenga. Non è detto perché se poi in capo a un anno hai preso due GTA VI al lancio ti giochi tutti il budget del game pass.

Comunque lo ripeto 65€ sono per guardare calcio e formula 1, e io non mi perdo un gp o una partita che mi interessa. Chiaro che se fossi sempre in giro mica li farei. Forse perché me li guardo anche sul telefono.