OpenAI avrebbe annullato il lancio di un nuovo modello a causa di problemi di sicurezza

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/op...za_159890.html

Secondo un nuovo report, OpenAI avrebbe annullato il lancio di GPT-6.1 Astra a causa di problemi di sicurezza: il modello IA mostrerebbe diversi segnali di disobbedienza

Click sul link per visualizzare la notizia.

[Fantapollo]

Traduco io: "Per problemi di sicurezza" = "Non è competitivo".

[Notturnia]

ne astra ne sol ne fable ne opus seguono al 100% i comandi.. dove sta la novità ?

[supertigrotto]

Originariamente inviato da Notturnia

ne astra ne sol ne fable ne opus seguono al 100% i comandi.. dove sta la novità ?

La novità è che adesso te lo dicono.
Non hanno mai seguito le parole di IBM che si occupava di sviluppare la IA ancora quando Huang, Altman,Amodei, Musk, Zuckerberg e il resto dei superstalloni della IA erano ancora nei "girini" del babbo,ovvero di svilupparla con calma e cautela.....dopo aver addestrato la IA con dati marci ,ovvero senza tanto selezionare i dati ma buttandoli dentro a pene di segugio (sono sicuro che hanno buttato dentro i dati di libri come mein kampf o il milione) compresa la porcheria dei social e questi sono i risultati.

[Unrue]

Io non credo che queste cose siano realmente controllabili, probabilmente dovranno trovare un compromesso.

[Unrue]

Originariamente inviato da supertigrotto

La novità è che adesso te lo dicono.
Non hanno mai seguito le parole di IBM che si occupava di sviluppare la IA ancora quando Huang, Altman,Amodei, Musk, Zuckerberg e il resto dei superstalloni della IA erano ancora nei "girini" del babbo,ovvero di svilupparla con calma e cautela.....dopo aver addestrato la IA con dati marci ,ovvero senza tanto selezionare i dati ma buttandoli dentro a pene di segugio (sono sicuro che hanno buttato dentro i dati di libri come mein kampf o il milione) compresa la porcheria dei social e questi sono i risultati.

Come ho già detto in altre occasioni, IBM fa un sacco di cose, può permettersi di andarci con calma con l'AI, mentre OpenAI, Anthropic e altri vivono solo di quello. Se non sviluppano a manetta muoiono.

[supertigrotto]

Originariamente inviato da Unrue

Come ho già detto in altre occasioni, IBM fa un sacco di cose, può permettersi di andarci con calma con l'AI, mentre OpenAI, Anthropic e altri vivono solo di quello. Se non sviluppano a manetta muoiono.

Quindi se io sono uno sviluppatore di centrale a fusione,per la fretta posso creare un prodotto che può esplodere da un momento all'altro e cancellare la vita sul pianeta?
Se seguo questa filosofia,posso giocare a creare un buco nero sul pianeta?
Tanto non è pericoloso......

[Unrue]

Originariamente inviato da supertigrotto

Quindi se io sono uno sviluppatore di centrale a fusione,per la fretta posso creare un prodotto che può esplodere da un momento all'altro e cancellare la vita sul pianeta?
Se seguo questa filosofia,posso giocare a creare un buco nero sul pianeta?
Tanto non è pericoloso......

Eh certo, paragonare un LLM ad una centrale nucleare... stessa cosa proprio.

[supertigrotto]

Originariamente inviato da Unrue

Eh certo, paragonare un LLM ad una centrale nucleare... stessa cosa proprio.

Certo non ha la stessa pericolosità ma l'arroganza e la presunta superiorità di chi sta giocando a fare Dio con la IA ci metterà nei guai prima o poi.
Non sto dicendo che la IA è inutile ma che la stanno sviluppando senza criteri di sicurezza o con presunti criteri di sicurezza che fanno ridere pure ai polli.

[Notturnia]

Originariamente inviato da Unrue

Eh certo, paragonare un LLM ad una centrale nucleare... stessa cosa proprio.

potenzialmente li LLM hanno già dimostrato di essere più pericolosi.. come avrai sentito una IA di Anthorpic lasciata decidere i bersagli ha dato a due tomahakw come obbiettivo una scuola in Iran..

e chissà che altro ci daranno in regalo in futuro "le ia possono sbagliare" ..

[Unrue]

Originariamente inviato da Notturnia

potenzialmente li LLM hanno già dimostrato di essere più pericolosi.. come avrai sentito una IA di Anthorpic lasciata decidere i bersagli ha dato a due tomahakw come obbiettivo una scuola in Iran..

e chissà che altro ci daranno in regalo in futuro "le ia possono sbagliare" ..

Per quello basta mettere una supervisione finale umana. Se gli USA sono talmente stolti da mettere direttamente nelle mani di un' AI i bersagli, non è certo colpa dell'Ai stessa, è ovvio che non è ancora matura per compiti così delicati.

E pi a dirla tutta, ovviamente il caso della scuola ha fatto scalpore, ma nella stragrande maggioranza dei casi i bersagli indicati sono corretti.

[Unrue]

Originariamente inviato da Notturnia

potenzialmente li LLM hanno già dimostrato di essere più pericolosi.. come avrai sentito una IA di Anthorpic lasciata decidere i bersagli ha dato a due tomahakw come obbiettivo una scuola in Iran..

e chissà che altro ci daranno in regalo in futuro "le ia possono sbagliare" ..

EDIT

[Unrue]

Originariamente inviato da supertigrotto

Certo non ha la stessa pericolosità ma l'arroganza e la presunta superiorità di chi sta giocando a fare Dio con la IA ci metterà nei guai prima o poi.
Non sto dicendo che la IA è inutile ma che la stanno sviluppando senza criteri di sicurezza o con presunti criteri di sicurezza che fanno ridere pure ai polli.

Per quello dillo a Trump, è lui che avrebbe il dovere di regolarla, ma ovviamente se ne frega perché pensa solo ai soldi. Non si può certo pretendere che le aziende si regolino da sole.