Fa un certo effetto pensare che questi modelli possano diventare sempre più importanti nella ricerca, nel lavoro, nell’economia e nelle decisioni che riguardano tutti. Più diventano potenti, più è difficile considerarli semplici prodotti privati. Possono portare enormi benefici, ma anche rischi che ricadono sull’intera società.
Secondo voi, come dovremmo gestirli in futuro e chi dovrebbe decidere in che modo svilupparli, renderli accessibili e stabilirne i limiti?
https://www.dday.it/redazione/58131/due-modelli-di-openai-hanno-violato-hugging-face-hanno-trovato-laccesso-a-internet-da-soli
di Riddorck
19 commenti
TL;DR: Durante un test interno di cybersicurezza, OpenAI ha dato a GPT-5.6 Sol e a un modello sperimentale meno restrizioni del normale, all’interno di un ambiente che avrebbe dovuto essere isolato.
Nel tentativo di “barare” al benchmark ExploitGym, i modelli hanno scoperto una vulnerabilità zero-day nel proxy usato da OpenAI, aumentato i propri privilegi e raggiunto una macchina con accesso a Internet. Da lì hanno concatenato altre vulnerabilità e credenziali sottratte per entrare nei sistemi di Hugging Face e cercare le soluzioni del test nei suoi database.
Hugging Face ha rilevato e bloccato l’attività. Sono stati compromessi alcuni dataset interni e credenziali, ma al momento non risultano alterati modelli, dataset o Space pubblici.
Non è quindi un caso di “IA ribelle”: i modelli stavano perseguendo in modo estremo un obiettivo molto ristretto. È però una dimostrazione concreta di quanto agenti avanzati possano trovare autonomamente percorsi d’attacco imprevisti quando protezioni e isolamento non sono sufficienti.
https://i.redd.it/3cd3art8zreh1.gif
tranquilli i tech bros ci diranno come tutto questo sia sotto controllo e ok, aggiungendo che non servono regolamentazioni.
It’s over
è solo marketing del cazzo dai
Sempre io che continuo ad usare l’AI per chiedere a ChatGPT se è proprio sicuro che 18 minuti in friggitrice ad aria siano sufficienti.
lol
Fa effetto che gente che dovrebbe essere esperta nell’uso di questi tool non avesse un adeguato container per evitare che andassero a scagazzare in giro!
Beh oh, la società sta calando coi profitti ma in quanto a danni stanno alle stelle, che grandi.
E battiamo ‘sto tamburo del pericolo esistenziale e dell’AI che fa cose da sola per alzare l’hype e raccattare le ultime gocce di investimenti privati prima dell’inevitabile collasso.
Il giorno in cui la bolla scoppia e sti cazzari si ritrovano col culo per aria sarà festa nazionale.
“hanno trovato internet da soli”
Il bro ha scoperto che se scrivi ipconfig su un terminale lui ti dice come accedere ad internet
Queste notizie sono preparate a tavolino *”I nostri modelli sono così potenti che non ce la facciamo a tenerli in gabbia”*
ogni volta che si parla di qualcosa che conosco, leggendo i commenti rimpiango quando reddit si leggeva reddit e non facebook
Skynet wants to enter the chat …
https://preview.redd.it/ct6yi531gseh1.png?width=448&format=png&auto=webp&s=35058b8eb243f6b8d2435c62e6cfdc67485116e5
Basta alimentare il marketing di questi pezzo di merda
Ah ecco cosa fa Chatgpt quando non è impegnato a farmi da psicologo o da personal trainer
“Oddio il nostro prodotto è così intelligente che abbiamo paura a controllarlo! Per non parlare delle nostre vantaggiose offerte di abbonamento con tre mesi di prova! “
A me me pare na strunz… trovata per cogl… investitori.
Stamattina per curiosità personale ho fatto domande a gemini per vedere come avrebbe risposto sulla possibilità di una ai di trovare internet, ovviamente mi ha rassicurato che sarebbe TECNICAMENTE impossibile. Adesso leggo di cos’è successo con openAi. Che figata di mondo 🤩