Incredibile novità nel mondo della tecnologia, dopo la creazione di un veleno per uccidere una delle IA più diffuse del momento.
L’intelligenza artificiale è di sicuro la tecnologia del futuro, con i colossi del mondo tecnologico che si stanno impegnando per far sì che questa possa essere messa il prima possibile a pieno servizio per gli esseri umani. Eppure in queste ore sta facendo scalpore un veleno creato per distruggere una delle IA più diffuse al mondo.
L’intelligenza artificiale è destinata a cambiare le abitudini degli esseri umani nel futuro prossimo. Il 2023 è stato contraddistinto dalla diffusione di ChatGPT che ha mostrato a tutti quanto possa essere efficace questa nuova tecnologia. La chatbot di Open AI si è dimostrata più potente del previsto ed è per questo motivo che Google ha voluto lanciare prematuramente Bard e Microsoft invece ha puntato tutto su Bing. Eppure c’è già chi è pronto a far di tutto pur di contrastare le IA.
Infatti la lotta contro la manipolazione dei dati utilizzati per addestrare i modelli di intelligenza artificiale ha preso una piega più destabilizzante con l’emergere di un nuovo strumento chiamato Nightshade. Questo consente agli utenti di iniettare “veleno” nei loro lavori creativi, che, quando integrati nei dati di addestramento dell’IA, corrompendoli o distorcendoli.
Questa manipolazione può avere un impatto negativo sulle future prestazioni delle piattaforme d’arte IA come DALL-E, Stable Diffusion e Midjourney, rendendole incapaci di generare immagini accurate. Andiamo quindi a scoprire tutti i dettagli riguardanti Nightshade ed il suo potere di iniettare veleno per corrompere i lavori dell’IA.
Nightshade inietta veleno contro l’intelligenza artificiale: come funziona
Nightshade opera apportando sottili e impercettibili modifiche ai pixel delle opere d’arte digitali. Quando questo lavoro manipolato viene utilizzato per addestrare i modelli di intelligenza artificiale, il “veleno” sfrutta le vulnerabilità della sicurezza, causando confusione nei modelli. Di conseguenza, l’IA potrebbe non essere in grado di identificare correttamente gli oggetti e potrebbe, ad esempio, fraintendere un’immagine di un’auto come una mucca.
Il documento di ricerca di Nightshade evidenzia la vulnerabilità dei dati di addestramento utilizzati nei modelli IA testo-immagine agli attacchi che questo strumento può eseguire. Anche un numero moderato di attacchi Nightshade può destabilizzare le capacità generali di un modello generativo testo-immagine, disabilitandone efficacemente la capacità di creare immagini coerenti. Per gli artisti desiderosi di vendetta, Nightshade offre l’integrazione con Glaze in grado di trasformare lo stile di un’opera d’arte rendendola irriconoscibile.
Secondo i creatori di Nightshade questo strumento potrebbe essere utilizzato come difesa per i creatori di contenuti contro i web scraper. Ad oggi sono diversi i procedimenti giudiziari ancora in corso con alcuni creatori che citano in giudizio le piattaforme di IA di aver utilizzato il loro materiale protetto da copyright senza autorizzazione. Intanto anche Google e Microsoft hanno dichiarato la loro disponibilità a supportare i propri clienti in potenziali cause per violazione del copyright legate ai prodotti generativi dell’IA.
