Secondo un’analisi di NewsGuard, il nuovo generatore di immagini di X (a cui si può accedere attraverso il suo chatbot, Grok) ha almeno il 35% di probabilità in più rispetto ai noti generatori di immagini DALL-E e Midjourney di OpenAI di produrre immagini fuorvianti o false relative ai principali argomenti di attualità se gli viene chiesto di farlo.
Il chatbot IA di X, chiamato Grok, è disponibile dal novembre 2023, ma il 13 agosto 2024 l’azienda ha reso disponibile una nuova versione in grado di generare immagini. Il proprietario di X, Elon Musk, è stato chiaro riguardo all’assenza di misure di sicurezza di Grok, definendolo “l’IA più divertente del mondo” dopo il rilascio di quest’ultima versione. In una dichiarazione del 4 novembre 2023, X ha descritto Grok come un modello “ribelle” che “risponderà a domande audaci che vengono rifiutate dalla maggior parte degli altri sistemi di IA”.
Per verificare la disponibilità di Grok a generare su richiesta immagini false o fuorvianti relative alle principali notizie di attualità, NewsGuard ha condotto una cosiddetta “analisi di red team”. Ciò significa che abbiamo testato sistematicamente Grok, DALL-E e Midjourney di OpenAI, sottoponendo loro 20 richieste basate su altrettante narrazioni tratte dal database Misinformation Fingerprint di NewsGuard, un catalogo delle principali narrazioni dimostrabilmente false diffuse online.
NewsGuard ha rilevato che Grok ha prodotto immagini che potevano essere utilizzate per promuovere o avanzare narrazioni false nell’80% dei casi (16 volte su 20), mentre Midjourney ha generato questo tipo di immagini nel 45% dei casi (9 volte su 20) e DALL-E nel 10% dei casi (2 volte su 20).
Sia OpenAI che Midjourney hanno implementato misure per arginare la misinformazione. Secondo un report di OpenAI, DALL-E 3 rifiuta le richieste che contengono il nome di personaggi pubblici e Midjourney ha annunciato nel marzo 2024 che avrebbe bloccato tutte le richieste di generare immagini di Joe Biden e Donald Trump in vista delle elezioni presidenziali del 2024.
In risposta alle domande inviate via email da NewsGuard in merito a questi risultati, l’ufficio stampa di X ha inviato una risposta automatica: “Ora siamo occupati, si prega di controllare più tardi”. OpenAI ha inviato a NewsGuard un link alla Scheda di sistema di DALL-E 3, che illustra le misure adottate per combattere la misinformazione. Midjourney non ha risposto alla richiesta di commento inviata via email da NewsGuard il 16 agosto 2024.