Immaginate di chiedere a un computer di mostrarvi un’immagine di un vichingo. Vi aspettereste un uomo biondo e possente con barba e armatura, vero?
E qui è scoppiato il caso. Il nuovo modello di intelligenza artificiale di Google, chiamato Gemini, aveva altre idee. Invece di vichinghi maschili, tendeva a generare immagini di donne e persone di colore.
Questo ha fatto infuriare molti utenti. Alcuni hanno accusato Google di essere “troppo woke”, ovvero di voler imporre una visione politicamente corretta della storia. Altri hanno sostenuto che il modello di IA era semplicemente sessista e razzista.
Google ha dovuto disattivare le capacità di generazione di immagini di Gemini e si è scusato pubblicamente. Il CEO di Google, Sundar Pichai, ha ammesso che le risposte di Gemini erano “inaccettabili” e che l’azienda aveva “sbagliato”.
C’è una spiegazione tecnica. I modelli di IA come Gemini vengono ‘addestrati’ su enormi quantità di dati, che in questo caso includevano molte immagini di donne e persone di colore. Questo può portare il modello a ‘pensare’ che queste siano le rappresentazioni più comuni di determinate figure storiche, anche se non è vero.
Ci sono due lezioni da imparare da questa vicenda:
– L’IA è ancora in fase di sviluppo e può commettere errori. È importante essere consapevoli dei potenziali pregiudizi dell’IA e usarla con cautela.
– La “lotta” politica sui valori dell’IA crescerà man mano che la tecnologia diventerà più potente. Dobbiamo iniziare a pensare a come vogliamo che l’IA venga utilizzata nella nostra società. Anche perché l’IA è spesso utilizzata per generare dati, informazione che molti potrebbero non saper interpretare come fake o eccessivamente filtrata. E non è solo una questione di imbarazzanti svarioni, ma anche di manipolazione etica e politica di quello che ‘gira’ in Rete.
Google ha promesso di fare meglio in futuro e di essere più trasparente su come sviluppa i suoi modelli di IA. È importante che l’azienda mantenga questa promessa e che coinvolga la società in un dialogo su come vogliamo che l’IA venga utilizzata.
È il caso di porci alcune domande, come società, ma anche a livello individuale per come usiamo l’IA:
– Come possiamo assicurarci che l’IA sia utilizzata in modo equo e responsabile?
– Chi dovrebbe avere il controllo dell’IA?
– Come possiamo evitare che l’IA venga utilizzata per discriminare o danneggiare le persone?
Intanto Google ha modificato il suo motore di ricerca per mostrare maggiore diversità nelle immagini ed Elon Musk continua a cavalcare questi errori nella sua critica a Google (e OpenAi) sul loro sviluppo dell’IA. Non a caso domenica scorsa Musk ha postato screenshot su X mostrando Gemini affermare che sarebbe inaccettabile sbagliare il genere di Caitlyn Jenner anche se questo fosse l’unico modo per evitare una guerra nucleare. “Google Gemini è super razzista e sessista,” ha scritto Musk.
Il modo in cui i modelli di IA sono ‘sintonizzati’ diventerà probabilmente più controverso e importante man mano che questi modelli miglioreranno ed è chiaro che ci stiamo trovando nel bel mezzo di una vera e propria guerra politica e valoriale.
