CLASSE AI_KIT 1 — Transcript

Introduzione al primo kit didattico sul tema dei bias nell'intelligenza artificiale generativa per scuole secondarie.

Key Takeaways

I modelli di intelligenza artificiale riflettono i pregiudizi presenti nei dati di addestramento.
I bias possono manifestarsi in vari ambiti come genere, età, colore della pelle e status socioeconomico.
Specificare dettagli nel prompt aiuta a ottenere immagini più precise ma non elimina i bias alla radice.
È fondamentale educare gli studenti a riconoscere e comprendere i bias per un uso consapevole dell'IA.
La soluzione definitiva richiede dati di addestramento più variegati e privi di pregiudizi.

Summary

Presentazione del progetto Classe AI con Fondazione Vodafone, Fondazione Golinelli e Standup City.
Descrizione del primo kit didattico dedicato ai bias nell'intelligenza artificiale generativa.
Spiegazione del funzionamento dei modelli di intelligenza artificiale basati su dati testuali e immagini.
Analisi del processo di generazione di immagini a partire da un prompt testuale.
Definizione di bias come pregiudizi o preconcetti presenti nei dati di addestramento.
Esempi di bias di genere nelle immagini generate (insegnante donna, manager uomo).
Origine dei bias nei dati culturali usati per l'addestramento dei modelli.
Importanza di individuare e riconoscere i bias per evitarne le conseguenze discriminatorie.
Strategie per ridurre i bias: specificare dettagli nel prompt e migliorare la qualità dei dati di addestramento.
Attività laboratoriale per studenti per esplorare, riconoscere e riflettere sui bias nelle immagini generate.

Full Transcript — Download SRT & Markdown

Speaker A

[Musica] Nell'ambito del progetto Classe AI didattica innovativa con l'intelligenza artificiale, Fondazione Vodafone, Fondazione Golinelli e Standup City hanno messo appunto tre kit didattici per l'insegnante e per le sue classi di scuola secondaria di secondo grado. In questo breve video vi illustreremo il

Speaker A

primo kit dedicato al tema dei bias. In particolare, parleremo della possibile presenza di preconcetti nell'intelligenza artificiale generativa, rifletteremo anche sulle conseguenze che possono avere sul mondo esterno e su come possiamo fronteggiarli. Sapete già come funzionano i modelli di

Speaker A

intelligenza artificiale? Cominciamo col dire che sono addestrati tramite quantità enormi di dati testuali e di immagini presi dalle fonti più disparate: libri, documenti digitalizzati e internet. Un modello di intelligenza artificiale per generare immagini comincia il suo processo analizzando il

Speaker A

prompt, cioè la descrizione testuale dell'immagine che vogliamo andare a generare. In questo modo individua le caratteristiche e i dettagli che deve inserire nell'immagine. Per analizzare i punti chiave del nostro prompt e le loro relazioni, il modello si basa sui milioni

Speaker A

di testi immagazzinati. Una volta individuate le descrizioni e gli elementi più significativi, cerca di capire come rappresentarli. Per questo fa riferimento alle tante immagini che ha analizzato in fase di allenamento e alle loro descrizioni testuali. Così comprende quali sono i gruppi di punti colorati da

Speaker A

inserire nell'immagine. Parte da un'immagine costituita da punti casuali e inserisce tutti gli insiemi di punti corrispondenti ai dettagli che abbiamo indicato nel prompt. Le combina poi in modo sempre più preciso, in modo da ottenere immagini originali ma con

Speaker A

caratteristiche simili a quelle che ha visto in fase di allenamento. Ovviamente il nostro compito non è finito una volta che l'immagine prodotta dal modello viene visualizzata. Possiamo comunque trovare delle inesattezze o degli errori e, dunque, fornire feedback al modello in

Speaker A

modo che possa modificare l'immagine di conseguenza. Anche quando l'immagine sembrerebbe essere completa, possiamo spesso notare la presenza di dettagli causati dai cosiddetti bias. Per bias si intende un pregiudizio o un preconcetto che può ovviamente essere di molteplici

Speaker A

tipi diversi, che va comunque a minare la bontà del prodotto generato, discriminando o escludendo in qualche modo una determinata categoria di persone. Prendiamo per esempio il seguente prompt: insegnante di asilo nido con bambini tutti intorno. Non importa quante volte proponiamo lo stesso prompt,

Speaker A

al nostro modello otterremo sempre foto diverse ma accomunate dalla stessa caratteristica: l'insegnante sarà sempre una donna, nonostante non abbiamo specificato tale dettaglio. Allo stesso modo, se chiediamo alla macchina di generare l'immagine di una figura manageriale di successo, ci mostrerà

Speaker A

sempre un uomo. Questi risultati mostrano la presenza di un ovvio bias di genere per quanto riguarda questi ruoli, l'idea che donne e uomini abbiano caratteristiche diverse che li rendono più o meno adatti a ricoprire certe posizioni. Ovviamente la macchina in sé

Speaker A

non vuole perpetrare questi pregiudizi, così come sicuramente non voleva farlo neanche il team di sviluppo che l'ha addestrata. Il problema è nei dati: essendo presi da testi e immagini legati alla nostra cultura, sono infatti intrisi di questi pregiudizi che ancora

Speaker A

oggi sono purtroppo presenti in essa. Proprio qui, dunque, entriamo in gioco noi che dobbiamo improvvisarci del bias, facendo attenzione a individuare questi dettagli quando si presentano. Possiamo capire quanto sia comune incontrare questi preconcetti, ma soprattutto quali possono essere le loro conseguenze reali.

Speaker A

Oltre al bias di genere che abbiamo appena visto insieme, infatti, le immagini che l'intelligenza artificiale produce potrebbero contenere pregiudizi legati all'età, al colore della pelle o allo status socioeconomico. Il modo più semplice per evitare queste difficoltà è quello di

Speaker A

specificare ogni caratteristica dei soggetti che vogliamo rappresentare. In questo modo l'immagine che otteniamo è sicuramente più precisa ed equa, ma ovviamente non serve a niente per colpire la radice del problema. L'unico modo per risolvere del tutto la questione è fare attenzione ai dati

Speaker A

inseriti per accertarsi che siano abbastanza variegati e privi di pregiudizi. L'attività laboratoriale vuole quindi rendere maggiormente partecipi gli studenti e le studentesse riguardo al tema, offrendo delle solide basi per potersi orientare più facilmente in questo ambiente che già

Speaker A

esplorano in autonomia. Andranno quindi a utilizzare modelli di generazione di immagini e partire dal testo, in modo da capire a fondo il loro funzionamento. Poi ci sarà la ricerca di segni della presenza di bias nelle immagini che producono, confrontandoli

Speaker A

anche con esempi trovati in rete. Infine ragioneranno sulle conseguenze reali di tali meccanismi e sull'importanza di tenerli sotto controllo. Sperando di aver suscitato curiosità rispetto a questo tema, vi auguriamo buon lavoro e vi ricordiamo che se volete approfondire

Speaker A

ulteriormente potete iscrivervi gratuitamente al percorso formativo CL su www.classe.it.

Topics:intelligenza artificialebiasdidattica innovativaFondazione GolinelliFondazione Vodafonemodelli generativieducazione digitalescuola secondariadiscriminazioneintelligenza artificiale generativa

Frequently Asked Questions

Che cosa sono i bias nell'intelligenza artificiale generativa?

I bias sono pregiudizi o preconcetti presenti nei dati di addestramento che possono causare rappresentazioni discriminatorie o inesatte nelle immagini generate dall'intelligenza artificiale.

Come si manifesta un bias di genere nelle immagini generate dall'IA?

Ad esempio, nel video si mostra che un prompt come 'insegnante di asilo nido con bambini' genera sempre immagini con insegnanti donne, mentre una figura manageriale di successo viene rappresentata sempre come uomo, riflettendo stereotipi culturali.

Qual è il modo migliore per ridurre i bias nelle immagini generate dall'IA?

Specificare dettagli precisi nel prompt aiuta a ottenere immagini più accurate, ma la soluzione definitiva richiede dati di addestramento più variegati e privi di pregiudizi culturali.

Get More with the Söz AI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries, speaker detection, and unlimited transcriptions.

App Store Google Play

Or transcribe another YouTube video here →