Intelligenza artificiale: genio imparziale o riflesso dei nostri pregiudizi? Bias di addestramento e mitigazione

Sul n.9/2024 di Bancaria è stato pubblicato un interessante articolo di Alessandro Carlini dell'Université de Bourgogne - Dijon. I computer sembrano sempre più in grado di pensare come gli esseri umani. Ma cosa succede se ne riflettono anche i pregiudizi? L’Intelligenza artificiale sta rivoluzionando molti settori, dalla medicina alla finanza, con un forte impatto sulla società. Dietro l’apparente oggettività degli algoritmi, però, si nasconde una questione insidiosa, uno dei problemi più importanti e meno conosciuti dell’Ia: i bias di addestramento. Un aspetto essenziale da conoscere ed affrontare correttamente, perché la loro mitigazione è una priorità per una Ia etica ed efficace. Di tutti i modelli che fanno parte della recente evoluzione dell’Ia, quelli più interessanti sono basati su architetture Large Language Model, capaci di comprensione e generazione di linguaggio naturale, addestrati su enormi quantità di dati provenienti soprattutto dal web.