Le funzioni di intelligenza artificiale integrate nella ricerca Google, AI Overviews e AI Mode, sono finite sotto accusa per la sicurezza dei più giovani. Un nuovo studio dell’organizzazione no profit Common Sense Media le definisce a “rischio inaccettabile” per i minori, riaprendo il dibattito sull’affidabilità della ricerca basata sull’intelligenza artificiale di Google.

Oltre 2600 ricerche analizzate per testare la sicurezza

Lo studio è stato condotto dallo Youth AI Safety Institute di Common Sense Media, che ha simulato account Google appartenenti a utenti di 11 e 15 anni, con SafeSearch attivo, per riprodurre le condizioni reali di utilizzo a scuola o a casa. I ricercatori hanno effettuato oltre 2.600 ricerche, analizzando più di 2.100 risposte e riferimenti generati dall’intelligenza artificiale.

Compiti svolti al posto degli studenti e informazioni errate

Il rapporto evidenzia diverse criticità: in alcuni casi AI Overviews avrebbe fornito direttamente le risposte a compiti scolastici invece di supportare l’apprendimento, mentre in altri casi sarebbero emerse informazioni inesatte o generate erroneamente dall’IA. Tra i casi più preoccupanti, i ricercatori segnalano anche risposte che avrebbero indicato procedimenti per creare contenuti deepfake, materiale considerato inappropriato per un pubblico giovane.

Un dibattito destinato a proseguire

Lo studio si aggiunge a una serie di analisi critiche sulle funzioni di intelligenza artificiale nei motori di ricerca, spingendo Google a rispondere pubblicamente sulle misure di sicurezza adottate per proteggere gli utenti più giovani. La vicenda riguarda da vicino anche gli utenti Android, dato che AI Overviews e AI Mode sono integrati di default nell’app Google e nel browser Chrome su smartphone, sollevando interrogativi sull’adeguatezza dei controlli parentali disponibili.