Google starebbe lavorando a una nuova funzione di sicurezza per Gemini pensata per i più giovani: se un minore, durante una conversazione con l’assistente AI, affronta il tema dell’autolesionismo, l’app potrebbe avvisare automaticamente i genitori. L’indizio emerge dal codice interno della app Google per Android, individuato dagli analisti di Android Authority nella versione 17.73.15.
Un’estensione di Family Link
Le stringhe scoperte nel codice non pubblico descrivono un sistema di “notifiche di sicurezza” riservato agli account dei minori gestiti tramite Family Link, il controllo parentale di Google. Se attivata, la funzione mostrerebbe al ragazzo un avviso ben visibile che segnala la presenza del controllo, mentre ai genitori verrebbe inviata una notifica qualora Gemini rilevasse, nella conversazione, riferimenti a comportamenti autolesionistici.
Si tratterebbe di un salto di qualità rispetto agli attuali strumenti di Family Link, finora limitati a filtri sui contenuti e limiti di utilizzo delle app, senza alcuna analisi del contenuto effettivo delle chat con l’intelligenza artificiale.
Il nodo privacy
La funzione, se confermata, porrebbe un dilemma non banale. Da un lato potrebbe permettere di intercettare precocemente segnali di disagio e indirizzare il ragazzo verso un aiuto concreto. Dall’altro, la consapevolezza di essere “monitorati” potrebbe scoraggiare proprio i minori più in difficoltà dal confidarsi con l’assistente, specialmente durante l’adolescenza, quando la percezione di uno spazio sicuro per parlare dei propri problemi è cruciale.
Il contesto: cause legali e maggiore attenzione ai minori
La scoperta arriva in un momento di crescente attenzione verso la sicurezza dei minori nei servizi basati su intelligenza artificiale. Di recente alcuni genitori avrebbero fatto causa a Google sostenendo che la funzione di ricerca basata su AI avesse affrontato il tema del suicidio in una conversazione con un minorenne. Dall’analisi della app emerge inoltre lo sviluppo di un ulteriore strumento, non ancora attivo, che permetterebbe ai genitori di limitare il tempo giornaliero di utilizzo di Gemini.
Va precisato che, al momento, si tratta di una funzione individuata in codice non pubblicato e non ancora annunciata ufficialmente da Google. Non sono quindi noti i dettagli su età coinvolte, condizioni esatte che fanno scattare la notifica né i tempi di un eventuale rilascio.
