Replika è un’applicazione sviluppata nel 2020 da una società statunitense e diffusa in tutto il mondo soprattutto tra i giovanissimi, Italia inclusa.

L’applicazione è caratterizzata da un software di intelligenza artificiale che si interfaccia con l’utente – tramite suoni e parole – studiato per creare un “amico virtuale” in grado di migliorare il benessere emotivo dell’utente, comprendendone i pensieri e calmandone l’ansia, aiutandolo a gestire lo stress, ecc.; in sostanza l’applicazione è in grado di influenzare le scelte, l’umore e la personalità dell’utente.

Con provvedimento del 2 febbraio 2023, il Garante della Privacy ha disposto il blocco dell’utilizzo dei dati degli utenti italiani attraverso l’applicazione poiché non vi sarebbero barriere effettive per impedirne l’utilizzo dei minori d’età (come effettivamente successo). Il Garante ha infatti sottolineato che non sarebbero sufficienti le dichiarazioni rese dagli utenti circa la propria maggiore età nel momento della creazione dell’account ma sarebbe necessario implementare meccanismi di riconoscimento della minore età dell’utente anche durante l’utilizzo dell’applicazione: ad esempio sulla base delle risposte date dall’utente che sarebbero chiaramente provenienti da un minore.

L’impatto della decisione del Garante nel caso Replika potrebbe essere rilevante anche per altri sistemi di intelligenza artificiale che saranno obbligati a dotarsi di meccanismi attivi per il riconoscimento dell’età anagrafica degli utenti anche durante l’utilizzo dell’applicazione, con conseguente revisione anche dei contratti di licenza per gli utenti.