Dove usiamo l'intelligenza artificiale (e dove no)
Informativa di trasparenza sull'uso di sistemi di intelligenza artificiale, resa anche ai sensi del Regolamento (UE) 2024/1689 ("AI Act"), del Regolamento (UE) 2022/2065 ("Digital Services Act"), del Regolamento (UE) 2016/679 ("GDPR") e della legge 23 settembre 2025, n. 132. I riferimenti precisi sono al punto 7. Ultimo aggiornamento: 12/11/2026.
1. In breve
Su Jollychat l'intelligenza artificiale serve a una cosa sola: aiutarci a moderare. Due programmi di classificazione automatica controllano il tono dei messaggi e le immagini delle webcam e delle foto profilo, per far rispettare le regole anche quando lo staff non sta guardando. Non c'è intelligenza artificiale in nessun'altra parte del servizio che usi.
2. Dove non la usiamo
- Nessuna conversazione con una macchina. Non ci sono chatbot, assistenti virtuali o utenti simulati: chi ti scrive, in stanza o in privato, è sempre una persona. Anche le email che ricevi da noi e le risposte dell'assistenza sono scritte da persone o sono testi fissi.
- Nessun contenuto generato o alterato. Non produciamo né modifichiamo con l'intelligenza artificiale testi, immagini, video o voci: nessun "deepfake", nessun filtro che cambia il volto o la voce, nessun profilo o foto creati artificialmente. Le fotografie delle pagine di presentazione sono fotografie vere.
- Nessun riconoscimento delle persone. Non usiamo riconoscimento facciale né altri sistemi biometrici, non riconosciamo le emozioni e non stimiamo in automatico età, sesso o altre caratteristiche di chi è in webcam.
- Nessuna profilazione. Non usiamo l'intelligenza artificiale per consigliarti persone o stanze, per assegnarti un punteggio, per decidere prezzi o abbonamenti o per la pubblicità (che non facciamo).
- Nessun addestramento con i tuoi contenuti. Messaggi, immagini della webcam e foto non vengono usati per addestrare o migliorare modelli di intelligenza artificiale, né nostri né di altri.
- Giochi, classifiche, livelli, statistiche e controlli contro i programmi automatici funzionano con regole fisse scritte da noi (elenchi di domande preparati in anticipo, conteggi, soglie), non con l'intelligenza artificiale. Lo stesso vale per il filtro sulle parole vietate, che è un semplice elenco.
Per completezza: chi sviluppa Jollychat usa anche strumenti di intelligenza artificiale come aiuto nella scrittura del software, sotto il controllo e la responsabilità di una persona. Questi strumenti non fanno parte del servizio in funzione e non trattano i tuoi dati.
3. Dove la usiamo: la moderazione automatica
Usiamo due modelli di classificazione a codice aperto, che girano sul nostro server, nell'Unione europea. Nessun messaggio e nessuna immagine vengono inviati ad altre aziende per essere analizzati.
- Tono dei messaggi (nelle stanze, nei messaggi privati e nei messaggi diretti). Un modello di classificazione del linguaggio assegna a ogni messaggio un punteggio di ostilità (insulti, minacce, molestie). Se il punteggio supera la soglia, il messaggio non viene consegnato e te lo diciamo subito. Cinque messaggi bloccati in 24 ore comportano una sospensione di 7 giorni.
- Webcam nelle stanze pubbliche. Mentre la webcam è accesa, ogni 8 secondi un fotogramma ridotto viene analizzato da un modello di classificazione delle immagini, che stima se contiene nudità o contenuti espliciti. Se la soglia è superata la webcam viene oscurata; alla seconda volta in 24 ore scatta una sospensione di 7 giorni. I fotogrammi vengono sovrascritti e non sono conservati. Nelle stanze private la webcam non è analizzata in automatico.
- Foto profilo. Lo stesso modello controlla la foto quando la carichi: se risulta esplicita viene rifiutata.
Questi modelli guardano il contenuto, non la persona: non identificano nessuno, non ricordano chi sei e non costruiscono un profilo. Di ogni intervento resta traccia nel registro tecnico descritto nell'informativa privacy (punti 2, 4 e 5).
4. Sempre sotto il controllo di una persona
- Ogni intervento automatico viene comunicato allo staff, che può annullarlo: riaccendere una webcam oscurata per errore, togliere una sospensione.
- Le decisioni più gravi (esclusione definitiva, segnalazione alle Autorità) le prende sempre una persona, mai un programma.
- Lo staff che modera conosce come funzionano questi strumenti e i loro limiti.
- Puoi contestare qualsiasi decisione automatica e chiedere che la riesamini una persona: scrivi a privacy@jollychat.it indicando nickname, giorno e ora. Rispondiamo entro 30 giorni.
5. I limiti di questi strumenti
Un classificatore automatico può sbagliare in entrambi i sensi: bloccare un messaggio innocuo (una battuta, una parola con doppio significato, un dialetto) o oscurare un'immagine che non lo meritava, e al contrario lasciar passare qualcosa che viola le regole. Per questo la moderazione automatica non sostituisce lo staff né le segnalazioni degli utenti, ma li affianca.
6. Come ci collochiamo rispetto all'AI Act
Jollychat utilizza questi sistemi come "deployer", cioè come utilizzatore di modelli sviluppati da altri. Secondo la nostra valutazione non rientrano fra le pratiche vietate dall'art. 5 né fra i sistemi ad alto rischio dell'AI Act, e il servizio non comprende sistemi che interagiscono con te fingendosi persone, che generano contenuti artificiali o che riconoscono emozioni o caratteristiche biometriche (i casi regolati dall'art. 50). Pubblichiamo comunque questa informativa perché tu sappia esattamente dove un programma interviene in ciò che fai. Se in futuro introdurremo altri usi dell'intelligenza artificiale, o affideremo la moderazione a fornitori esterni, lo scriveremo qui prima di attivarli.
7. Riferimenti normativi
Queste sono le norme a cui questa informativa fa riferimento, con quello che prevedono in parole semplici e come riguardano Jollychat.
- Regolamento (UE) 2024/1689 sull'intelligenza artificiale («AI Act»), come modificato dal regolamento «Digital Omnibus sull'IA» pubblicato nella Gazzetta ufficiale dell'Unione europea il 24/07/2026 (GU L, 2026/1744) e in vigore dal 27/07/2026.
- Art. 3, n. 4: definisce il «deployer», cioè chi utilizza un sistema di IA sotto la propria autorità. È il ruolo di Jollychat: usiamo modelli sviluppati da altri, non ne sviluppiamo.
- Art. 4 (alfabetizzazione in materia di IA, applicabile dal 02/02/2025): chi usa sistemi di IA adotta misure perché il personale che li utilizza ne conosca funzionamento e limiti. Vedi il punto 4.
- Art. 5 (pratiche vietate, applicabile dal 02/02/2025): vieta fra l'altro tecniche manipolative, punteggio sociale, categorizzazione biometrica su caratteristiche sensibili, riconoscimento delle emozioni sul lavoro e a scuola e, dal 2026, i sistemi che generano immagini intime non consensuali. Jollychat non usa nessuno di questi sistemi.
- Art. 6 e allegato III (sistemi ad alto rischio; obblighi applicabili dal 02/12/2027): elencano gli usi considerati ad alto rischio (per esempio selezione del personale, credito, istruzione, forze dell'ordine). La moderazione di messaggi e webcam di una chat non rientra, secondo la nostra valutazione, in quell'elenco; per questo non si applicano gli obblighi dei deployer di sistemi ad alto rischio (art. 26).
- Art. 50 (obblighi di trasparenza, applicabile dal 02/08/2026): chi ti fa interagire con un sistema di IA deve dirtelo; i contenuti generati o alterati dall'IA («deepfake») vanno dichiarati; chi usa sistemi di riconoscimento delle emozioni o di categorizzazione biometrica deve informare le persone. Su Jollychat non c'è nessuno di questi casi (punto 2): lo dichiariamo qui perché tu lo sappia con certezza.
- Regolamento (UE) 2022/2065 sui servizi digitali («Digital Services Act»).
- Art. 14: le condizioni del servizio devono spiegare in modo chiaro le regole, le procedure e gli strumenti usati per la moderazione dei contenuti, compresi i processi decisionali automatizzati e la revisione da parte di persone. È quello che fanno questa pagina e le Regole.
- Art. 17: quando un contenuto o un account viene limitato, l'utente ha diritto a saperne il motivo. Per questo un messaggio bloccato o una sospensione ti vengono comunicati subito, e puoi chiederne il riesame (punto 4).
- Regolamento (UE) 2016/679 sulla protezione dei dati («GDPR»).
- Art. 13, par. 2, lett. f): chi tratta dati personali deve informare dell'esistenza di decisioni automatizzate e della logica utilizzata. Trovi queste informazioni qui (punto 3) e nell'informativa privacy.
- Art. 22: hai diritto a non essere sottoposto a decisioni basate unicamente su trattamenti automatizzati che incidano in modo significativo su di te, e in ogni caso a ottenere l'intervento di una persona, a esprimere la tua opinione e a contestare la decisione. Come farlo è al punto 4.
- Legge 23 settembre 2025, n. 132 («Disposizioni e deleghe al Governo in materia di intelligenza artificiale»), in vigore dal 10/10/2025: fissa i principi nazionali sull'uso dell'IA (trasparenza, sorveglianza umana, tutela dei dati e dei minori) e indica le autorità italiane competenti, l'Agenzia per l'Italia digitale (AgID) e l'Agenzia per la cybersicurezza nazionale (ACN). Per la protezione dei dati personali resta competente il Garante per la protezione dei dati personali.
I testi ufficiali si trovano su EUR-Lex (norme europee) e su Normattiva (legge italiana). Le date di applicazione sono quelle in vigore alla data di aggiornamento di questa pagina.
8. A chi rivolgerti
Per domande su questa informativa, per contestare una decisione automatica o per esercitare i tuoi diritti scrivi a privacy@jollychat.it. Il titolare del servizio è Digital Fun srl, Foro Buonaparte 68, Milano. Se ritieni che i tuoi dati siano trattati in modo non corretto puoi rivolgerti anche al Garante per la protezione dei dati personali (garanteprivacy.it).