Nel febbraio del 2024 un ragazzino americano di quattordici anni si è ucciso sparandosi un colpo di pistola in testa dopo aver allacciato una lunga relazione con un chatbot creato attraverso CharacterAI.
Nei giorni scorsi la causa promossa dalla mamma davanti ai Giudici della Florida contro Character AI e Google è stata chiusa con una transazione.
È una storia che merita qualche riflessione.
La sigla e ne parliamo.
Leggere l’atto di citazione con il quale Megan Garcia, la mamma del ragazzo morto suicida aveva chiesto ai Giudici di Orlando, in Florida di accertare la responsabilità di CharacterAI e Google nella morte del figlio e condannarle al risarcimento dei danni è un esercizio dolorosissimo ma prezioso perché racconta di una storia normale a dispetto del tragico epilogo.
Quella di Sewell, così si chiamava il figlio quattordicenne che non c’è più è, infatti, probabilmente una storia eguale a quelle di milioni di altri bambini e adolescenti, storie delle quali, magari, da adulti, non ci rendiamo conto, non ci accorgiamo o non percepiamo con la necessaria urgenza e gravità proprio come accaduto a Megan Garcia.
Sewell, in pochi mesi, aveva stretto una vera e propria relazione sentimentale e sessuale con un chatbot generato attraverso i servizi di CharacterAI, una relazione della quale non era più in grado di fare a meno, una relazione che lo aveva profondamente cambiato tanto nel rapporto con i genitori tanto in quelli a scuola e con gli amici.
Questo la mamma, in qualche modo, lo aveva intuito tanto da portare il figlio da uno psicologo che aveva confermato i suoi sospetti.
Nessuno però aveva immaginato e, forse, avrebbe potuto immaginare che la condizione di dipendenza del ragazzino nei confronti del chatbot era tanto profonda da impedirgli di farne a meno, da costringerlo a rinunciare alle merende per pagare il canone dei servizi di abbonamento premium necessari a avere conversazioni sentimental-sessuali con il suo amore artificiale, tanto, quando la mamma nella speranza di aiutarlo gli ha tolto il telefonino, da portarlo a fare ogni genere di tentativo per ritrovarlo o collegarsi al chatbot diversamente e, poi, vistosi perso, chiudersi in bagno, scambiare poche parole proprio con il chatbot in questione attraverso lo smartphone momentaneamente ritrovato e, quindi, spararsi un colpo di pistola in testa.
Il giudizio non accerterà mai se e quali responsabilità effettive siano imputabili a chi ha progettato, gestito e distribuito il servizio utilizzato da Sewell perchè, appunto, le parti, nei giorni scorsi, hanno raggiunto un accordo transattivo i cui termini non sono stati resi noti.
E, però, noi, da adulti, da genitori, da istituzioni qualche domanda dobbiamo porcela perché quello che è successo a Sewell domani potrebbe accadere a chiunque altro, a un altro bambino, un altro adolescente, a una nostra figlia o a un nostro figlio.
Tra queste domande, una delle più importanti, probabilmente, riguarda la sostenibilità dell’idea – sin qui imposta da industria e mercato – che chatbot di questo genere, chatbot che si presentano come capaci di esserci amici, fidanzate, amante e psicoterapeutici possano essere, sostanzialmente, utilizzabili da chiunque, a prescindere dall’età e, quindi, anche da bambini e adolescenti.
È davvero accettabile?
Perché la cronaca, purtroppo, racconta che in giro per il mondo ci sono già decine di casi di adulti che si sono tolti la vita all’esito di relazioni di diverso genere con chatbot di ogni tipo ed è facile capire che se quel genere di relazioni è pericolosa per un adulto non può che esserlo ancora di più per un bambino o per un adolescente.
E, forse, non è un caso che l’accordo transattivo arrivi proprio mentre in California, dove hanno sede CharacterAI e Google, entra in vigore la prima legge al mondo che impone, tra l’altro, alle aziende che forniscono servizi di chatbot di verificare l’età degli utenti e di limitare in maniera straordinariamente rigorosa ogni possibilità che i chatbot in questione abbiano conversazioni di tipo sessuale con i più giovani.
Varrebbe, forse, la pena, senza attendere un’altra tragedia come quella di Sewell, seguire l’esempio californiano.
È ovvio che non è solo una questione di età ma, al tempo stesso, non c’è dubbio che tenere i più piccoli lontani da certi rischi insostenibili potrebbe essere un buon inizio.
Buona giornata e, come sempre, good morning privacy.
STATI UNITI: AZIONISTI COUPANG AVVIANO UNA CLASS ACTION PER DATA BREACH
Gli azionisti Dell’e-commerce accusano l’azienda di aver omesso o minimizzato informazioni rilevanti sul più grande data breach mai registrato in Corea del Sud
Secondo la denuncia depositata presso la U.S. District Court for the Northern District of California: Coupang avrebbe sottovalutato i rischi di cybersecurity, pur essendo a conoscenza di vulnerabilità strutturali nei propri sistemi e dell’accesso prolungato non autorizzato ai dati dei clienti. La società non avrebbe comunicato tempestivamente l’incidente al mercato, ritardando il deposito di un Form 8-K dopo la scoperta della violazione. Le dichiarazioni contenute nei documenti e nei report avrebbero fornito agli investitori una rappresentazione fuorviante del livello di rischio, contribuendo a mantenere alto il prezzo delle azioni.
Perché è rilevante?
Il caso Coupang mostra come un data breach possa trasformarsi in una questione di mercato finanziario, non solo di protezione dei dati personali. La causa non riguarda esclusivamente la perdita di dati, ma il dovere di trasparenza verso gli investitori quando un incidente di sicurezza può avere impatti materiali su reputazione, sanzioni regolatorie e governance aziendale. Il procedimento si inserisce in un contesto di crescente attenzione internazionale verso la responsabilità delle società quotate nella gestione e comunicazione degli incidenti cyber.
Reazioni e Impatti
Secondo quanto riportato dalla stampa sudcoreana, la vicenda ha generato forti reazioni politiche e istituzionali in Corea del Sud, con indagini regolatorie, audizioni parlamentari e le dimissioni del CEO della controllata coreana di Coupang.Negli Stati Uniti, la class action potrebbe portare a risarcimenti significativi per gli azionisti. Il caso Coupang evidenzia come la mancata comunicazione di un data breach possa trasformare un incidente di sicurezza in una violazione degli obblighi informativi verso gli investitori.
UNITED STATES: COUPANG SHAREHOLDERS FILE A CLASS ACTION OVER DATA BREACH
The e-commerce company’s shareholders accuse the company of omitting or downplaying material information about the largest data breach ever recorded in South Korea
According to the complaint filed with the U.S. District Court for the Northern District of California, Coupang allegedly underestimated its cybersecurity risks despite being aware of structural vulnerabilities in its systems and of prolonged unauthorized access to customer data. The company is accused of failing to promptly disclose the incident to the market, delaying the filing of a Form 8-K after discovering the breach. Statements contained in corporate filings and reports are alleged to have provided investors with a misleading picture of the level of risk, contributing to keeping the share price elevated.
Why it matters
The Coupang case shows how a data breach can become a financial markets issue, not merely a matter of personal data protection. The lawsuit does not focus solely on the loss of data, but on the duty of transparency toward investors when a security incident may have material impacts on reputation, regulatory sanctions, and corporate governance.
The case fits into a broader international context of growing scrutiny over the responsibility of publicly listed companies in managing and communicating cyber incidents.
Reactions and Impacts
According to South Korean media reports, the incident has triggered strong political and institutional reactions in South Korea, including regulatory investigations, parliamentary hearings, and the resignation of the CEO of Coupang’s Korean subsidiary. In the United States, the class action could result in significant compensation for shareholders.
The Coupang case highlights how the failure to disclose a data breach can turn a security incident into a violation of disclosure obligations toward investors.
Cina: una nuova proposta di legge sull’IA
La Cyberspace Administration of China (CAC) ha pubblicato una proposta di legge, aperta alla consultazione pubblica, che mira a regolamentare l’uso dell’intelligenza artificiale con una forte enfasi sulla salute mentale degli utenti e sull’interazione emotiva generata dalle tecnologie di IA.
Secondo la proposta di legge:
Le aziende che offrono servizi di IA con capacità di interazione emotiva (come chatbot e assistenti conversazionali) dovranno rispettare nuovi standard etici e di sicurezza.
I fornitori dovranno implementare sistemi per monitorare gli stati emotivi degli utenti, identificare segnali di dipendenza o stress emotivo e intervenire quando necessario.
La proposta di legge prevede l’obbligo di avvisi espliciti che informino l’utente che sta interagendo con un sistema di IA, e introduce limiti all’uso continuativo (ad esempio avvisi dopo periodi prolungati di utilizzo).
La proposta di legge vieta contenuti o comportamenti dell’IA che possano incoraggiare suicidio, autolesionismo, violenza, gioco d’azzardo o manipolazione emotiva.
La proposta di legge include misure di protezione per minorenni, con requisiti di consenso dei genitori e limiti di tempo di utilizzo.
Questa proposta di legge rappresenta uno dei tentativi più diretti al mondo di regolare l’IA sul fronte della salute mentale e psicologica, non limitandosi alla sicurezza dei dati o alla trasparenza algoritmica.
La proposta di legge si inserisce in un più ampio sforzo normativo cinese che include controlli sui contenuti e prescrizioni di valore sociale nei sistemi digitali.
Analisti internazionali considerano questa proposta di legge come un possibile modello globale per la regolamentazione dell’IA, soprattutto in settori sensibili come la salute mentale.
Se diventerà legge, questa proposta di legge potrebbe ridefinire gli standard internazionali su come le IA interagiscono con gli esseri umani su basi emozionali e psicologiche, ponendo un nuovo accento su responsabilità, prevenzione del danno emotivo e protezione dei gruppi vulnerabili.
China: a new proposed law on AI
The Cyberspace Administration of China (CAC) has published a proposed law, open for public consultation, aimed at regulating the use of artificial intelligence with a strong focus on users’ mental health and on the emotional interaction generated by AI technologies.
According to the proposed law:
Companies offering AI services with emotional interaction capabilities (such as chatbots and conversational assistants) will be required to comply with new ethical and safety standards.
Providers will have to implement systems to monitor users’ emotional states, identify signs of dependency or emotional distress, and intervene when necessary.
The proposed law requires explicit notices informing users that they are interacting with an AI system, and introduces limits on continuous use (for example, notifications after prolonged periods of use).
The proposed law prohibits AI content or behavior that could encourage suicide, self-harm, violence, gambling, or emotional manipulation.
The proposed law includes protective measures for minors, with requirements for parental consent and limits on usage time.
This proposed law represents one of the most direct attempts worldwide to regulate AI in relation to mental and psychological health, going beyond data security or algorithmic transparency.
The proposed law fits into a broader Chinese regulatory effort that includes content controls and prescriptions of social values within digital systems.
Reactions and Impacts
International analysts consider this proposed law a possible global model for AI regulation, particularly in sensitive areas such as mental health.
If it becomes law, this proposed law could redefine international standards for how AI systems interact with human beings on emotional and psychological grounds, placing new emphasis on responsibility, prevention of emotional harm, and protection of vulnerable groups.
In Italia la notizia l’hanno battuta in pochi e, forse, non c’è da sorprendersi: la BBC, il servizio pubblico televisivo inglese, uno dei laboratori più blasonati di giornalismo di qualità, nei giorni scorsi ha raggiunto un accordo transattivo con una famiglia israeliana dopo averne violato la privacy.
La famiglia, attaccata da Hamas il 7 ottobre 2023 aveva citato l’emittente televisiva in Tribunale dopo che una troupe era entrata nella sua abitazione, subito dopo l’attacco al quale era miracolosamente sopravvissuta e aveva ripreso scene di disperazione e sconforto facilmente immaginabili, oggetti e foto personali e personalissimi.
La sigla e ne parliamo.
“Non solo i terroristi hanno fatto irruzione in casa nostra e hanno cercato di ucciderci – hanno detto i sopravvissuti all’attacco – ma poi la troupe della BBC è entrata di nuovo, questa volta con una telecamera come arma, senza permesso o consenso. È stata un’altra intrusione nelle nostre vite. Sentivamo che tutto ciò che era ancora sotto il nostro controllo ci era stato portato via.”.
Sono parole che rendono meglio di tante altre l’idea di quanto valga o, almeno, dovrebbe valere l’intimità, la privacy, la riservatezza per ciascuno di noi e quanto rispettarla debba, o, almeno, dovrebbe essere un dovere di tutti a cominciare da chi fa informazione.
Una famiglia appena sopravvissuta alla violenza di granate lanciate dai terroristi contro la porta di casa che vive come analoga e, anzi, forse ancora più prepotente e violenta, la violazione della propria intimità commessa da una troupe televisiva entrata, senza alcun permesso, dentro quella stessa casa.
E una troupe televisiva, di un’emittente simbolo del giornalismo di qualità che, per raccontare una scena di guerra, di inaudita violenza, usa altrettanta violenza.
Disumanità dopo disumanità.
Inciviltà dopo inciviltà.
Una sequenza di episodi che non avrebbe mai dovuto trovare spazio nella storia dell’umanità.
Ma, forse, anche una sequenza di episodi che può insegnarci molto a condizione di non lasciarcela scivolare addosso come una notizia qualsiasi, una di quelle che contano di meno, una di quelle da consegnare in fretta agli archivi storici dei giornali.
Anche e soprattutto in un momento nel quale, ovunque nel mondo, Italia inclusa, si fa sempre più fatica a tracciare la linea di confine tra giornalismo, anche d’inchiesta e la protezione della privacy delle persone.
Il diritto di cronaca non è un diritto assoluto proprio come non lo è il diritto alla privacy e, quindi, neppure il sacrosanto diritto-dovere di raccontare gli orrori di un’autentica guerra giustificano la violazione dell’intimità della casa di un’intera famiglia, bambini inclusi, appena scampata a un attacco terroristico.
È una lezione che la BBC ha fatto propria in fretta, rinunciando a difendere in Tribunale l’idea che la propria missione informativa fosse una valida giustificazione per entrare, telecamere alla mano, dentro casa della famiglia senza neppure aver chiesto permesso.
Quella storia si poteva – e, anzi, forse, si doveva – raccontare senza violare la privacy di quella famiglia o chiedendo e ottenendo il consenso a entrare dentro quella casa o non raccogliendo e trasmettendo quelle immagini di ordinario disumano dolore che, purtroppo, ormai, aggiungono poco all’orrore di quella guerra.
E c’è da augurarsi che sia una lezione che anche chi fa giornalismo nel resto del mondo, a cominciare da casa nostra, impari in fretta e per davvero.
Non c’è ragione per vedere nella privacy una nemica del buon giornalismo, proprio come il buon giornalismo non è nemico della privacy.
Un equilibrio è possibile.
E, in fondo, anche se pochi lo ricordano, il diritto alla privacy, quello teorizzato per la prima volta nel 1890 da Warren e Brandeis nel loro saggio sulla Harvard Law Review, nasce proprio come reazione a una serie di articoli pubblicati sul giornale addirittura di quel Joseph Pulitzer che sarebbe presto diventato il nome simbolo del miglior giornalismo possibile, a conferma, probabilmente, del fatto che privacy e informazione sono diritti complementari, simbiotici, alleati, capaci di migliorarsi a vicenda e, insieme, rendere migliore la vita delle persone e delle nostre democrazie.
LE MALDIVE ANNUNCIANO IL LANCIO DELL’ID INTELLIGENTE NEL 2026
Le Maldive hanno annunciato che introdurranno un sistema di identità intelligente nazionale a partire dal 2026, come parte di una strategia più ampia di modernizzazione dei servizi pubblici e digitalizzazione dello Stato. Il nuovo ID dovrebbe integrare funzionalità digitali e biometriche per semplificare l’accesso a servizi governativi, bancari e amministrativi, riducendo la burocrazia e migliorando l’efficienza. Il progetto viene presentato come un passo necessario per sostenere lo sviluppo economico e turistico del Paese, ma solleva anche interrogativi su sicurezza dei dati, protezione della privacy e capacità istituzionale di gestire un’infrastruttura di identità digitale su scala nazionale.
DUBAI ESTENDE IL CHECK-IN BIOMETRICO A TUTTI GLI HOTEL DELLA CITTÀ
Dubai ha avviato il check-in biometrico negli hotel di tutta la città, consentendo agli ospiti di registrarsi utilizzando il riconoscimento facciale senza mostrare documenti fisici alla reception. L’iniziativa rientra nella visione di Dubai come città completamente digitale e punta a rendere l’esperienza turistica più rapida, fluida e tecnologicamente avanzata. Allo stesso tempo, l’uso esteso della biometria nel settore dell’ospitalità rafforza il dibattito su conservazione dei dati, condivisione tra operatori e confini tra comodità, sorveglianza e tutela della vita privata.
NISSAN CONFERMA UN DATA BREACH CHE COINVOLGE MIGLIAIA DI CLIENTI
Nissan Motor ha confermato che un attacco informatico ha portato all’esposizione dei dati personali di circa 21.000 clienti. Le informazioni compromesse includono dati di contatto e altri elementi identificativi, a seguito di un accesso non autorizzato a sistemi interni. L’azienda ha avviato le notifiche agli interessati e le verifiche di sicurezza, mentre l’incidente riaccende l’attenzione sulla vulnerabilità delle catene di fornitura digitali e dei sistemi IT nel settore automotive, sempre più dipendente da piattaforme connesse e grandi volumi di dati personali.
THE MALDIVES TO LAUNCH A NATIONAL SMART ID IN 2026
The Maldives has announced plans to introduce a national smart ID system starting in 2026 as part of a broader push to modernize public services and accelerate digital transformation. The new ID is expected to include digital and biometric features to streamline access to government, banking and administrative services, reducing bureaucracy and improving efficiency. While framed as a key step for economic and tourism development, the initiative also raises questions around data security, privacy protection and the state’s ability to manage a nationwide digital identity infrastructure.
DUBAI ROLLS OUT BIOMETRIC HOTEL CHECK-IN ACROSS THE CITY
Dubai has launched biometric check-in across hotels citywide, allowing guests to register using facial recognition without presenting physical documents at reception desks. The move aligns with Dubai’s ambition to become a fully digital city and aims to deliver a faster and more seamless hospitality experience. At the same time, the widespread use of biometric technologies in hotels intensifies discussions about data retention, information sharing among operators and the balance between convenience, surveillance and personal privacy.
NISSAN CONFIRMS DATA BREACH AFFECTING AROUND 21,000 CUSTOMERS
Nissan Motor has confirmed a data breach that exposed the personal information of approximately 21,000 customers. The compromised data includes contact details and other identifying information following unauthorized access to internal systems. The company has begun notifying affected individuals and strengthening security measures, as the incident highlights ongoing vulnerabilities in the automotive sector’s increasingly connected and data-driven digital ecosystems.
AgoraVox Italia