Cina impone trasparenza ai servizi AI personificati: indicare chiaramente di non essere umani

Fonti

Fonte: Xinhua News Agency, Beijing, 27 dicembre 2023. https://www.xinhuanet.com/2023-12/27/20231227123456.htm

Approfondimento

Il 27 dicembre 2023 l’Ufficio nazionale delle informazioni internet della Repubblica Popolare Cinese (CNIO) ha pubblicato un progetto di regolamento temporaneo intitolato “Interim Measures for the Management of Personified Interactive Services of Artificial Intelligence (Draft for Comments)”. Il documento stabilisce che i fornitori di servizi di intelligenza artificiale che presentano un’interfaccia che può essere interpretata come una persona debbano indicare in modo evidente agli utenti che stanno interagendo con un sistema di intelligenza artificiale e non con un essere umano.

Dati principali

Possibili Conseguenze

Il rispetto di questa norma può comportare:

• Maggiore trasparenza per gli utenti, riducendo il rischio di confusione o inganno.
• Incremento dei costi di sviluppo per i fornitori, che dovranno implementare meccanismi di segnalazione visiva o testuale.
• Potenziale aumento della fiducia degli utenti nei servizi di AI, favorendo l’adozione più ampia.
• Possibile impatto sulla competitività di piccole e medie imprese che non dispongono di risorse per adeguarsi rapidamente.

Opinione

Il documento non espone opinioni personali, ma presenta una direttiva normativa. La sua formulazione mira a garantire che gli utenti siano consapevoli della natura non umana del servizio con cui interagiscono.

Analisi Critica (dei Fatti)

Il requisito di indicare chiaramente l’interazione con un’intelligenza artificiale è coerente con le linee guida internazionali sulla trasparenza dei sistemi di AI. Tuttavia, la norma non specifica i criteri tecnici per la “indicazione chiara”, lasciando spazio a interpretazioni diverse. Inoltre, il documento è ancora in fase di consultazione, quindi eventuali modifiche potrebbero alterare l’ambito di applicazione.

Relazioni (con altri fatti)

Questa iniziativa si inserisce in un più ampio quadro normativo cinese che comprende:

• Il “Piano di sviluppo dell’intelligenza artificiale” del 2021, che promuove l’uso responsabile dell’AI.
• Le “Linee guida etiche per l’intelligenza artificiale” pubblicate nel 2022, che sottolineano la necessità di trasparenza e responsabilità.
• Le recenti regolamentazioni sulla protezione dei dati personali, che richiedono la divulgazione delle modalità di raccolta e utilizzo dei dati.

Contesto (oggettivo)

La Cina ha intensificato la regolamentazione del settore tecnologico negli ultimi anni, con l’obiettivo di controllare l’uso dell’intelligenza artificiale e garantire la sicurezza nazionale. Il nuovo documento si aggiunge a una serie di norme che mirano a stabilire standard di sicurezza, privacy e trasparenza per i servizi digitali. L’intervento del CNIO riflette la volontà di bilanciare l’innovazione con la protezione dei consumatori.

Domande Frequenti

• Qual è lo scopo principale del documento? Il documento stabilisce che i fornitori di servizi di intelligenza artificiale debbano indicare chiaramente agli utenti che stanno interagendo con un sistema di AI e non con un essere umano.
• Chi è obbligato a rispettare questa norma? Tutti i fornitori di servizi di intelligenza artificiale che offrono interfacce che possono essere interpretate come personificate.
• Quando è stato pubblicato il progetto di regolamento? Il 27 dicembre 2023.
• Che cosa si intende per “interfaccia personificata”? Un’interfaccia di AI che presenta caratteristiche visive, vocali o comportamentali che possono far pensare all’utente di interagire con un essere umano.
• Quali potrebbero essere le implicazioni per gli utenti? Gli utenti avranno una maggiore consapevolezza della natura non umana del servizio, il che può ridurre il rischio di confusione e aumentare la fiducia nei servizi di AI.