Lead: Propunerea europeană EU KIDS ACT extinde reglementarea serviciilor digitale și asupra chatboților AI care interacționează cu copii, avertizând asupra riscurilor de conversații nepotrivite, colectare de date sensibile şi dezvoltare de dependenţe emoţionale. Anunțul a fost făcut pe pagina de Facebook a Consiliului Național al Audiovizualului.
Conform postării publicate de Consiliul Național al Audiovizualului, propunerea EU KIDS ACT include explicit şi aplicațiile de inteligență artificială care poartă conversații zilnice cu minori. Motivația principală enunțată este că un agent conversațional accesibil permanent copilului poate transmite conținut nepotrivit pentru vârstă, poate colecta și prelucra date cu caracter sensibil, poate contribui la instalarea unei dependențe emoționale și, în timp, poate înlocui relațiile reale cu o prezență digitală.
Documentul citat în postare subliniază că cerința centrală este ca serviciile adresate minorilor să fie proiectate astfel încât să fie sigure pentru copii, nu invers — adică responsabilitatea nu trebuie să revină exclusiv utilizatorului de a se proteja. În practică, aceasta înseamnă că furnizorii de chatboți şi aplicaţii bazate pe AI ar urma să adopte măsuri de proiectare care să limiteze riscurile pentru utilizatorii tineri, incluzând, potrivit comunicării, restricții privind conținutul, mecanisme de minimizare a colectării de date și soluții care să prevină exploatarea emoțională a copiilor.
Impactul propunerii asupra furnizorilor de tehnologii şi dezvoltatorilor de servicii digitale poate fi multiplu: necesitatea ajustării modelelor de interacțiune, implementarea unor filtre de conținut și a unor politici de retentie și acces la date conforme cu protecția minorilor, precum și dezvoltarea unor mecanisme de transparență față de părinți și autorități. Pentru familii și instituțiile care lucrează cu copii, măsurile propuse ar putea aduce un grad mai mare de siguranță în utilizarea chatboților și o responsabilizare sporită a companiilor care pun pe piață astfel de produse.
Reprezentanții sectorului tehnologic au avertizat în alte contexte că reglementările stricte pot afecta inovația și pot obliga companiile să restricționeze funcționalități. Totuși, argumentul principal al EU KIDS ACT, conform comunicării CNAtv, pune accentul pe necesitatea ca protecția copiilor să fie integrată din faza de proiectare a serviciilor, astfel încât minorii să nu fie forțați să își asume singuri responsabilitatea pentru propria siguranță digitală.
Pe plan local, includerea chatboților în sfera de aplicare a propunerii europene poate determina autoritățile naționale de reglementare să elaboreze îndrumări specifice pentru furnizorii de servicii interactive, să monitorizeze conformitatea și să colaboreze cu operatorii educaționali și societatea civilă pentru a informa părinții și cadrele didactice despre riscuri și bune practici.
Încheiere: Informațiile prezentate se bazează pe comunicarea publicată pe pagina de Facebook a Consiliului Național al Audiovizualului (https://www.facebook.com/consiliulnationalalaudiovizualului). Propunerea EU KIDS ACT rămâne în continuare un document la nivel european, iar următorii pași prevăzuți includ dezbateri și eventuale modificări în procesul legislativ al instituțiilor europene înainte de adoptare și transpunere la nivel național.