Mișcarea globală pentru protejarea copiilor online alimentează un val de tehnologii de siguranță bazate pe AI

În Marea Britanie, o nouă lege numită Online Safety Act impune companiilor de tehnologie obligația de a proteja copiii de conținutul inadecvat vârstei, discursurile instigatoare la ură, hărțuirea, frauda și materialele cu abuz sexual asupra copiilor (CSAM).

Companiile pot fi sancționate cu amenzi de până la 10% din veniturile lor anuale globale pentru încălcări.

De asemenea, reglementări istorice menite să asigure siguranța copiilor online sunt adoptate rapid de Congresul SUA. Un proiect de lege, cunoscut sub numele de Kids Online Safety Act, ar face platformele de socializare responsabile pentru prevenirea prejudiciilor aduse copiilor de produsele lor, similar cu Online Safety Act din Marea Britanie, potrivit CNBC.

Ginganții pornografiei iau măsuri

Această presiune din partea autorităților de reglementare determină din ce în ce mai mult o reevaluare a situației de către mai mulți actori importanți din domeniul tehnologiei.

Pornhub și alți giganți ai pornografiei online blochează accesul tuturor utilizatorilor la site-urile lor, cu excepția celor care trec printr-un sistem de verificare a vârstei.

Totuși, site-urile porno nu sunt singurele care au luat măsuri pentru a verifica vârsta utilizatorilor. Spotify, Reddit și X au implementat sisteme de verificare a vârstei pentru a împiedica expunerea copiilor la materiale sexuale explicite sau inadecvate.

Astfel de măsuri de reglementare au fost criticate de industria tehnologică, în special din cauza preocupărilor că ar putea încălca confidențialitatea utilizatorilor de internet.

Tehnologia de identificare digitală în plină expansiune

În centrul tuturor acestor măsuri de verificare a vârstei se află o singură companie: Yoti.

Yoti produce tehnologie care capturează selfie-uri și utilizează inteligența artificială pentru a verifica vârsta unei persoane pe baza trăsăturilor faciale. Compania afirmă că algoritmul său de inteligență artificială, care a fost antrenat pe milioane de fețe, poate estima vârsta persoanelor cu vârste cuprinse între 13 și 24 de ani cu o precizie de doi ani.

Compania a colaborat anterior cu Poșta Regatului Unit și speră să profite de eforturile mai ample de promovare a cărților de identitate digitale emise de guvern în Regatul Unit. Yoti nu este singura companie din domeniul software-ului de verificare a identității, printre alți jucători se numără Entrust, Persona și iProov. Cu toate acestea, compania a fost cel mai important furnizor de servicii de verificare a vârstei în cadrul noului regim din Regatul Unit.

„Există o cursă pentru ca furnizorii de tehnologie și servicii pentru siguranța copiilor să câștige încrederea și siguranța”, a declarat Pete Kenyon, partener la firma de avocatură Cripps, pentru CNBC. „Noile cerințe au creat, fără îndoială, o nouă piață, iar furnizorii se străduiesc să-și lase amprenta”.

Încălcarea confidențialității

Cu toate acestea, apariția metodelor de identificare digitală a dus și la îngrijorări cu privire la încălcarea confidențialității și posibile breșe de securitate a datelor.

„Utilizarea acestei tehnologii ridică probleme importante legate de confidențialitate”, a declarat Kenyon. „Încrederea este esențială și poate fi câștigată numai prin utilizarea unor proceduri tehnice și de guvernanță stricte și eficiente, adoptate pentru a asigura securitatea datelor cu caracter personal”.

Rani Govender, manager de politici pentru siguranța copiilor online la organizația britanică de protecție a copiilor NSPCC, a declarat că tehnologia „există deja” pentru a autentifica utilizatorii fără a le compromite confidențialitatea.

„Companiile de tehnologie trebuie să facă alegeri deliberate și etice, optând pentru soluții care protejează copiii de pericole fără a compromite confidențialitatea utilizatorilor”, a declarat ea pentru CNBC. „Cea mai bună tehnologie nu se limitează la bifarea unor căsuțe; ea creează încredere”.

Smartphone-uri sigure pentru copii

Valul de noi tehnologii care apar pentru a preveni expunerea copiilor la pericole online nu se limitează doar la software.

La începutul acestei luni, producătorul finlandez de telefoane HMD Global a lansat un nou smartphone numit Fusion X1, care utilizează inteligența artificială pentru a împiedica copiii să filmeze sau să partajeze conținut nud sau să vizualizeze imagini sexuale explicite de pe cameră, ecran și din toate aplicațiile.

Telefonul utilizează tehnologia dezvoltată de SafeToNet, o firmă britanică de securitate cibernetică axată pe siguranța copiilor.

„Credem că trebuie făcut mai mult în acest domeniu”, a declarat James Robinson, vicepreședinte al departamentului de familie al HMD, pentru CNBC. El a subliniat că HMD a venit cu conceptul de dispozitive pentru copii înainte de intrarea în vigoare a Legii privind siguranța online, dar a menționat că este „minunat să vezi că guvernul ia măsuri mai ample”.

Lansarea telefonului HMD destinat copiilor vine în urma intensificării mișcării „fără smartphone-uri”, care încurajează părinții să evite să le permită copiilor să dețină un smartphone.

Privind în viitor, Govender de la NSPCC afirmă că siguranța copiilor va deveni o prioritate importantă pentru giganții digitali precum Google și Meta.

Giganții tehnologici au fost acuzați de ani de zile că agravează sănătatea mintală a copiilor și adolescenților din cauza creșterii fenomenului de hărțuire online și a dependenței de rețelele sociale. Aceștia susțin, în schimb, că au luat măsuri pentru a aborda aceste probleme prin control parental sporit și funcții de confidențialitate.

„De ani de zile, giganții tehnologici au stat deoparte în timp ce conținutul dăunător și ilegal se răspândea pe platformele lor, lăsând tinerii expuși și vulnerabili”, a declarat ea pentru CNBC. „Această eră a neglijării trebuie să ia sfârșit”.