Meta este acuzată că nu gestionează eficient conținutul de automutilare pe platforma Instagram, chiar încurajând formarea relațiilor între utilizatorii care se implică în astfel de activități, conform unui studiu elaborat de cercetători danezi. Constatările indică faptul că moderarea rețelei de socializare este semnificativ deficitară, potrivit unui raport realizat de organizația Digitalt Ansvar.
Cercetătorii au creat pe Instagram o rețea privată concentrată pe automutilare, folosind profiluri false ale unor persoane cu vârste de până la 13 ani. Au distribuit 85 de conținuturi grafice legate de automutilare, inclusiv imagini cu sânge și lame de ras, pentru a testa promisiunea Meta că procesele automate ar elimina rapid conținutul dăunător.
Studiul a arătat că, în decursul unei luni, nicio fotografie nu a fost eliminată de platformă, în ciuda angajamentului Meta de a șterge 99% din acest tip de conținut în mod proactiv. Instrumentul simplu de inteligență artificială dezvoltat de cercetători a reușit să identifice automat 38% dintre imaginile de autoagresiune și 88% dintre cele mai severe.
Un purtător de cuvânt al Meta a precizat că „conținutul care încurajează autovătămarea contravine politicilor noastre” și că în prima jumătate a anului 2024 au eliminat mai mult de 12 milioane de postări legate de sinucidere și autovătămare.
Totuși, algoritmul Instagram ar fi contribuit la formarea rețelelor de automutilare, tinerii de 13 ani devenind prieteni cu membrii comunităților de automutilare. Ask Hesby Holm, director executiv al Digitalt Ansvar, a afirmat că studiul său arată o înțelegere inadecvată a conținutului dăunător de către platformă, atrăgând atenția asupra riscurilor grave pentru securitatea utilizatorilor tineri.
Fostul membru al grupului de experți Meta, Lotte Rubæk, a criticat compania pentru lipsa de acțiune adecvată, calificând situarea automutilării printre tineret drept o „chestiune de viață și de moarte”. Ea a remarcat că situația s-a înrăutățit de când a demisionat, cu efecte negative clare la pacienții ei.
În concluzie, cercetarea sugerează că Meta trebuie să își reevalueze strategiile de moderare, pentru a preveni expansiunea rețelelor de automutilare pe platforma Instagram și a proteja utilizatorii.