Chatbot-ul Pornhub vânează pedofili cu inteligență artificială

Chatbot-ul AI al Pornhub detectează căutările de videoclipuri cu abuzuri asupra copiilor

Chatbot-ul Pornhub a găsit deja milioane de oameni care căutau videoclipuri cu abuzuri asupra copiilor pe site-ul porno.

Alarma a fost declanșată de detectarea cuvintelor cheie care se referă la abuzul asupra copiilor.

Statisticile arată că interesul pentru pedofilie poate fi mult mai răspândit decât cred mulți oameni.

Desigur, acest fapt nu ajută nici situația muncii porno, deoarece exemplele negative pot afecta modul în care opinia publică vede întreaga industrie a sexului.

În ultimii doi ani, site-ul web al Pornhub din Marea Britanie a introdus un chatbot pop-up pentru persoanele care caută videoclipuri cu abuz asupra copiilor printre conținut erotic pentru adulți 18+.

Mesajul de avertizare a fost activat în total de 4,4 milioane de ori în cazurile în care oamenii au căutat termeni sau cuvinte care se referă la sau pot sugera abuz de copii.

Fereastra pop-up blochează conținutul și avertizează persoana că caută conținut ilegal, îndreptându-i adesea către locuri unde pot primi ajutor.

Avertismentele au adus rezultatul așteptat

Inițiativa de doi ani a Pornhub a fost realizată în cooperare cu două organizații britanice de protecție a copilului.

Potrivit unui raport recent al Internet Watch Foundation (IWF), mesajele pop-up au redus semnificativ căutările pentru abuz sexual asupra copiilor și mai multe persoane caută ajutor pentru acest tip de comportament.

Cifrele reale, brute, pentru căutări sunt destul de înfricoșătoare. Numărul de căutări a scăzut semnificativ în perioada de intervenție. Mesajele disuasive chiar funcționează.

- a declarat pentru Wired Joel Scanlan, lector superior la Universitatea din Tasmania, care a condus evaluarea reThink Chatbot.

Experimentul a generat un total de 4.400.960 de avertismente din căutările pe site-ul Pornhub din Marea Britanie. În general, 99% dintre căutări nu au avut ca rezultat un avertisment.



Chatbot-ul le-a adresat celor care au activat pop-up-ul o serie de întrebări și le-a oferit opțiunea de a răspunde, fie apăsând un buton, fie prin text.

Apoi a furnizat informații că conținutul poate fi ilegal și i-a direcționat către servicii caritabile de urgență.

În fiecare an, Pornhub elimină milioane de imagini și videoclipuri cu abuzuri sexuale asupra copiilor de pe site-ul său, deoarece aceste materiale sunt ilegale.

Site-ul erotic folosește o listă de 34.000 de termeni interziși pentru a monitoriza și bloca conținutul CSAM, astfel încât oamenii care caută locuri de muncă pornografice și pentru adulți își pot face o idee despre ceea ce este considerat conținut ilegal.

– a spus un purtător de cuvânt al companiei pentru Wired.

Această mișcare urmează publicării unui raport de către New York Times în 2020, care a evidențiat problema exploatării copiilor și cantitatea semnificativă de conținut erotic partajat fără permisiune disponibil pe Pornhub.

Dar, în plus, Pornhub a avut probleme și cu munca erotică, când compania mamă a forțat femeile să facă porno.

Ei pot lupta mai eficient împotriva conținutului pedofil

Pornhub a făcut, de asemenea, eforturi publice pentru a lupta împotriva conținutului ilegal, care servește siguranța utilizatorilor și ajută la menținerea muncii erotice mai sigure.

Acești pași și chatbot-urile au fost create de IWF (Internet Watch Foundation), o organizație non-profit care elimină conținutul abuziv asupra copiilor și de Lucy Faithfull Foundation, o organizație caritabilă care lucrează pentru a preveni abuzul sexual asupra copiilor.

UE a introdus reguli mai stricte în 2023, iar Carolina de Nord și Montana din SUA au interzis și site-ul Pornhub din cauza legilor de verificare a vârstei promulgate la începutul acestui an.



Potrivit raportului, 1.656 de persoane au folosit chatbot-ul pentru a cere mai multe informații, iar 490 de persoane au dat clic pe site-ul Stop It Now al organizației de caritate.

În plus, 68 de persoane au sunat sau au discutat cu linia de asistență confidențială a Fundației Lucy Faithfull, a raportat ReadWrite.