Conţinutul ofensator, combătut cu ajutorul inteligenţei artificiale

Dezvoltarea reţelelor de socializare impune şi găsirea unor instrumente adecvate care să ţină lucrurile sub control.

Facebook a anunţat că a început să folosească inteligenţa artificială pentru a depista automat conţinutul considerat ofensator din cadrul propriei reţele sociale.

Conducerea Facebook descrie noul instrument pe care l-a dezvoltat în scopul descoperirii conţinutului care incită la ură ori promovează terorismul. Noul sistem, care a fost botezat Rosetta, foloseşte învăţarea mecanică pentru a identifica textul din imagini şi filmări. Textul identificat este apoi trans­format astfel încât să fie înţeles de către inteligenţa artificială. Prin învăţarea mecanică, AI-ul procesează şi învaţă din miliardele de postări de pe Facebook, învăţând şi făcând din ce în ce mai bine distincţia dintre conţinutul obişnuit şi cel care incită la ură. Inteligenţa artificială trebuie nu doar să înţeleagă cuvinte individuale, ci să priceapă sensul unor fraze sau formulări în care ideile sunt evidenţiate în sens figurat.

Rosetta a fost deja pusă în funcţiune atât pe Facebook, cât şi pe Instagram, unde extrage textele din peste 1 miliard de imagini şi postări video pe zi. Conform celor de la Facebook, Rosetta va identifica automat conţinutul care îndeamnă la ură şi violenţă în mai multe limbi, însă nu specifică exact ce limbi cunoaşte în prezent Rosetta. Reprezentaţii Facebook vorbesc doar de latura de moderare a inteligenţei artificiale, fără să aminteas­că de alte activităţi care pot fi îmbunătăţite cu ajutorul acesteia. Spre exemplu, AI-ul ar putea înţelege mai bine interesele utilizatorilor şi ar putea fi folosit în cadrul algoritmului de rankare pentru a afişa conţinut care să ţină mai mult utilizatorii în cadrul reţelei sau să afişeze reclame mai bine targetate.