Instagram će koristiti AI da detektuje nasilje na slikama

Najnovija karakteristika je dizajnirana kako bi se sačuvao pozitivan ugled društvene mreže Instagram.

Prošle godine je Instagram postavio filter za komentare koji koristi mašinsko učenje kako bi prepoznao uvredljive reči i fraze u nekim provokativnim kontekstima. Sada je kompanija proširila to i na fotografije i natpise. Oni su objavili da će koristiti veštačku inteligenciju (AI) kako bi proaktivno delovali u sprečavanju nasilja i pre nego što se sadržaj pošalje moderatorima koji vrše proveru.

Nova karakteristika će biti uskoro dostupna korisnicima, odmah nakon Meseca sprečavanja nasilja u SAD-u, a naposredno pre Nedelje borbe protiv nasilja u Velikoj Britaniji. Ista tehnologija će biti dodata i u live video snimke kako bi se na vreme filtrirali neželjeni komentari.

Ovo je prva najava proizvoda od kada je došao novi šef Adam Mosseri koji je preuzeo ovu poziciju nakon što su kompaniju napustili suosnivači Kevin Systrom i Mike Kriegr. Razlaz se desio nakon određenih tenzija sa matičnom kompanijom (Facebook), koja se često mešala u Instagram proizvode.

Međutim, kako je poverenje javnosti prema Facebook-u počelo da pada, tako je Instagram ostao svetla tačka u proizvodnoj liniji kompanije. Popularna je, profitabilna i nisu je narušili nikakvi skandali kao što je to slučaj sa Facebook-om. U tom kontekstu, upotreba veštačke inteligencije za eliminaciju uvredljivog sadržaja obezbediće Instagramu da zadrži dobre vibracije, što je veoma važno.

Priča koja je objavljena u magazine Wired prošle godine, objasnila je neke detalje oko filtera za komentare koji koriste mašinsko učenje i tada je naglašeno da ova tehnologija nije najefikasnije rešenje za moderaciju sadržaja, jer i dalje ima problem sa ljudskim kontekstima i nijansama. Zato je dobra stvar što novi filteri ipak šalju sadržaj i ljudima koji moderiraju, kako bi se izvršila konačna provera. Automatizacija bez nadzora bi mogla da napravi dosta problema. Filter neće analizirati samo natpis iznad fotografije kako bi se identifikovalo nasilje, već i samu fotografiju.

Portparol Instagrama je objasnio da novi filter, na primer, traži sliku koja sadrži dve odvojene strane jer to prepoznaje kao da se jedna osoba negativno upoređuje s drugom. Koje druge parametre će koristiti još uvek nije jasno.

Uz nove filtere, Instagram će pustiti u rad i “efekat ljubaznosti” za kamericu. Ovo je način da se pošalje pozitivna poruka, kako bi korisnici postali više angažovani u oblasti borbe protiv nasilja.

Prilikom korišćenja zadnje kamere, efekti će ispuniti ekran i pisaće “ljubazni komentari na više jezika”. Kada budete prebacili na prednju kameru, pojaviće se srca i ohrabrenje da tagujete prijatelja kom želite da pružite podršku.

Izvor: The Verge

Related Articles

Close
Close