Instagram v pondělí 8.července 2019 vydal dvě nové funkce, jejichž cílem je omezit šikanování na platformě Instagram. Ta první bude dotyčného varovat při pokusu o zveřejnění hrubého nebo násilného komentáře. Druhá funkce nabízí tlačítko “Omezit”, která omezí interakci jiné osoby s šikanovaným.


Šikana je pro Instagram dlouhodobě velkým problémem, a jak vysvětluje ředitel Instagramu Adam Mosseri: Společnost Facebook se snaží vybudovat umělou inteligenci, která je založena na hlubokém pochopení toho, jak se lidé navzájem šikanují a jak reagují na šikanování na Instagramu.

Instagram již léta používá umělou inteligenci k odhalení šikany a dalších typů škodlivého obsahu v komentářích, fotografiích a videích.

Bude to pravděpodobně trvat ještě roky. Vývojáři mezitím vyvíjí způsoby, jak mohou uživatelé bojovat s tímto problémem a to pomocí strojů.

“Mladí” se bojí nahlašovat nebo blokovat vrstevníky, kteří je zastrašují

Instagram už nějakou dobu má několik možností, jak se lidé mohou “vypořádat” s prudiči, hatery nebo násilníky. Primárně jde o možnost nahlásit obsah moderátorům ke kontrole. Instagram však pomocí uživatelského výzkumu zjistil, že mladí lidé (“teenegaři”), kteří jsou demograficky nejrizikovější skupinou se zdráhají nahlašovat nebo blokovat své vrstevníky, kteří se do nich opírají.

Francesco Fogu, designér, který pracuje na těchto funkcích, tvrdí, že pro mladé je možnost blokovat své vrstevníky nejhorší možná varianta a nechce se jim do toho.

Blokování dotyčného totiž v podstatě vypne kontakt mezi dvěma Instagramovými účty, což znamená, že uživatel již nemůže sledovat, co “tyran” dělá a jaké by mohly být jeho další kroky. Navíc spoustu uživatelů s útočníkem přichází do kontaktu osobně a obávají se, že by takové zablokování mohlo v reálu eskalovat.

“Rozmysli si, jestli to tak chceš opravdu okomentovat.”

Instagram v posledních dnech zavádí funkci, která vás požádá, abyste si dvakrát rozmysleli, než pošlete/zveřejníte agresivní komentář. Pokud jste umělou inteligencí vyhodnoceni jako “prudič” nebo potenciální “škodič”, Instagram vás automaticky před zveřejněním komentáře upozorní, že váš komentář může být považován za urážlivý a s největší pravděpodobností nebude zveřejněn.

Tato akce lidem dává možnost si to promyslet a stornovat svůj komentář.

Výsledky prvních testů funkce potvrzují, že to má pozitivní efekt a dotyční své nevhodné komentáře raději “stáhnou” zpátky a zveřejní méně agresivní komentář.

Instagram zatím nepotvrdil, pro jaké jazykové mutace je funkce dostupná. Z výsledků testů se dá tedy usoudit, že primárně testují angličtinu.

Zdroj: Instagram

Omezování komentářů

Pokud mluvíme o příspěvcích, uživatel bude mít možnost zkontrolovat všechny komentáře, které mu tyran napíše na některou ze svých fotek nebo videí. Díky tomu, bude moct:

  • schválit komentář, aby jej mohli vidět lidé veřejně
  • smazat komentář, aby jej neviděl nikdo
  • nechat komentář v tzv. “nevyřízeném” stavu – to znamená, že kromě tyrana ho neuvidí nikdo jiný a díky tomu se nedozví, že vlastně vidět nejde. Pokud má samozřejmě tyran více účtů, může si to z ostatních zkontrolovat. Ale tohle riziko je tady pokaždé.

Dotčený uživatel si vlastně nemusí komentář ani přečíst. Umělá inteligence vyhodnotí nevhodný komentář, uživateli se zobrazí na obrazovce upozornění o citlivém obsahu a je jen na něm, jestli si komentář zobrazí, schválí, odstraní nebo to bude ignorovat a komentář zůstane skrytý a bude u něj svítit “čeká na vyřízení”.

Zdroj: Instagram

Ochrana bude fungovat také v Direct Message

Tyran ve svém feedu uvidí příspěvky uživatele jako obvykle. Ale už neuvidí, kdy je uživatel online nebo jestli si přečetl jeho zprávy v Direct Message.

V Direct Message ve složce Hlavní doručené pošty také uvidí všechna vlákna stávající i předchozí konverzace. Na druhé je poškozený, kterému už nebudou chodit notifikace o nových zprávách a ani ve své hlavní doručené poště neuvidí nové zprávy. Omezené zprávy se tak přesměrují do složky s žádostmi, kde obvykle najdete i spam.

Pokud si s tyranem bude chtít začít znovu psát, bude jej muset “odznačit” jako omezeného, aby se mu zprávy znovu vrátily do Doručené pošty.

Zdroj: Instagram

Omezení se dotkne také zmínek v textu nebo označení v příspěvcích

V normální situaci nemá “tyran” potíž vás označit ve fotce nebo v příspěvku, protože stačí napsat první dva znaky vašeho uživatelského jména a Instagramový našeptávač už vám profil nabídne. Díky omezení to ovšem tyran nebude mít tak jednoduché. Pokud vás bude chtít označit, bude muset znát vaše celé uživatelské jméno a to vypsat ručně. Tato vlastnost by ho měla potenciálně odrazovat.

Instagram si je vědom toho, že tyto nástroje nejsou všemohoucí a nejspíš šikaně hned nezabrání, ale věří, že jsou na dobré cestě k nalezení ideálního řešení. Instagram spustil v minulosti i další nástroje, které uživatelům nabízí možnost se před násilníky chránit a to např. filtr vulgárních slov, který skrývá nevhodné komentáře obsahující určitá klíčová slova.

Bohužel spousta běžných uživatelů ani neví, že něco takového v nastavení aplikace Instagram existuje. Pokud byste si toto nastavení chtěli vyzkoušet, pak běžte do Nastavení > Soukromí > Komentáře > a tam najdete všechny možnosti filtrů. 

Mají se firmy této funkce bát?

Osobně si myslím, že nutně nemusí. Tato funkce má primárně chránit koncového uživatele, na kterého je útočeno jiným uživatelem. Proto se celou dobu mluví o šikaně. Šikana má svá pravidla a liší se od kritizování primárně výběrem slov.

Na mém Linkedinu jsem se zapojila také do příspěvku jedné social media manažerky, která se obává zneužívání ze strany firem. Obava, že tím zmizí kritické komentáře nebude tak žhavá, jak na první pohled vypadá.

Kritiku lze podat stejně tak slušně, nebo ve stylu každé druhé slovo je vulgarismus a taková kritika obvykle pochází z jednání v afektu, tudíž je přehnaná a ve většině případů nekonstruktivní.

Pak si myslím, že je naprosto správné, pokud takové jednání umělá inteligence vyhodnotí jako závadné a zabrzdí jej. Poté už je čistě na firmě, jestli si takové komentáře pod své příspěvky zveřejní nebo ne.

Zdroj: můj osobní Linkedin účet

Instagram v tomto ohledu čeká ještě velmi dlouhá cesta, takže doporučuji nepanikařit a počkat si, co všechno se umělá inteligence naučí skrývat. Pokud ve svém okolí máte povahově slabšího jedince, můžete mu pomoct v tom, že mu poradíte, kde v nastavení může aktivovat filtry vulgárních slov a tím ho edukovat.

Napsat komentář

Vaše emailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *