Zistite Svoj Počet Anjela
Návrh Lauren Park
'Bude to čurák?' je otázka, na ktorú sa toľko ľudí, najmä žien, pýta s hrôzou, kedykoľvek vidia DM od cudzej osoby. Konečne existuje aplikácia pre túto úzkosť, aspoň pre vaše Twitter DM.
Inšpirácia pre SafeDM , filter na blokovanie obsahu, ktorý je momentálne vo vývoji, sa objavil, keď sa Kelsey Bressler ocitla v boji proti nežiaducemu obťažovaniu digitálneho sexuálneho druhu.
'[Bol to] náhodný človek a chcel si získať moju pozornosť,' hovorí Bressler. 'Pýtali sa, prečo so mnou nikdy nehovoríš a potom mi poslali ... to.' Myslím, že viem, prečo s tým človekom nehovorím. “
Skúsenosti Bresslerovej s pornografiou z pomsty ju tiež povzbudili, aby bojovala proti tomuto obťažovaniu. S tímom ďalších troch pracuje na umelej inteligencii s filtrom obsahu, učí ju rozpoznávať vtáčie obrázky, informovať o nich používateľa a tiež ich mazať z doručenej pošty.
Výskum to ukazuje 53 percent žien od 18 do 29 rokov a zhruba 78 percent tisícročných žien sú nevyžiadané explicitné obrázky so správou, z ktorých mnohé sú obrázky čuráka.
'Ak žena nezažila kybernetické blikanie, pozná niekoho, kto to má.' Je niečo také bežné, že sme skutočne nemali iné riešenie, ako povedať ženám, aby len uzavreli DM, čo podľa môjho názoru nie je správna odpoveď, “hovorí Bressler. 'To je niečo, z čoho je väčšina žien skutočne nadšená.'
Ako sa AI naučí, ako vyzerajú obrázky vtáka?
No, vďaka Bresslerov virálny tweet v septembri , na účet sa odošle veľa vyžiadaných fotografií ShowYoDiq . (Niektoré fotografie sú tiež bohužiaľ omylom, a nie omylom, odoslané na Bresslerov osobný Twitter účet.) Dicks pokrytý leskom. Dicks s ponožkami na nich. Penisy v klietkach - všetky tieto fotografie boli testované, aby pomohli AI rozpoznať, čo robí vtáka obrázkom.
Tweet
Ak ide o penis, SafeDM automaticky odstráni obrázok a odpovie odosielateľovi, že odoslaná správa bola nevhodná, a informuje používateľa o počte upozornení.
'V správe im nevyčítame.' Hovoríme, že išlo o nevhodný obsah. Pracujeme na všetkých slovesách aj na počte štrajkov, [ktorý po] určitom počte štrajkov daná osoba automaticky zablokuje, aby vás už nemohla kontaktovať. “
Niektorí potenciálni používatelia uviedli, že by chceli radšej ručne zablokovať páchateľov, než aby to za nich automaticky urobil SafeDM. Bressler a jej tím počúvajú spätnú väzbu od záujemcov o filter.
„To je to, čo používatelia chcú. Snažíme sa robiť veci čo najpružnejšie, aby ľudia mohli meniť tieto nastavenia, “hovorí Bressler. Po uvoľnení bude filter a jeho nastavenie plne funkčné, ale tím je ochotný prijať konečné používateľské nastavenia po dátume vydania požadovaných možností pre koncových používateľov pri zachovaní jeho základnej funkčnosti.
Tento filter obsahu je (predbežne) nastavený na vydanie 14. februára
Vďaka množstvu údajov poskytnutých nedočkavými ľuďmi bolo toho potrebné otestovať dosť, aby sme pomohli filtru obsahu určiť, čo je penis a čo nie je len falický produkt. To tiež pomohlo tímu vyvinúť filter pomerne rýchlo, vrátane informácií o tom, či by filter mal alebo nemal zachytávať falošné poplachy.
„Sme presní na 99 percent, aj keď máme falošné pozitíva,“ hovorí Bressler. 'Musíme prísť do bodu, keď sa musíme rozhodnúť, či ľudia chcú vidieť objekty podobné penisu, je to aj obťažovanie?' Aj keď [obrázok] nie je penis, mal by ho filter aj tak filtrovať? Skutočne sa to vracia k tomu, čo chce používateľ. “
Testovanie SafeDm na twitteri ukázalo obrovský pokrok a presnosť od jeho oznámenia v septembri, pričom čoraz menej prešlo cez jeho obsahový filter AI. A ľudia sú prirodzene nadšení z pripravovaného vydania. Bressler prekvapivo uviedla, že niektorí z jej najobľúbenejších ľudí, ktorí dostávajú správy o filtri, sú od otcov, najmä od otcov s dcérami.
'Sú šťastní, že to robím, ale smutné, že je potrebné začať.' [Mal som pár] otcov [ktorí] sú radi, že na tom pracujem, pretože majú dcéry a nechcú, aby to museli riešiť. “
Každý, kto má účet na Twitteri, bude môcť používať filter blokovania obsahu
„Nepotrebujete konkrétny model telefónu,“ vysvetľuje Bressler. „Môže to použiť akýkoľvek účet Twitter. Funguje to rovnako v aplikácii aj na webe. “
Konečným cieľom projektu je vrátiť kontrolu komunite, aby nemuseli žiť v strachu z toho, čo sa nachádza v ich doručenej pošte na Twitteri.
robiť ho žiarlivým
'Je zábavné, ako môžete niečo vytiahnuť z nepríjemnej situácie a získať nad touto situáciou malú kontrolu a urobiť svet lepším.'
