„Google Jigsaw“ atvirojo kodo „Altitude“ padeda internetinėms platformoms atsikratyti ekstremistinio turinio

„Google“ inkubatoriaus dukterinė įmonė „Jigsaw“ sukūrė atvirojo kodo kovos su terorizmu įrankį, skirtą padėti mažesnėms įmonėms spręsti ekstremistinio turinio problemas, kuriomis dalijasi jų internetinėse platformose.

Nors dauguma didžiųjų technologijų kompanijų, įskaitant Meta, X ir pačią „Google“, yra gerai išmanančios, kaip moderuoti turinį, kad būtų pašalintas neteisėtas ar toksiškas turinys, tam reikalingų išteklių daugelis mažesnių skaitmeninių žaidėjų nepajėgia. Tai ypač problematiška tuo metu, kai dėl teisės aktų, tokių kaip Europos skaitmeninių paslaugų įstatymas (DSA) ir su terorizmu susijusios turinio taisyklės, įmonės patiria vis didesnį spaudimą skubiai pašalinti neteisėtą turinį.

Anksčiau žinomas kaip „Google Ideas“ prieš prekės ženklo pakeitimą 2016 m., „Jigsaw“ daugiausia dėmesio skiria naujų produktų kūrimui ir eksperimentavimui, sprendžiant tokias visuomenės problemas kaip dezinformacija, cenzūra ir toksiškumo bei ekstremistinio turinio plitimas internete. Praėjusį lapkritį Jigsaw paskelbė apie naują internetinio turinio moderavimo įrankį, pavadintą „Altitude“, kuris padeda moderatoriams patikrinti, ar jų platformų turinys atitinka tą, kuris buvo pažymėtas trečiųjų šalių duomenų bazėse, o ne tikrinti kiekvieną šaltinį atskirai.

„Altitude“ buvo sukurta bendradarbiaujant su „Tech Against Terrorism“ – iniciatyva, kurią 2017 m. pradėjo Jungtinių Tautų kovos su terorizmu komitetas vykdomasis direktoratas (CTED). Technologijos prieš terorizmą užduotis – remti technologijų pramonę kuriant veiksmingesnes priemones, skirtas kovoti su teroristų naudojamu internetu žalingam turiniui platinti. Priemonė taip pat buvo sukurta bendradarbiaujant su pramonės vadovaujamu pasauliniu interneto forumu kovoti su terorizmu (GIFCT), kurio nariais yra dauguma didžiųjų technologijų įmonių.

Praėjus devyniems mėnesiams, „Jigsaw“ dabar oficialiai perduoda „Altitude“ „Tech Against Terrorism“, kuri tęs savo plėtrą ir priežiūrą. Kodas dabar taip pat pasiekiamas GitHub pagal Apache 2.0 licenciją, o tai reiškia, kad įmonės gali savarankiškai priglobti įrankį, o trečiosios šalys gali patikrinti kodą.

Kaip veikia Altitude

„Altitude“ remiasi „patikimais“ duomenų šaltiniais, kuriuos teikia GIFCT, kurių nariai kaupia savo patentuotą informaciją, kad galėtų naudoti automatinius turinio moderavimo įrankius (pvz., „Altitude“), taip pat „Tech Against Terrorism“ teroristinio turinio analizės platformą, duomenų bazę. realaus laiko patikrinto teroristinio turinio. Patikimi šaltiniai nustato ir pažymi tokio tipo turinį naudodami savo metodus.

Perkeldama į šias duomenų bazes, „Altitude“ sujungia vadinamąjį „teroristinį ir smurtinį ekstremistinį turinį“ (TVEC) į vieną vaizdą, o moderatoriai gali greitai peržiūrėti, peržiūrėti ir pašalinti turinį bei laikytis savo įsipareigojimų pagal bet kokią jurisdikciją, kurioje jie veikia. Verta paminėti, kad joks turinys automatiškai nepašalinamas, viskas susiję su žymėjimu ir įspėjimu apie galimą ekstremistinį turinį, kurį žmonės galėtų įvertinti.

Nei „Jigsaw“, nei „Tech Against Terrorism“ neatskleidė jokių platformų, kurios naudojo „Altitude“ per pradinį bandymo laikotarpį, tačiau labiausiai tikėtina, kad ją naudos pranešimų siuntimo programos, URL sutrumpinimo paslaugos, vaizdo įrašų prieglobos svetainės, internetiniai forumai. , socialiniai tinklai ir pastebins.

Jigsaw pirmadienį dienoraščio įraše rašė:

Per metus Jigsaw atliko interviu su įkūrėjais, pasitikėjimo ir saugos lyderiais bei TVEC turinio apžvalgininkais vienuolikoje įvairaus dydžio platformų. Platformos apėmė vaizdų dalijimosi platformas, socialinės žiniasklaidos svetaines, URL sutrumpinimo paslaugas ir failų bei teksto saugojimo svetaines. Mes nustatėme, kad platformos egzistuoja pagal išteklių ir pasirengimo valdyti TVEC skalę ir kad tas pasirengimo lygis nebuvo tiksliai susijęs su jų organizacijos ar vartotojų bazės dydžiu. Netgi gana subrendusios paslaugos kartais vis tiek trūko signalų, leidžiančių aktyviai nustatyti žalą jų platformoje. Taip pat pastebėjome, kad nors jie galų gale galbūt norės integruoti visus įrankius į vidinę platformą, atskira sąsaja skirta žalai gali būti būdas pradėti darbą per mažai išteklių turinčioje aplinkoje.

Kaip atvirojo kodo projektas, bet kuri įmonė gali integruoti „Altitude“ į savo platformas arba dirbti su „Tech Against Terrorism“, kad pasiektų „užsakytą įjungimo palaikymą“.

Ateityje „Jigsaw“ ir „Tech Against Terrorism“ teigia, kad ateityje jie gali pridėti „specializuotų duomenų bazių“ prie duomenų šaltinių ir planuoja išplėsti įrankį ne tik anglų kalba.