Folje kryesore
- ToxMod, nga kompania me bazë në Boston, Modulate, pretendon se zbulon dhe vepron kundër të folurit përçarës automatikisht, në kohë reale.
- Në vend që të kufizohet nga gjuha e thjeshtë, ToxMod përdor mësimin e makinerive për të kuptuar gjërat e paprekshme si emocionet, vëllimi dhe ritmi.
- ToxMod është krijuar aktualisht për t'u përdorur me dhomat e bisedave në lojë, por nuk ka asnjë arsye që nuk mund të vijë në kanalin tuaj Twitch.
Një kompani me bazë në Boston po përdor mësimin e makinerisë për të krijuar atë që e faturon si shërbimin e parë në botë të moderimit të zërit, i cili mund të tregojë dallimin midis asaj që thuhet dhe asaj që do të thotë.
ToxMod është një përpjekje për të zgjidhur paradoksin e moderimit të çdo hapësire të hapur në internet; nuk ka njerëz të mjaftueshëm për të vazhduar me kërkesën, por algoritmet, filtrat dhe një sistem raportimi nuk e kuptojnë nuancën.
Me bazën e të dhënave të ToxMod, ai mund të gjurmojë faktorët në fjalimin e lojtarëve si emocionet dhe vëllimi, gjë që e ndihmon atë të dallojë midis një gabimi momental dhe një modeli sjelljeje. Ajo u njoftua së fundi si një shtesë në lojën e futbollit amerikan Gridiron 7v7, aktualisht në Steam Early Access.
"Të gjithë e dinë se ngacmimi, gjuha e urrejtjes dhe toksiciteti në bisedat zanore dhe lojërat janë një problem masiv. Kjo kuptohet zakonisht," tha Carter Huffman, shefi i teknologjisë dhe bashkëthemeluesi i Modulate, në një takim të Google me Lifewire. "Ne mund të merrnim tiparet që po nxirrnim përmes kësaj shumëllojshmërie të sistemeve të mësimit të makinerive dhe t'i bashkonim ato në një sistem që merrte parasysh të gjithë këtë njohuri eksperte që po mësonim nga komuniteti."
Të gjithë Përshëndetje Moderatorët tanë të Ri Robot
Modulate ka punuar në ToxMod që nga vjeshta e kaluar dhe e ka përfshirë atë si një nga tre shërbimet kryesore të kompanisë. Ai gjithashtu ofron VoiceWear, një maskues zëri të mundësuar nga mësimi i makinerisë dhe VoiceVibe, një shërbim grumbullues që i lejon përdoruesit të zbulojnë se çfarë po diskutojnë njerëzit në komunitetet e tyre.
Kur ToxMod po funksionon në një bisedë, ai mund të programohet nëpërmjet panelit të administratorit të Modulate për të ndërmarrë një sërë veprimesh automatike, të tilla si lëshimi i paralajmërimeve, hedhja e lojtarëve ose rregullimi individual i volumit.
Përdor një sistem triazhi ku shembulli i tij lokal është i pari që ndërmerr veprime, përpara se të kontrollojë me serverët e Modulate për konfirmim. Pastaj më në fund përshkallëzohet deri në pikën ku mund të kërkojë ndërhyrje njerëzore. Duke kaluar nëpër çdo kontroll me radhë, të cilin Modulate e quan "porta triage", ideja është që ToxMod i jep një ekipi të vogël moderatorësh mjetet me të cilat mund të moderohet në mënyrë efektive një komunitet shumë më i madh.
"E vërteta e trishtueshme është se të gjithë e kanë pasur atë përvojë, duke u përpjekur të përdorin bisedën zanore në çfarëdo platforme ku ndodheshe dhe të zbulosh se, djalë, kjo ishte një ide e keqe," tha CEO i Modulate, Mike Pappas në një video thirrje me Lifewire. "Të jesh në gjendje të hysh dhe të thuash, 'Ky nuk është Perëndimi i Egër. Ka rregulla'. Mendoj se kjo është vërtet e rëndësishme."
Të thyejmë sistemin
Natyrisht, pyetja e dytë ose e tretë që duhet bërë në lidhje me ToxMod është se si ta thyejmë atë.
Me shumë sisteme automatike të moderimit, të tilla si algoritmet që drejtojnë Twitter-in, është e lehtë t'i luani ato kundër njerëzve që nuk ju pëlqejnë. Thjesht raportoni masivisht objektivin tuaj me disa llogari kukullash dhe ata do të hanë me siguri një ndalim.
"Në një nivel bazë, ToxMod nuk ka nevojë të mbështetet në ato raporte shtesë të lojtarëve," tha Pappas. “Është ende në gjendje të prodhojë vlerësime solide se çfarë shkeljesh duhet t'u kushtojmë vëmendje. Nuk duhet të shqetësoheni për lojtarët që përpiqen të luajnë sistemin, pasi në të vërtetë nuk ka asgjë për të luajtur.
Të gjithë e dinë se ngacmimi, gjuha e urrejtjes dhe toksiciteti në bisedat zanore dhe lojërat janë një problem masiv.
"Gjithçka mbi të cilën keni kontroll si luajtës është audioja juaj," vazhdoi Pappas. "Gjëja më e keqe që mund të bësh është të jesh më pak i keq për një person, kështu që ne nuk të shënojmë si një aktor të keq, gjë që do të thoja se është diçka afër suksesit të misionit."
Në përgjithësi, pra, ideja prapa ToxMod është një përpjekje aktive e rikuperimit. Shumë lojtarë në këtë pikë kanë përjetuar një formë ngacmimi nga të huajt e rastësishëm në kanale të hapura zanore, duke filluar nga fyerjet e rastësishme deri te kërcënimet aktive. Si rezultat, lojtarët priren të shmangin bisedën me zë në përgjithësi, duke preferuar të heqin dorë nga komoditeti i saj në këmbim të qetësisë së tyre mendore.
"Ajo që ne presim të shohim [janë aktorët e këqij që shpenzojnë] shumë më pak kohë në bisedën zanore përpara se të gjenden dhe hiqen," tha Pappas."Kjo ka më shumë sesa thjesht një ndikim linear. Kur të gjithë e shohin bisedën me zë si një vend më të sigurt, më shumë aktorë të mirë janë të gatshëm të kthehen në bisedën zanore dhe ta provojnë. Mendoj se gjithçka mund të shkojë në një drejtim pozitiv."
