Folje kryesore
- Softueri automatik i kufizimit të moshës i YouTube është shkak për shqetësim për përmbajtjen LGBTQ+ në platformë.
- Kompania është dëmtuar nga polemika në lidhje me krijuesit e përmbajtjes LGBTQ+ që forcon dyshimin.
- Paragjykimet në mësimin e makinerive i japin besim idesë se zbatimi i papërsosur i filtrave ka të ngjarë të kufizojë pa të drejtë aksesin.
Me një histori të synimit të padrejtë të krijuesve të përmbajtjes LGBTQ+ në procesin e saj të moderimit, teknologjia e re e bazuar në AI të YouTube shihet si një hap tjetër shqetësues për gjigantin e teknologjisë.
Në blogun zyrtar në YouTube javën e kaluar, platforma e ndarjes së videove zbuloi planet për të lëshuar një softuer të ri automatik për të "zbatuar në mënyrë më të vazhdueshme kufizimet e moshës" në videot që konsiderohen të papërshtatshme për shikuesit më të rinj.
I motivuar nga shqetësimet e fundit për fëmijët në aplikacion, sistemi i ri bazohet në softuerin e inteligjencës artificiale të mësimit të makinerive me aftësinë për të hequr dorë nga moderatorët njerëzorë për një proces më automatik. Çështje? Sistemet e automatizuara të YouTube janë akuzuar se veçojnë përmbajtjen dhe krijuesit LGBTQ+ thjesht për ekzistencën e tyre.
Edhe nëse nuk është keqdashëse, gjë që nuk mendoj se është, është mungesë e të dhënave nga zëra të ndryshëm - ose të paktën mungesë respekti.
"Mësimi i makinës informohet dhe krijohet nga njerëzit, dhe është e mundur që ato paragjykime të natyrshme në të ose të mësohen nga vetë makina," tha YouTuber-i Rowan Ellis në një intervistë telefonike me Lifewire. “Paragjykimi i tij në lidhje me përmbajtjen [LGBTQ+] ka qenë i dukshëm në përvojat e mëparshme të YouTubers [LGBTQ+] dhe unë nuk kam parë prova që është bërë ndonjë gjë për ta ndaluar atë të ndodhë."
Fëmijë, tani kemi gjak të keq
Ellis është një YouTuber që krijon përmbajtje edukative me një prirje feministe dhe queer, dhe në vitin 2017 ajo publikoi një video në modalitetin e kufizuar të kompanisë. Si një përpjekje fillestare në moderimin automatik të përmbajtjes, kjo mënyrë i lejoi përdoruesit që opsionalisht të para-ekranonin "përmbajtje potencialisht të pjekur" nga sugjerimet dhe rekomandimet e kërkimit.
Duke mbledhur mbi 100,000 shikime, ajo beson se ka pasur një përpjekje të vetëdijshme për të përjashtuar kanalin e saj nga kufizimi për shkak të kundërshtimit të saj të zëshëm kundër teprimeve të hapit të ri të YouTube drejt moderimit. Përdoruesit e tjerë në platformë nuk ishin aq me fat dhe e bënë YouTube ta dijë këtë.
Një padi kolektive kundër YouTube u ngrit në gusht 2019 nga një grup prej tetë krijuesish LGBTQ+ të cilët akuzuan kompaninë Silicon Valley për kufizimin e prodhuesve dhe përmbajtjeve të videove queer dhe trans. Padia pretendon se faqja përdor "rregullimin e paligjshëm të përmbajtjes, shpërndarjen dhe praktikat e fitimit të parave që stigmatizojnë, kufizojnë, bllokojnë, demonetizojnë dhe dëmtojnë financiarisht paditësit LGBT dhe komunitetin më të madh LGBT."Ajo është ende duke bërë rrugën e saj nëpër gjykatat e Kalifornisë.
Mësimi i makinës informohet dhe krijohet nga njerëzit, dhe është e mundur që ato paragjykime të natyrshme në të ose të mësohen nga vetë makina.
Në qershor të po atij viti, platforma mori një vëmëndje të madhe mediatike pasi refuzoi të qortonte me shpejtësi komentatorin e njohur konservator Steven Crowder për një fushatë ngacmimi homofobike disamujore kundër gazetarit dhe prezantuesit të Vox, Carlos Maza. Kjo përforcoi atë që Ellis tha se është një model me platformën online të injorimit të sfidave unike me të cilat përballen krijuesit queer. Mungesa e besimit të krijuesve LGBTQ+ në aftësinë e YouTube për t'u paraqitur për ta nuk është pa meritë.
"Unë nuk mendoj se ata e kanë kuptuar nevojën që të ketë transparencë në lidhje me çështjet sociale dhe sigurimin e barazisë," tha ajo. “Ka ende fëmijë në mbarë botën që janë rritur me idenë se të qenit homoseksual është e gabuar, dhe kur ata fillojnë ta vënë në dyshim këtë besim, por e gjejnë atë të mbyllur nga një kërkim ose kufizim i sigurt, kjo do të përforcojë idenë se është e gabuar, e papërshtatshme, e rritur, e çoroditur dhe e pistë."
Dështimi për të mësuar automatikisht
Me historinë e tij të ndyrë në lidhje me krijuesit e përmbajtjeve LGBTQ+ në platformën e saj, shqetësimet rreth zbatimit të aftësisë së softuerit të mësimit të makinerive për të dalluar norma më të mëdha janë ende të dukshme. Don Heider, Drejtor Ekzekutiv në Qendrën Markkula për Etikën e Aplikuar, sugjeron se potenciali për marrëzi është një rrezik shumë i madh për të luajtur.
"Është e vështirë të besohet se AI mund të drejtojë në mënyrë efektive përmbajtjen nga shumë vende me norma dhe standarde të ndryshme kulturore," shkroi ai në një intervistë me email. "AI shihet shumë shpesh si përgjigje për pyetjet komplekse. Në këtë pikë, AI dhe mënyra se si është krijuar ajo lufton për t'u marrë me detyra edhe të thjeshta, e lëre më çdo moderim të përmbajtjes me çdo nivel kompleksiteti."
YouTube vendosi për përdorimin e teknologjisë AI për shkak të mungesës së moderimit të qëndrueshëm nga moderatorët njerëzorë, sipas blogut të tij. Rritja e përdorimit të filtrave të kompjuterizuar për të hequr videot që konsideroheshin të papërshtatshme u bë normë dhe zbatimi i të njëjtave procedura për politikat e saj të kufizimit të moshës shihet si një hap tjetër logjik.
Si një kompani që kërkon të përmirësojë gradualisht proceset e saj pas kritikave të gjata në lidhje me marrëdhëniet e saj me konsumatorët fëmijë, ky vendim nuk është befasi.
Unë nuk mendoj se ata e kanë kuptuar nevojën për të pasur transparencë në lidhje me çështjet sociale dhe sigurimin e barazisë.
Fëmijët janë bërë një element demografik kyç për faqen e ndarjes së videove. Në gusht, firma analitike e videove dixhitale Tubular zbuloi se, përveç videove muzikore, përmbajtja që synonte fëmijët kryesonte listën e fund muajit për videot më të shikuara në YouTube.
Interesi i kompanisë për të mbrojtur këtë fuqi fitimprurëse, në zhvillim në platformë ka kuptim. Megjithatë, mjetet e përdorura për të zbatuar këtë mbrojtje mbeten shqetësuese për ata që tashmë e kanë gjetur veten në rrjedhën e poshtme të procedurave të moderimit të kompanisë.
"Shqetësimi im është se do të bëjë shumë dëm dhe nuk do të mbrojë të rinjtë [LGBTQ+] që kanë nevojë për përmbajtje informative, të sinqertë dhe të sinqertë që mund të ofrojnë shumë nga YouTuber [LGBTQ+], por që do të flamurohen në sistemin e tij si e papërshtatshme, "tha Ellis."Edhe nëse nuk është keqdashëse, që nuk mendoj se është, është mungesë e të dhënave nga zëra të ndryshëm - ose të paktën mungesë respekti.
"Ne e shohim këtë gjatë gjithë kohës në teknologji. Kur shikoni njohjen e fytyrës që dështon të dallojë fytyrat e ndryshme të zezakëve, ose kur shikojmë mjekësinë dhe shohim se ilaçet janë testuar vetëm për një gjini të caktuar. Këto janë biseda më të mëdha dhe YouTube nuk përjashtohet nga kjo."