• Huvud
  • >
  • Kultur
  • >
  • Det är inte bara Logan Paul och YouTube - den moraliska kompassen av sociala medier är trasig

Det är inte bara Logan Paul och YouTube - den moraliska kompassen av sociala medier är trasig

Anonim

Vi är bara några dagar in i det nya året, men det tog inte lång tid för den senaste virala förlägen att träffa YouTube, eftersom ännu en populär, telegenisk ung man lade upp något hänsynslöst och offensivt på plattformen för videodelning. Den här gången delade YouTube-stjärnan Logan Paul en video där han upptäckte och olyckligt skrattade på liket av ett självmordsoffer i Japans Aokigahara-skog.

"Bro, hittade vi bara en död person i självmordsskogen?" Säger han i den nu borttagna videon.

Även om Paulus senare gav ursäkta var den ringa stunten bara den senaste i en rad incidenter där populära YouTubers har lagt upp käftande offensiv, fördomad eller oetisk innehåll som aldrig skulle gå över en traditionell utlopp.

Deras beteende aktiveras av YouTubes design som en effektiv ansvarsfrihetsplattform, särskilt för dess mest populära, kuvertstarka stjärnor. Det finns självklart regler och gemenskapsriktlinjer om "äckligt" innehåll och hattal, men de verkställs slumpmässigt, ofta med lite kontext eller genomskinlighet, och kan vara lätta att kringgå.

Det är ett problem som sträcker sig bortom YouTube som en plattform för streaming och sociala medier i stort, där stora plattformar springer runt känslorna hos högljudda, arga användare på bekostnad av alla de kan offra på sin galen av raseri. Det skapar en situation där kvinnor, människor av färg, queer och funktionshindrade människor saknar lika tillgång till tjänsten, arbetar under den extra bördan av en arg mob som granskar deras alla drag, även när de inte är "kända" av någon metrisk .

Den idealistiska dröm som dessa tjänster säljer till användarna - som alla kan vara kända med en mikrofon, ett tangentbord, en webbkamera och lite armbågsfett - låter som kulmen av tidig cyberutopianism. Men i praktiken betyder det ofta att man höjer folk till berömmelse när de är vildt oförberedda för det etiska ansvaret eller följderna av att sända innehållet till miljontals fans (inklusive barn) runt om i världen. Som en princip betyder det att företag binder sina egna händer när de arbetar med edgelords som tycker att nazismen är cool; Det finns bara tomma platituder om yttrandefrihet som finns i deras kölvatten.

Internets laglöshet kom som en funktion, inte en bugg

Internets laglöshet kom fram som en funktion, inte en bugg, förutspådd på ett libertarianskt ideal av självriktning som inte var systematiskt. Allt skulle tillåtas, tänkandet gick och cybersamhället skulle helt enkelt balansera sig automatiskt utan att det krävdes förtryckande regeringar eller organisatoriska regler. Det har inte fungerat på det sättet, för att uttrycka det lätt. Omfattningen har också förändrats dramatiskt sedan internetens tidiga dagar: de röster som internetförstärkaren är inte längre nisch eller slås av från den "riktiga" världen. Sociala kändisar kan nå tiotals eller hundratals miljoner och ibland få större inverkan på sina tittare än TV eller filmstjärnor. De är inte bara inflytelserika: för många människor, särskilt yngre användare, är de media - och de kan göra ganska mycket vad de vill ha.

Det finns givetvis två sidor åt det här. En stor välsignelse på internet, särskilt för marginaliserade röster, är hur det gör det möjligt för människor att dela innehåll och idéer som aldrig kan göra det förbi gamla skolvaktare och censorer. Ibland kan det vara uppfriskande och upplysande att se media och perspektiv som inte arbetar under stultifying FCC obscenity koder, för att höra röster vi kanske inte annars hört. Men som vi har sett igen och igen i många år, är detta ett alltmer skarpt dubbelkantat svärd.

Det ödmjuka innehållet som förstärks via digitala megafoner är en påminnelse om varför etik och standarder kan vara värdefulla, särskilt för de plattformar som projicerar de högljudda rösterna i vår kultur. Lösningen är dock inte bara att koppla våra pärlor och kräva att sociala medier "tänker på barnen", utan snarare att genomföra klara kontextuella uppförandekoder med öppen handhavande som skräddarsys för distinktionerna i varje enskilt fall, inklusive mänsklig tillsyn vid varje steg. Det senare är viktigt. Utan det riskerar vi att använda automatiserade system som reproducerar förspänningar med lätt hastighet.

För ett val exempel behöver vi bara titta på en novemberhändelse som involverar den professionella Twitch-streamer som lämpligen heter Trainwrecks, som är medlem i plattformens Partnerprogram. I en passform av rättvisa pique bestämde han sig för att strömma en misogynistisk rant om så kallade "boobie streamers" eller kvinnliga innehållsskapare på plattformen som bär på att avslöja kläder eller injicera delar av sexiness i sina spelflöden. Det beskrev, i profetisk detalj, hans raseri på dessa kvinnors växande närvaro i vad han uppfattade som "hans" gemenskap och vad han trodde att de tog bort från honom:

"Det här brukade vara en gudomlig grupp av spelare, nördar, barn som blev mobbade, barn som blev knullade med barnen som tillbringade spelvärlden, eftersom den verkliga världen var för jävla, för shitty, för ensam, för ledsen och deprimerande

.

[Twitch tillhör nu] samma sluts som avvisade oss, samma sluts som valde de jävla unga barnen över oss. Samma sluts som kommer in i vårt samhälle, tar pengarna, tar delarna, på samma sätt som de gjorde tillbaka på dagen. "

Det är ingen hemlighet att mandominerade nätverkssamhällen ofta uppmärksammas av en invidiös och sexistisk mytologi, en som säger att deras specifika hörn av internetkultur - och särskilt nördkultur - är deras exklusiva domän, en tillflykt från den verkliga världen utan utrymme för onda tjejer som avvisade och mobbar dem i skolan. Kvinnorna som tar sig in i dessa utrymmen är trespassers och tjuvar som "tar" allting bort igen, med sina sexiga vildjur för att stjäla mänens rättvisa förtjänst och pengar (via annonsintäkter och abonnemang). Detta är den mentalitet som reglerar sociala medier i avsaknad av meningsfull verkställighet, den berättigade anarkin som rusar in i det vilda västra tomrummet.

Detta är den mentalitet som reglerar sociala medier i avsaknad av meningsfull verkställighet

Och som något gapande svart hål är det aldrig nöjd. "Oavsett vad jag har på mig, det finns alltid en kommentar. Det finns alltid någon som ringer mig en titty streamer, falsk spelare eller en whore etc ", säger kvinnlig Twitch streamer ZombiUnicorn på hennes Twitter. "Om alla titty streamers var borta imorgon, tror någon verkligen att shitty människor skulle sluta förödande och förolämpande kvinnor?" Tweeted streamer Renée Reynosa. "Sanningen är att de bara skulle hitta en annan hoop för att vi ska springa igenom." Det är nyckeln här: kvinnor och andra minoriteter står bakslag, oavsett vad de gör, hur de agerar, hur de klär sig eller vad de säger. Lösningen bör då inte innebära att man reglerar beteendet för de personer som drabbas av de flesta missbruk online eller gör det möjligt för de personer som åsamkar det.

Det är ett dilemma varje social media-plattform konfronterar: grotta till de arga fanbaserna hos populära användare som vill ha obehörig licens att göra som de vill ha? Eller prova dyrare, med kontextbaserade modereringstekniker som upprätthåller principen att ingen är för stor för att förbuda?

För tillfället har Twitchs tillvägagångssätt till det här problemet för det mesta varit en av monastisk tystnad, på sin egen väg att bekräfta de berättigade klagomålen på män som Trainwrecks - som blev bannlyst i bara fem dagar och förblir en aktiv streamer på plattformen. YouTube fortsätter att vara avskräckande för att vidta allvarliga åtgärder, även om LGBT-streamers har gripit med ett år där deras videoklipp effektivt dolts av företaget i ett missförstått försök att automatisera moderering.

Automoderation mani, en gång trumpet som en elegant lösning, är nu en del av problemet. Dessa företag vill att PR-boostet verkar "göra någonting" samtidigt som man implementerar snabbare och billigare system som inte kan skilja mellan en trans YouTuber som talar om genusidentitet och ett nazistiskt incitamentande våld. Dessa system utnyttjas också notoriskt av företag och trakasserier för att få kritiska videor nedtagna eller demonetiserade.

Det finns ett löfte i AI-moderering - jerks på internet är ju inte de mest ursprungliga människorna. Det finns mönster - men det kräver betydligt mer mångsidiga mänskliga händer på hjulet. Twitchs AutoMod-system debuterade med stor fanfare, men har gjort några steg i att städa upp hat i live-chat. Utan mänsklig inblick kan det inte ta itu med den allvarliga utvecklingen av onlinehat som bor i dubbla meningar, memes och skämt. Gemenskapens moderering är inte föråldrad. Det är en mänsklig färdighet som behövs nu mer än någonsin.

Det är frestande att ta den enkla vägen ut - tekniskt, ekonomiskt och moraliskt. Automoderation är enkel och kostnadseffektiv. Catering till "båda sidor" ger utseendet av rättvisa. Det här endast förknippar problem med åtkomst och plattformslikhet, och grunderna i de moraliska panikerna hos några arga användare tjänar bara som en distraktion från de större problemen som sociala medier och strömmande webbplatser står inför. Det kommer inte på något sätt att sätta stopp för de pinsamma PR-debatterna som har konsumerat Twitter (som ofta kritiseras som en nazistvänlig webbplats) eller YouTube (som har blivit generad av en som misslyckas efter en annan, från PewDiePie till Paulus att störa videor riktade mot barn).

Alla dessa plattformar har regler, moderatorer, verkställande grupper och till och med forskare som är avsedda att förbättra säkerheten. Jag har träffat några av dem - men det verkar som att alla sociala medier, från Reddit till Twitch till Twitter, fortfarande är överväldigade av explosiv skala uppnådd av sina plattformar och andlös försöker komma ikapp genom att automatisera så mycket av processen som möjligt. Det skulle vara ett misstag. Att gå tillbaka till grunderna och stärka sina kärnvärden kring denna fråga med mänskligt bistånd är det nödvändiga första steget.

Det pekar på en grundläggande fråga: Hur skadas det av en användares handlingar?

Förutom att förtydliga deras måttpolicy bör dessa plattformar också engagera sig i en del moralisk utbildning: göra det otydligt, varför någon var avstängd eller förbjuden, och vilka beteenden som bidragit till det. Precis som kritiskt måste de känna igen vikten av att döma effekterna av en streamer påstådda missgärningar.

För plattformar som YouTube och Twitch, och i själva verket sociala medier i allmänhet, bör uppförandereglerna koka ner på en grundläggande fråga: Hur skadas det av en användares handlingar? Till exempel, medan en grupp streamers - Twitchs kvinnor - anklagades för ett fundamentalt offerlöst brott, tog Trainwrecks och hans misogynistiska bröder åt sig åsikter och vidtog åtgärder med väsentliga återverkningar för de kvinnor de riktade. Detsamma gäller för PewDiePies "skämt" nazism, inklusive "gag" där han betalade indiska frilansare för att hålla upp ett tecken som läste "Döden till alla judar". (Dessa män sa senare att de inte förstod vad tecknet menade och förlorade deras jobb över det.) Etiken kring frågor om online-tal är kontextuella, och det är dags att agera som det.

Det lekfulla universet av online-streaming har mycket att rekommendera till det. Underkastas det samma sorts stränga sändningskoder som utarbetades när radion var den mest mångsidiga gadgeten på säsongen verkar oklokt och kontraproduktivt. Men plattformshållare måste sluta behandla sina användare som någon annans livliga barn och genomdriva vissa standarder - speciellt där deras mest populära streamers är berörda. Om YouTube vill bli nästa sändningsnätverk måste det fungera som det. Samtidigt borde det också motstå frestelsen att kväva andras kreativitet och mångfald bara på grund av att några högljudda, hatfulla människor har begärt sin sanktion.

Detta skulle vara en lösning på jakt efter ett problem. Värre, det skulle ge en seger till de mycket folk vars giftiga attityder är det verkliga hotet mot dessa plattformar - förutsatt att platser som Twitch, Twitter och YouTube vill vara något mer än leksaker för barn (stora och små) som inte kan få veta "Nej." Om sociala medier plattformar vill göra gott på löfte om en digital demokrati där traditionella kraftstrukturer inte stampar oss alla, måste de konfrontera de sätt på vilka deras slumpmässiga tillvägagångssätt har byggt upp så många väggar att tala fritt som det har tagit ner.

Tidigare Artikel «
Nästa Artikel