Mellakat syntyivät sen jälkeen, kun ranskalainen poliisi ampui 17-vuotiaan Nahelin. Sosiaalista mediaa syytetään nyt osittain polttoaineen lisäämisestä tuleen.
Sosiaalisen median yritykset ovat jälleen tarkastelun kohteena, tällä kertaa Ranskassa, kun maan presidentti syyttää TikTokia, Snapchatia ja muita alustoja auttamisesta lietsomaan laajalle levinneitä mellakoita kuolemaan johtavan poliisin vuoksi. 17-vuotiaan kuljettajan ampuminen.
Perjantaina Ranskan presidentti Emmanuel Macron syytti sosiaalista mediaa “merkittävästä roolista” väkivallan jäljittelemisen rohkaisemisessa maan yrittäessä hillitä mielenosoituksia, jotka ovat nostaneet pintaan pitkään jatkuneita jännitteitä poliisin ja nuorten välillä maassa.
Sisäministeri Gerald Darmanin sanoi, että poliisi teki 917 pidätystä pelkästään torstaina. Yli 300 poliisia on myös loukkaantunut yrittäessään tukahduttaa mellakoita pohjoisafrikkalaista syntyperää olevan teini-ikäisen kuolemasta, ja hänet on tunnistettu vain etunimellä Nahel.
Macron, joka syytti samanaikaisesti videopelejä mellakoista, sanoi, että Ranskan hallitus työskentelee sosiaalisen median sivustojen kanssa poistaakseen “herkimmän sisällön” ja tunnistaakseen käyttäjät, jotka “kutsuvat epäjärjestystä tai pahentavat väkivaltaa”.
Miksi Ranskan hallitus on huolissaan?
Ranskan virkamies, joka puhui nimettömänä puheenjohtajavaltion tavanomaisten käytäntöjen mukaisesti, mainitsi esimerkin Nahelia ampuneen poliisin nimen ja osoitteen julkaisemisesta sosiaalisessa mediassa. Eräs vankilan virkailija on myös nähnyt ammattikorttinsa menevän verkkoon, virkamiehen mukaan se voisi vaarantaa henkilön hengen ja perheen.
Perjantain puheessaan Macron ei täsmentänyt, minkä tyyppistä sisältöä hän piti “arkaluonteisena”, mutta hän sanoi odottavansa “vastuun henkeä” sosiaalisen median alustoilta.
Hallituksen ja sosiaalisen median, mukaan lukien Snapchat ja Twitter, väliset neuvottelut ovat alkaneet nopeuttaa väkivaltaan yllyttävän sisällön poistamista, virkamies sanoi.
Ranskan hallitus pyrkii myös tunnistamaan ihmisiä, jotka kutsuvat väkivaltaan, mutta se on edelleen “keskustelu”-vaiheessa.
Darmanin sanoi, että hän oli kokouksessaan sosiaalisten verkostojen kanssa varoittanut, etteivät he saa antaa itseään käyttää väkivaltapuhelujen kanavina.
“He olivat erittäin yhteistyöhaluisia”, hän sanoi. “Katsotaan tänä iltana, ovatko he todella.”
Darmanin sanoi perjantaina, että Ranskan viranomaiset antavat sosiaalisen median yrityksille “mahdollisimman paljon tietoa”, jotta he saavat vastineeksi väkivaltaan yllyttäviä henkilöitä, ja lisäsi, että viranomaiset “seuraavat jokaista henkilöä, joka käyttää näitä sosiaalisia verkostoja sitoutumiseen. väkivaltaisia tekoja.”
Hän sanoi myös, että maa ryhtyy “kaikkiin tarvittaviin toimiin, jos saamme tietoomme, että sosiaaliset verkostot, olivatpa ne keitä tahansa, eivät kunnioita lakia”.
Mitä Ranskan laki sanoo?
Ranskassa on laki verkkohäirinnän vastaisesta toiminnasta. Online-uhkaukset rikoksilla, kuten raiskaukset ja murhat, sekä online-loukkaukset voidaan asettaa syytteeseen.
Mutta todellisuudessa se on hyvin harvinaista.
Vuonna 2020 maan parlamentti hyväksyi lain, joka pakottaisi alustat ja hakukoneet poistamaan kiellettyä sisältöä 24 tunnin kuluessa.
Vuotta myöhemmin ranskalainen tuomioistuin tuomitsi 11 13 henkilöstä, joita syytettiin islamia ankarasti kritisoivan teini-ikäisen häirinnästä ja uhkaamisesta verkkojulkaisussa. Syytetyt ihmiset olivat kuitenkin vain niitä, jotka voitiin jäljittää.
Mitä sosiaalisen median sivustot sanovat?
Rachel Racusen, Snapchatin, yhden Macronin syytteen myötävaikuttamisesta mullistuksiin, tiedottaja sanoi, että se on tiistaista lähtien lisännyt maltillisuuttaan havaitakseen Ranskan mellakoihin liittyvää sisältöä ja toimia sen suhteen.
“Väkivallalla on tuhoisia seurauksia, ja meillä on nollatoleranssi sisällölle, joka edistää tai yllyttää vihaa tai väkivaltaista käyttäytymistä missä tahansa Snapchatin osassa”, Racusen sanoi.
“Valvomme tämäntyyppistä sisältöä ennakoivasti ja kun löydämme sen, poistamme sen ja ryhdymme tarvittaviin toimenpiteisiin. Sallimme sisällön, joka raportoi tosiasiallisesti tilanteesta.”
Mutta monet muut pitävät äitiä. TikTok sekä Facebookin ja Instagramin omistava Meta eivät heti vastanneet kommenttiin perjantaina.
Twitter vastasi vain automaattisella kakka-emojilla, kuten se on tehnyt kuukausia miljardööri Elon Muskin toimikauden aikana.
Miten sosiaalisen median alustat yleensä reagoivat?
Sosiaalisen median alustat, kuten TikTok, Snapchat ja Twitter, valvovat usein ihmisiä, jotka vaativat väkivaltaa, koska se voi olla heidän käytäntöjensä vastaista.
Mutta he myös poistavat alustoilleen lähetetyn materiaalin noudattaakseen paikallisia lakeja ja viranomaisten pyyntöjä, joista osa voi olla kiistanalaisia.
Tuore esimerkki oli Twitterin toukokuussa tekemä päätös sensuroida puhe Turkin hallituksen käskystä ennen maan presidentinvaaleja.
Snapchat kertoo verkkosivuillaan, että se tekee yhteistyötä lainvalvontaviranomaisten ja valtion virastojen kanssa täyttääkseen “päteviä pyyntöjä” saada tietoja, jotka voivat auttaa tutkimuksissa.
Yritys saa monia pyyntöjä ympäri vuoden. Sen viimeisin avoimuusraportti vuoden 2022 toiselta puoliskolta osoitti, että se sai eniten pyyntöjä Yhdysvaltain hallitukselta, jota seurasivat Yhdistynyt kuningaskunta, Kanada ja Saksa.
Ranskan viranomaiset tekivät 100 hätäpyyntöä saada käyttäjätietoja, jotka sisältävät joitain tilien tunnisteita, kuten sähköpostiosoitteen ja puhelinnumeron. Yhtiö sanoi tuottaneensa “jotkin tiedot” 54 prosentissa näistä pyynnöistä.
Samaan aikaan TikTokin avoimuusraportti osoitti, että se sai paljon vähemmän – alle 20-vuotiaita – pyyntöjä Ranskan hallitukselta. Se poisti tai rajoitti sisältöä – tai vastaa – 86 prosenttia näistä pyynnöistä.
Hany Farid, Kalifornian yliopiston Berkeleyn digitaalisen oikeuslääketieteen asiantuntija, joka erosi tammikuussa TikTokin Yhdysvaltain sisällön neuvoa-antavasta toimikunnasta, sanoi, että jos hallitus pyytää tietyn sisällön poistamista, koska se rikkoo paikallista lakia, useimmat alustat noudattaa.
Mutta hän sanoi, että pyyntöjen toteutettavuus riippuu myös alustasta sekä pyynnön laajuudesta ja perusteista. Jos hallitus “pyytää laajaa kymmenien tuhansien sisällön poistamista, tämä saattaa kohdata enemmän vastustusta”, Farid sanoi.
Demokratian ja teknologian keskuksen Free Expression Projectin johtaja Emma Llansó sanoo, että vaikka verkkopalveluiden on asianmukaista poistaa puhe, joka yllyttää oikeutettuun väkivaltaan, niiden tulee toimia varovasti, erityisesti pyyntöihin, jotka voivat olla laaja-alaisia ja liian laajoja.
Intohimoisen poliittisen keskustelun ja julkisen kohun aikana Llansó sanoi, että ihmiset saattavat käyttää erittäin kiihkeää kieltä tai “käyttää viittauksia väkivaltaan” ilman, että heillä olisi aikomusta yllyttää tai tehdä väkivaltaisia tekoja.
“Nuoret Ranskassa tekevät juuri nyt protestoimista valtion väkivaltaa vastaan, mikä on ratkaisevan tärkeää poliittista toimintaa”, Llansó sanoi.
“Ja niin, miten sosiaalisen median yritykset reagoivat tällä hetkellä, on todella vaikutusta siihen, että ihmiset voivat löytää poliittisen äänensä. Se on uskomattoman vaikea kulkea.”
