mstdn.social is one of the many independent Mastodon servers you can use to participate in the fediverse.
A general-purpose Mastodon server with a 500 character limit. All languages are welcome.

Administered by:

Server stats:

12K
active users

#contentmoderation

6 posts6 participants0 posts today

TechCrunch: TikTok adds new parental controls, tools for creators. “TikTok announced on Wednesday that it’s releasing a slew of new features, including enhanced parental controls, additional tools for creators, and a new interactive well-being feature. It also publicly launched Footnotes, its fact-checking system.”

https://rbfirehose.com/2025/07/31/techcrunch-tiktok-adds-new-parental-controls-tools-for-creators/

ResearchBuzz: Firehose | Individual posts from ResearchBuzz · TechCrunch: TikTok adds new parental controls, tools for creators | ResearchBuzz: Firehose
More from ResearchBuzz: Firehose

🏳️‍⚧️ LinkedIn removes #HateSpeech protections for #transgender individuals

@opentermsarchive detected on July 29th that LinkedIn removed transgender-related protections from its policy on hateful and derogatory content. The platform no longer lists “misgendering or deadnaming of transgender individuals” as examples of prohibited conduct.
👉 Full memo and sources: opentermsarchive.org/en/memos/
🇫🇷 Memo in French: opentermsarchive.org/fr/memos/
#TermsSpotting #TrustAndSafety #LGBTQ #ContentModeration #transrights

TikTok: KI killt Jobs

Massenentlassungen — TikTok ersetzt seine Content-Moderator*innen durch KI – und riskiert die Existenz der Beschäftigten und die Kontrolle über Hass und Desinformation im Netz

“Wirklich? Die haben die KI selbst trainiert – und wussten nicht mal, dass sie sie am Ende ersetzen würde. Echt heftig.” Fünf junge Männer aus England stehen an diesem regnerischen Sommertag etwas verloren zwischen Lautsprechern und Transparenten an der East-Side-Gallery in Berlin. Eigentlich wollten sie sich nur Street Art anschauen. Jetzt erleben sie, wie sich gewerkschaftlicher Protest formiert, hören Reden von TikTok-Beschäftigten, die für ihre Arbeitsplätze und die Zukunft der Plattform kämpfen. Denn sie sollen durch Künstliche Intelligenz ersetzt werden. Geplant ist der Abbau ganzer Teams im Bereich Content-Moderation, also unter den Beschäftigten, die die Inhalte auf TikTok prüfen, und ein Teil der sogenannten Live-Abteilung, der für den Kontakt mit Content-Produzent*innen zuständig ist. Automatisierte Systeme und günstige Dienstleister im Ausland sollen ihre Arbeit übernehmen.

“Eine KI muss mit Inhalten gefüttert werden, um überhaupt irgendwas zu erkennen. Menschen dagegen können auch auf neue Situationen reagieren – auf Dinge, die vorher noch nie da waren”, sagt einer der jungen Männer und ergänzt: “Im Moment ist der menschliche Faktor einfach unverzichtbar.” Er und seine Freunde sind keine Gewerkschaftsmitglieder, sie sind Nutzer. Doch was sie sagen, bringt auf den Punkt, was in der Tech-Welt derzeit aus dem Ruder läuft.

Trotz mehrfacher Aufforderung verweigert TikTok jegliche Gespräche mit ver.di und dem Betriebsrat. Am 23. Juli 2025 traten die Beschäftigten deshalb in einen ganztägigen Warnstreik – der erste dieser Art bei einer Social-Media-Plattform in Deutschland. Ein weiterer Streik war für den 28. Juli angesetzt. “Es ist respektlos, dass TikTok nicht einmal bereit war, mit uns zu sprechen. Die Beschäftigten haben mit ihrem Streik deutlich gemacht, dass sie sich nicht widerstandslos aussortieren lassen”, sagt Lucas Krentel, stellvertretender Landesfachbereichsleiter Medien bei ver.di Berlin-Brandenburg.

Eine, die es konkret betrifft, heißt Alexandra. Sie arbeitet im sogenannten PUSH-Team – dort werden virale oder qualitativ auffällige Videos, die bereits durch eine erste Moderation gelaufen sind, noch einmal überprüft. Sie und ihre Kolleg*innen schreiben dazu passende Texte und entscheiden, ob ein Video tatsächlich als Push-Nachricht auf Millionen Smartphones landen darf.

Seit die KI als Vorfilter im Einsatz ist, sei die Qualität auf der Plattform rapide gesunken: “Wir merken es ja aktuell selbst: In unserer Freizeit sehen wir Videos, die absolut nicht auf TikTok gehören – Nacktheit, Tierkämpfe, pornografische Inhalte, rechte Scheiße”, sagt Alexandra.

Die KI sei nicht nur schlecht trainiert – sie sei grundsätzlich nicht in der Lage, gesellschaftliche Dynamiken zu erkennen: “Eine KI erkennt keine Doppeldeutigkeit, keine kulturellen Kontexte. Und es gibt so viele kleine Tricks, mit denen Leute versuchen, die KI zu umgehen – versteckte Gewalt, Codesprache, Symbolik. Das erkennt keine Maschine. Dafür braucht man Erfahrung, Kontextwissen und Intuition.”

Alexandra vermutet zudem, dass der geplante Kahlschlag nicht nur aus Kostengründen erfolgt. “Es war offensichtlich, dass unser Team – gerade, weil wir gewerkschaftlich organisiert sind – der Geschäftsführung ein Dorn im Auge war.” Tatsächlich plant TikTok große Teile seiner Moderationsteams in ganz Europa abzubauen – darunter auch die sogenannten Quality Analysts und die Trust & Safety Units. Besonders betroffen sind migrantische Beschäftigte mit unsicherem Aufenthaltsstatus. “Letztes Jahr neue Trainings, neue Versprechen – jetzt alle raus. Ohne Sozialplan, ohne alles”, sagt ein Kollege.

Bei der Protestaktion in Berlin wirft ver.di-Gewerkschaftssekretär Daniel Gutierrez eine zentrale Frage auf: “Wem nützt diese technologische Revolution – und wer bezahlt den Preis? Wenn KI dazu dient, die Profite der Mächtigen zu steigern und die Arbeitsplätze derjenigen zu vernichten, die diese Systeme überhaupt erst ermöglicht haben, dann ist das keine Innovation sondern eine Enteignung der Vielen zugunsten der Wenigen.”

Gefahr für die Demokratie

Die Kritik an TikTok kommt nicht nur aus der Belegschaft. Auch Vertreter*innen von SPD, Grünen und Linken sind vor Ort. Werner Graf, Fraktionsvorsitzender der Grünen im Berliner Abgeordnetenhaus, sagt: “Jeder zweite Jugendliche zwischen 14 und 29 nutzt TikTok. Für viele ist das die wichtigste Nachrichtenquelle. Wir tragen eine große Verantwortung – für die Zukunft der sozialen Medien insgesamt. Genau deshalb ist dieser Arbeitskampf so entscheidend.”

Tobias Schulze (Die Linke) formuliert es drastischer: “KI ist nicht intelligent. KI ist dumm. Wenn niemand mehr auf Entscheidungen draufschaut, wenn niemand Verantwortung übernimmt, dann wird das Netz zur Hölle.” Und er betont – gerichtet an die Beschäftigten: “Ihr seid es, die Menschlichkeit ins Netz bringen. Und das lässt sich nicht outsourcen.”

TikTok betreibe Gewinnmaximierung auf Kosten der Beschäftigten und der Gesellschaft, sagt auch Kathlen Eggerling, ebenfalls bei ver.di Berlin für die Tech-Konzerne zuständig. ver.di fordert zum Schutz der Beschäftigten einen Tarifvertrag – mit verlängerten Kündigungsfristen und Abfindungen in Höhe von drei Jahresgehältern. Und es geht um mehr als nur einen Sozialplan. Es geht um Machtverhältnisse in der digitalen Ökonomie – und um das Recht, sich zu wehren.

Dieser Beitrag ist eine Übernahme von ver.di-publik, mit freundlicher Genehmigung der Redaktion.

Über Rita Schuhmacher - ver.di-publik:

Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.

extradienst.netTikTok: KI killt Jobs – Beueler-Extradienst

TechCrunch: X to test using Community Notes to find the posts everyone likes. “On Thursday, the Community Notes X account announced the launch of a pilot test where select contributors would be able to rate posts by answering questions about why they either like or don’t like that particular post.”

https://rbfirehose.com/2025/07/29/techcrunch-x-to-test-using-community-notes-to-find-the-posts-everyone-likes/

ResearchBuzz: Firehose | Individual posts from ResearchBuzz · TechCrunch: X to test using Community Notes to find the posts everyone likes | ResearchBuzz: Firehose
More from ResearchBuzz: Firehose

What is the impact of #ContentModeration on social media? Find out with Shantay 0.5, my tool for analyzing the EU's #DSA #transparency database. This version adds options for HTML report customization, fixes an incompatibility with Pola.rs 1.31.0, and improves test coverage including by enabling CI.
github.com/apparebit/shantay

Trying to make sense of the EU's DSA Transparency DB - apparebit/shantay
GitHubGitHub - apparebit/shantay: Trying to make sense of the EU's DSA Transparency DBTrying to make sense of the EU's DSA Transparency DB - apparebit/shantay

Digital Democracy Institute of the Americas: A Deep Dive into X’s Community Notes: An Analysis of English and Spanish Contributions Between 2021 and 2025. “Though Community Notes has become a flagship model for decentralized content moderation, the approach itself is hotly debated. Supporters call community-driven content moderation a democratic alternative to opaque, top-down […]

https://rbfirehose.com/2025/07/16/a-deep-dive-into-xs-community-notes-an-analysis-of-english-and-spanish-contributions-between-2021-and-2025-digital-democracy-institute-of-the-americas/

ResearchBuzz: Firehose | Individual posts from ResearchBuzz · A Deep Dive into X’s Community Notes: An Analysis of English and Spanish Contributions Between 2021 and 2025 (Digital Democracy Institute of the Americas) | ResearchBuzz: Firehose
More from ResearchBuzz: Firehose

BBC: Instagram wrongly accuses some users of breaching child sex abuse rules. “Instagram users have told the BBC of the “extreme stress” of having their accounts banned after being wrongly accused by the platform of breaching its rules on child sexual exploitation. The BBC has been in touch with three people who were told by parent company Meta that their accounts were being permanently […]

https://rbfirehose.com/2025/07/13/bbc-instagram-wrongly-accuses-some-users-of-breaching-child-sex-abuse-rules/

ResearchBuzz: Firehose | Individual posts from ResearchBuzz · BBC: Instagram wrongly accuses some users of breaching child sex abuse rules | ResearchBuzz: Firehose
More from ResearchBuzz: Firehose