TechCrunch berichtet ueber Moonbounce, ein Startup von Brett Levenson (ex-Facebook/Meta) und Ash Bhardwaj, das 12 Millionen Dollar von Amplify Partners und StepStone Group eingesammelt hat. Das Produkt ist eine "AI Control Engine", die Content-Moderation-Richtlinien in konsistentes, vorhersagbares AI-Verhalten uebersetzt.
Das Problem
Klassische Content-Moderation basiert auf Mustererkennung und menschlichen Reviewern. Beides skaliert nicht mit der Geschwindigkeit, in der generative AI Inhalte produziert. Ein einzelner Nutzer kann mit AI-Tools in Minuten tausende Inhalte erzeugen, die frueher Stunden oder Tage gedauert haetten. Die Moderationssysteme der Plattformen sind fuer dieses Volumen nicht ausgelegt.
Gleichzeitig werden AI-generierte Inhalte immer schwerer von menschlich erstellten zu unterscheiden. Deepfakes, synthetische Stimmen und AI-generierte Texte erfordern neue Erkennungsmethoden, die ueber einfache Hash-basierte Duplikaterkennung hinausgehen.
Moonbounces Ansatz
Moonbounce setzt auf AI-gestuetzte Moderation, die speziell fuer AI-generierte Inhalte trainiert ist. Das Unternehmen nutzt dabei die Erfahrung seines Gruenders, der bei Facebook die Content-Moderation-Infrastruktur mitaufgebaut hat. Details zur Technologie und Finanzierung wurden im Rahmen der Fundraise bekanntgegeben.
Einordnung
Content Moderation fuer AI-Inhalte ist ein Wachstumsmarkt. Mit zunehmender Regulierung (EU AI Act, DSA) steigt der Druck auf Plattformen, AI-generierte Inhalte zu kennzeichnen und schaedliche Inhalte zu filtern. Tools wie Moonbounce adressieren eine reale Marktluecke.