Les réseaux sociaux sont dans la ligne de mire des régulateurs européens. Tant dans l’UE qu’au Royaume-Uni, de nouvelles lois radicales exigent désormais que les plateformes identifient et suppriment les contenus illégaux – sous peine de sanctions sévères.
Unitaireune startup basée à Londres, a proposé une solution : un IA-outil de modération optimisé pour les vidéos et les images.
Le système est conçu pour analyser simultanément plusieurs signaux. En conséquence, Unitaire peut comprendre à la fois ce qu’est le contenu et le contexte dans lequel il apparaît. Des indices textuels, auditifs et visuels tous incorporés dans l’interprétation.
Selon Sasha Haco, PDG d’Uniary, l’outil comprend le contenu de la même manière que vous et moi.
Le
Les dernières rumeurs sur la scène technologique européenne, une histoire de notre sage vieux fondateur Boris et un art de l’IA discutable. C’est gratuit, chaque semaine, dans votre boîte de réception. S’inscrire maintenant!
« Nous avons construit des modèles avec une compréhension nuancée, capables de refléter l’approche qu’un humain adopterait pour comprendre le contenu et prendre des décisions complexes », a déclaré Haco à TNW.
C’est une approche qui suscite un intérêt croissant de la part des investisseurs. Unitaire a annoncé aujourd’hui avoir levé 15 millions de dollars lors d’un cycle de financement de série A.
Cette nouvelle injection de liquidités arrive à un moment opportun.
Nouvelles règles
Il y a quelques semaines à peine, le Royaume-Uni a adopté Projet de loi sur la sécurité en ligne (OSB), ce qui nécessite réseaux sociaux les entreprises à garder le matériel illégal hors de leurs plates-formes hébergeant. Ceux qui ne prennent pas de mesures efficaces s’exposent à des amendes pouvant atteindre 18 millions de livres sterling (20,8 millions d’euros), soit 10 % de leur chiffre d’affaires annuel mondial, selon le montant le plus élevé.
En plus de l’OSB, les entreprises doivent désormais se conformer aux normes européennes Loi sur les services numériques, un autre règlement sur la modération du contenu. La loi est entrée en vigueur le mois dernier.
Les deux livres de règles ont élargi le marché d’Uniary. En utilisant le apprentissage automatique système, les entreprises peuvent rapidement analyser et catégoriser le contenu en ligne.
Toutes les vidéos et images à risque peuvent ensuite être signalées pour action. Unitaire peut également garantir que le contenu atteint le bon public, ce qui pourrait satisfaire aux règles du BSF en matière de protection de l’enfance.
« L’IA va être l’avenir de la modération de contenu.
Pour identifier le matériel interdit, les clients d’Unitary envoient du contenu à une API. Les modèles multimodaux de l’entreprise analysent ensuite les images. Enfin, le système renvoie une classification au client.
Le client détermine le prochain mouvement. Ils peuvent choisir de supprimer un élément de contenu, de restreindre l’audience ou d’avertir un utilisateur.
« Chaque plateforme a son propre appétit pour le risque – et en fonction de ses besoins, elle peut donner la priorité aux faux positifs plutôt qu’aux faux négatifs, ou vice versa », a déclaré Haco. « Nous travaillons en étroite collaboration avec nos clients pour nous assurer que nous répondons à leurs besoins spécifiques. »
Ces besoins sont appelés à croître.
Le boom de la vidéo
Complexe Le contenu vidéo, qui représente 80 % du trafic Internet, devrait multiplier par dix la quantité d’informations en ligne entre 2020 et 2025. Les évaluateurs humains ne sont pas équipés pour faire face à l’ampleur – et aux horreurs – de la modération de toutes les informations. ce contenu.
« Nous sommes convaincus que l’IA sera l’avenir de la modération de contenu », a déclaré Haco. « L’IA générative va fondamentalement modifier le paysage de la confiance et de la sécurité, en termes de types de préjudices, de volume de contenu et de méthodes de modération réussie.
À mesure que le contenu augmente et que les lois qui l’entourent se resserrent, la variété de clients d’Unitary s’élargit également. En plus des sociétés de médias sociaux, l’entreprise travaille actuellement avec des plateformes de vérification des publicités, des sociétés de marketing d’influence et des applications de rencontres.
Haco, qui a cofondé Unitary en 2019 aux côtés du CTO James Thewlis, envisage que sa startup devienne un service fondamental.
« À long terme, nous nous considérons comme une couche horizontale de compréhension du contenu sur Internet. Si Cloudflare est la couche middleware assurant la vitesse et la sécurité du trafic, Unitary assure la sécurité et la compréhension du contenu.
Source link