Moonshot Insurance, une filiale assurantielle de Société Générale, s’associe à la startup de l’intelligence artificielle Bodyguard.ai, afin de protéger les enfants contre les attaques sur certains réseaux sociaux.
Analyse des messages par la technologie
Leur offre combine la technologie d’analyse des messages de Bodyguard.ai et l’offre d’assurance et de prévention de Moonshot Insurance pour agir contre la diffusion de messages haineux. L’objectif est d’agir de manière préventive en supprimant en temps réel les contenus toxiques avant que l’utilisateur et sa communauté ne puissent les voir. Cela évite ainsi qu’ils soient confrontés à la haine en ligne.
En pratique, les algorithmes de Bodyguard.ai, intégrés dans son application mobile, filtrent 4 réseaux sociaux Instagram, Youtube, Twitter et Twitch que la startup considère comme négatifs pour le bien-être des jeunes enfants. Gros bémol, ces médias ne sont pas les plus employés par les ados.
On regrette que ni Snapchat, ni Facebook, WhatsApp ou TikTok ne figurent au catalogue car ces réseaux sont très employés par les jeunes. Le filtrage s’effectue par NLP (Natural Language Processing). Le service d’assurance de Moonshot accompagne les victimes en prenant en charge les consultations avec des spécialistes.
Suppression du contenu suspect et information des parents
Dès qu’un contenu suspect est détecté sur l’un des réseaux sociaux de l’enfant par l’algorithme de Bodyguard.ai, il est immédiatement supprimé pour contrer sa propagation et les parents sont avertis par e-mail. Si plusieurs messages haineux sont détectés sur une courte période, ce qui peut mener à la suspicion de cyber-harcèlement, Moonshot via une analyse contextuelle, alerte les parents sur la possibilité d’activer la couverture d’assurance.
Si l’enfant se révèle être victime de cyber-harcèlement, Moonshot, fournit les éléments de preuves nécessaires à un dépôt de plainte. L’insurtech propose également un forfait d’accompagnement santé comprenant la prise en charge des frais de consultations à hauteur de 400 € par an avec le praticien du choix des parents, psychologue, sophrologue, acupuncteur ou nutritionniste.
Une messagerie instantanée est disponible depuis l’application mobile Bodyguard pour accéder à une équipe d’écoutants à tout moment, par téléphone ou par tchat. Cette équipe est composée de psychologues, de juristes et de spécialistes des outils numériques. Elle accompagne les parents et leurs enfants sur toutes les questions liées aux usages numériques des jeunes.
Une solution de modération de contenus
La solution de Bodyguard.ai propose une modération intégrable aux réseaux sociaux et aux plateformes pour protéger les communautés et les marques des contenus toxiques dans le secteur du jeu vidéo, du divertissement, des médias et du sport. La solution modère en temps réel et dans plusieurs langues les contenus haineux sur internet. Elle propose de filtrer également les spams, les arnaques et la publicité indésirable.
Société Générale : premiers pas d’une IA pour stopper le cyber harcèlement des enfants
