Avec plus de 30 millions d’inscrits, bien souvent mineurs, l’application sociale Yubo fait face à des enjeux de sécurité particulièrement importants pour garantir l’équilibre entre liberté des utilisateurs et bienveillance partagée sur les réseaux. Récemment, Yubo vient d’annoncer la mise en œuvre d’un partenariat opérationnel avec l’association E-Enfance. Le but : mettre en relation directe un membre du réseau téléphonique anonyme et gratuit Net-écoute et tout utilisateur présentant des signes suicidaires ou expliquant subir du harcèlement en ligne. Une démarche qui s’inscrit dans la stratégie particulièrement volontariste de Yubo en faveur de la sécurité des utilisateurs.
Après le NCMEC, un nouveau partenariat pour renforcer la sécurité des utilisateurs
En avril dernier, Yubo avait déjà annoncé un partenariat avec le Centre national pour les enfants disparus et exploités (NCMEC), une ONG américaine dédiée à la recherche et la protection des mineurs disparus ou dont la vie est en danger immédiat. Ce partenariat permet ainsi à Yubo de remonter directement à l’ONG tous les cas suspicieux d’activité illégale touchant des mineurs. L’ONG se charge ensuite de faire directement le lien avec les autorités américaines, dont la très fine connaissance du système policier et judiciaire fédéral est un atout majeur.
L’enjeu de la collaboration avec E-Enfance est différent et s’inscrit plus largement dans une stratégie de prévention du harcèlement en ligne et de ses conséquences, potentiellement tragiques. « La mise en relation directe avec un service professionnel tel que celui proposé par e-Enfance est essentielle pour nous » explique Marc-Antoine Durand, directeur des opérations de Yubo. Pour E-Enfance, le préalable à ce partenariat a été la simplicité d’accès à un appel ou tchat avec un membre de l’association. « Un simple bouton permet de nous joindre directement ce qui facilite l’écoute de jeunes confrontés à des situations difficiles » détaille Justine Atlan, directrice générale de l’association.
Beaucoup d’innovations dans le domaine de la sécurité pour Yubo
Ces derniers mois, Yubo a multiplié les annonces afin de renforcer la sécurité de ses utilisateurs. En avril dernier, l’application a implémenté un nouvel outil de respect de la privacy avec l’envoi automatique d’un message de sensibilisation dès qu’un utilisateur est sur le point d’envoyer un numéro de téléphone personnel, une localisation ou n’importe quel élément pouvant permettre de le retrouver aisément par un utilisateur mal intentionné. À cette nouveauté s’est ajoutée une vérification systématique d’identité fondée sur le blocage des utilisateurs n’affichant pas de photo d’identité afin d’éviter l’inscription de faux profils.
Surtout, Yubo s’est attaqué à la problématique de la gestion particulièrement complexe des flux vidéo en live, le cœur de son modèle. En effet, l’application a développé un outil d’intelligence artificielle permettant de repérer tout utilisateur dénudé — ou en passe de l’être. Un avertissement est envoyé immédiatement à l’utilisateur, avant un bannissement du profil, si l’utilisateur n’est pas rhabillé. Enfin, une coopération avec Yoti, une start-up spécialisée dans l’intelligence artificielle, permet d’interdire l’accès des moins de 13 ans à l’application grâce à une vérification systématique automatisée des photos de profil et en cas de doute de l’outil de contrôle, une vérification par une pièce d’identité.
En parallèle des outils d’intelligence artificielle, Yubo a aussi développé très fortement ses équipes de modération humaine. « Nous avons ainsi prévu de multiplier par cinq le nombre de nos modérateurs, présents partout dans le monde » expliquait Sacha Lazimi, CEO et fondateur de Yubo, au magazine Entreprendre en décembre dernier. Aujourd’hui, « la sécurité fait désormais partie de l’ADN de Yubo. C’était un développement inévitable. Une compagnie qui fait preuve de négligence ne peut pas survivre », explique Annie Mullins, consultante en charge de la protection des utilisateurs pour le réseau social Yubo, au magazine Rudebaguette.
