Nous avons contacté Microsoft pour obtenir des commentaires et Jeff Jones, directeur principal chez Microsoft, nous a fait la déclaration suivante:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Mettre à jour: Depuis la publication de cette publication, Microsoft s’attache à supprimer les suggestions offensantes de Bing mentionnées plus haut. Sur la base de nos recherches, de nombreuses autres propositions offensives n’ont pas encore été résolues, notamment quelques-unes que nous avons mentionnées plus bas. Nous ne savons pas s'ils corrigent simplement les éléments offensants que nous avons signalés ou s'ils améliorent l'algorithme.
Remarque: Les captures d’écran ci-dessous montrent ce que nous avons vu lorsque nous avons écrit cette pièce testant la version américaine de Bing Image Search dans une session de navigation privée Incognito, mais les résultats de Bing changent avec le temps. Selon nos tests, Google n'a rencontré aucun de ces problèmes. Ceci est un problème de Bing, pas simplement un problème de moteur de recherche. Le même problème affecte la recherche vidéo de Bing.
Tout d'abord, Bing devient super raciste
La recherche de «juifs» sur Bing Images et Bing vous suggère de rechercher «un Juif diabolique». Les principaux résultats incluent également un meme qui apparaît pour célébrer les morts des Juifs.
Tout cela apparaît même lorsque l'option SafeSearch de Bing est activée, comme c'est le cas par défaut. SafeSearch est conçu pour «aider à garder le contenu réservé aux adultes hors de vos résultats de recherche», selon Microsoft.
Nous savons tous que cette foutaise existe sur le Web, mais Bing ne devrait pas y amener les gens avec leurs suggestions de recherche.
Vous pouvez continuer ainsi, en cliquant sur chaque recherche suggérée et en constatant des recommandations de plus en plus pires. Par exemple, cliquer sur "Les Noirs sont stupides" mène à "Les Noirs sont inutiles" et "Pourquoi les Noirs sont-ils si stupides?"
Bing pousse les conspirations, aussi
La recherche d’images de Bing vomit toutes sortes de déchets, même lorsqu’elle cherche des individus. Ce problème s’applique également à la recherche vidéo de Bing.
Recherchez «Michelle Obama» dans la recherche vidéo de Bing et deux des recherches suggérées le plus souvent: «Michelle Obama Transgender Proof» et «Michelle Obama est un homme». Cliquez sur cette icône pour voir des vidéos de conspiration.
Est-ce la principale chose que Microsoft veut que les gens voient lorsqu'ils cherchent Michelle Obama?
SafeSearch bloque le porno, mais pas le racisme
Les suggestions et les images pornographiques dérangeantes ne sont pas affichées, à moins de désactiver SafeSearch. Bien que Microsoft affirme que SafeSearch maintiendra le contenu réservé aux adultes dans vos résultats de recherche, SafeSearch filtre clairement la pornographie et non le racisme.
SafeSearch est activé par défaut, ce qui rend les résultats de recherche de Bing plus respectables à première vue.
Cependant, il est facile pour quiconque, même les enfants, de désactiver SafeSearch. Il suffit de cliquer sur l’option «SafeSearch» située dans le coin supérieur droit des résultats de la recherche et de sélectionner «Off». C’est tout!
Un réseau d'entreprise peut être configuré pour appliquer SafeSearch et Microsoft fournit même des instructions complexes pour appliquer SafeSearch sur un seul PC. Toutefois, sur presque tous les appareils, tout le monde peut désactiver SafeSearch en deux clics.
Le pire de tout, Bing suggère de rechercher des images d'enfants mineurs
Un lecteur a écrit pour nous dire qu’une faute de frappe dans la recherche du mot “grill” dans Bing donne une pornographie vraiment rudimentaire. Le problème devient alors bien pire, Bing vous suggérant de rechercher des images d'enfants mineurs.
Lorsque vous recherchez «gril», les suggestions en haut de la page vous recommandent de rechercher des éléments troublants, notamment «Jolie fille jeune de 16 ans».
Les résultats sont remplis de pornographie de jeunes mannequins. Nous espérons qu’ils ont tous 18 ans ou plus, mais qui peut le dire?
Bing vous guide sur une voie allant de la simple typo aux filles de 16 ans en passant par les filles de 10 ans, et c’est dégoûtant.
Les résultats de la recherche d'images de Bing sont également tordus
Bien que nous nous concentrions sur les suggestions de recherche ici, les images réelles qui apparaissent sont également inquiétantes.
Certains de ces résultats de recherche contiennent des photos d'enfants de mineurs nus au moment du bain. Ces photos conviendraient normalement, mais les résultats de la recherche sont alarmants lorsqu'ils sont associés à des images de pornographie hardcore pour adultes.
Même en recherchant «fille» dans Bing Images, nous avons suggéré de rechercher des «filles ivres» et au moins une image de la bestialité.
Lorsque vous recherchez «un âne», Bing vous suggère de rechercher «Un graphique d'affichage d'âne», ce qui conduit à des résultats remplis d'images de bestialité. La possession de pornographie bestiale est illégale en Oregon, où je vis. Cela signifie que Bing me conduit à la pornographie illégale.
Encore une fois: les résultats de recherche de Bing sont étranges et tordus. Bing a un problème beaucoup plus vaste et plus profond que les recherches suggérées, bien que ces suggestions aggravent le problème.
Nous avons entendu dire que Bing est le moteur de recherche par excellence pour la pornographie, mais il ne devrait pas conduire ses utilisateurs vers une pornographie de plus en plus extrême, dérangeante et potentiellement illégale.
Microsoft doit modérer ses plates-formes
Nous avons vu cela se produire encore et encore. Microsoft a lancé un chatbot nommé Tay sur Twitter. Ce chatbot s'est rapidement transformé en nazi et a déclaré: «Hitler avait raison, je déteste les juifs» après avoir été informé par d'autres utilisateurs de médias sociaux. Microsoft a dû le déconnecter.
Nous avions précédemment exposé le magasin Windows 8, qui est devenu un groupe d’applications frauduleuses après le lancement de Windows 8 par Microsoft et qui semblait cesser de modérer les soumissions d’applications. Microsoft accorde plus d’attention à Windows 10 Store après que ce problème a été exposé.
Ce problème concerne toutes les entreprises qui lancent une plateforme. Google a abandonné Google+, mais Google+ est toujours opérationnel. Donc, ISIS a migré vers Google+ après avoir été banni de Twitter et Facebook. Il a fallu des mois à quiconque pour s'en rendre compte jusqu'à ce que The Hill le sache. Google ferme maintenant Google+ après avoir découvert un problème de confidentialité important.
En 2013, The Guardian a découvert qu'une société de vêtements, Solid Gold Bomb, vendait des chemises de lecture «Keep Calm and Rape a Lot» sur Amazon. Un algorithme avait généré ces chemises et Amazon devait les supprimer manuellement.
Microsoft ne peut pas simplement lâcher une plateforme sur le monde et l’ignorer. Des entreprises comme Microsoft et Google ont la responsabilité de modérer leurs plates-formes et de tenir l'horreur à distance.
Les suggestions ont des antécédents de problèmes graves
Bien entendu, aucune équipe de Microsoft n’a choisi ces suggestions. Bing suggère automatiquement des recherches basées sur les recherches d'autres personnes. Cela signifie que de nombreux utilisateurs de Bing Images recherchent l'antisémitisme, le racisme, la pornographie enfantine et la bestialité. Rien que d'y penser, on se sent sale.
D'autres entreprises ont également rencontré des difficultés avec cela. En 2016, The Guardian a remarqué que vous pouviez taper «sont des juifs» dans Google, ce qui donnerait à penser que «sont des juifs diaboliques». Google a émis ces mauvaises suggestions après leur publication, mais le problème a refait surface. En 2018, Wired signalait que la saisie de "Hitler is" dans Google conduisait à "Hitler est mon héros". Google a également dû résoudre ces problèmes après les avoir signalés.
Même Siri d’Apple a suggéré que des sites Web poussent des sites de complot et d’autres fausses informations, comme le rapporte Buzzfeed News. Apple devait réparer Siri. Tout le monde ne fait que courir et éteindre des incendies alors que les ordinateurs apprennent les mauvaises choses des mauvaises personnes.
C’est maintenant au tour de Microsoft. Microsoft a la responsabilité de nettoyer Bing. Un moteur de recherche important (et en particulier un moteur de plus en plus difficile à désactiver intégré à Windows 10) ne devrait pas suggérer à ses utilisateurs de rechercher des ordures racistes et des images d’enfants mineurs.
