Un nouvel algorithme d’apprentissage automatique aide Google à déterminer quels mots d’une requête sont les plus importants — et comment ils sont liés entre eux.
Pour le moteur de recherche éponyme de Google, fournir les bons résultats suppose de comprendre ce que les utilisateurs recherchent réellement. Cela implique d’identifier les mots-clés significatifs d’une requête et d’ignorer le reste. Des mots comme « a » ou « the », par exemple, peuvent généralement être ignorés sans risque.
Le problème est qu’il existe de nombreuses requêtes pour lesquelles même un moteur de recherche aussi performant que Google peine à comprendre la relation entre les mots et leur importance respective. Un exemple fourni par l’entreprise : si un utilisateur recherche « can you get medicine for someone pharmacy » (peut-on récupérer un médicament pour quelqu’un à la pharmacie), le mot « someone » (quelqu’un d’autre) est absolument décisif, car il est l’abréviation de « someone other than myself » (quelqu’un d’autre que moi). Un être humain en déduirait naturellement le sens ; un algorithme de recherche traditionnel, beaucoup moins.
Google déploie désormais une mise à jour de son moteur de recherche en anglais, conçue pour lui permettre de mieux appréhender ce type de requêtes subtiles et ainsi fournir des résultats plus pertinents. Pour la requête citée plus haut, les résultats affichent maintenant en tête un « extrait optimisé » portant spécifiquement sur le fait de récupérer l’ordonnance d’une autre personne. (Auparavant, l’extrait mentionnait bien les ordonnances, mais ne répondait pas vraiment à l’essence de la question.)
J’ai assisté en début de semaine à une présentation presse au siège de Google, où plusieurs responsables de la division recherche ont montré des exemples de résultats améliorés grâce au nouvel algorithme et expliqué la technologie qui les sous-tend. Les ambitions sont élevées : le vice-président en charge de la recherche, Pandu Nayak, a qualifié cette évolution de « plus grand changement des cinq dernières années, et peut-être l’un des plus importants depuis la création de l’entreprise ».
BERT en action
Ces améliorations s’appuient sur une technologie développée par Google appelée BERT, acronyme de Bidirectional Encoder Representations from Transformers. Inutile, pour les non-spécialistes de l’AI, de s’attarder sur les encodeurs, les représentations et les transformeurs. L’essentiel est que BERT entraîne des algorithmes de traitement du langage en leur soumettant des fragments de texte dont certains mots ont été supprimés. L’algorithme doit deviner les mots manquants — un exercice que les ordinateurs réalisent remarquablement bien, et un moyen efficace d’apprendre à comprendre un texte. Du point de vue de la compréhension, cela aide à « transformer le langage des mots-clés en véritable langage », selon les mots de Ben Gomes, directeur de la recherche Google.
« Plus le texte est abondant, meilleure est la compréhension », a déclaré Jeff Dean, vice-président senior chargé de la recherche chez Google. Fort heureusement, les ressources textuelles à la disposition de Google pour alimenter BERT ne manquent pas. (À noter que le terme « Bidirectionnel » dans l’acronyme renvoie au fait que cette technique s’écarte de la pratique conventionnelle consistant à analyser le texte mot par mot, de gauche à droite.)
En s’appuyant sur des supercalculateurs qu’il a lui-même conçus pour entraîner des modèles d’apprentissage automatique, Google applique BERT pour approfondir la compréhension de son algorithme de recherche vis-à-vis des requêtes et des pages web contenant des informations pertinentes. D’autres entreprises technologiques ont adopté BERT et en utilisent des variantes à diverses fins : Facebook, par exemple, emploie une version baptisée RoBERTa dans ses travaux de recherche sur les chatbots. Mais ces nouvelles retouches apportées à la recherche Google constituent l’un des premiers cas où BERT sort du laboratoire pour améliorer l’un des services les plus utilisés au monde.
Ce nouvel entraînement BERT n’est qu’un élément parmi d’autres que Google mobilise pour sélectionner les résultats d’une recherche ; l’entreprise indique qu’il interviendra dans environ 1 recherche sur 10. Mais ce 10 % devrait inclure certaines des requêtes qui avaient le plus de chances de mettre Google en difficulté par le passé, comme « How old was Taylor Swift when Kanye went onstage ? » (Quel âge avait Taylor Swift quand Kanye est monté sur scène ?) ou « Do estheticians stand a lot at work ? » (Les esthéticiennes restent-elles longtemps debout au travail ?).
Ces améliorations s’appuient sur une technologie développée par Google appelée BERT, acronyme de Bidirectional Encoder Representations from Transformers. Inutile, pour les non-spécialistes de l’AI, de s’attarder sur les encodeurs, les représentations et les transformeurs. L’essentiel est que BERT entraîne des algorithmes de traitement du langage en leur soumettant des fragments de texte dont certains mots ont été supprimés. L’algorithme doit deviner les mots manquants — un exercice que les ordinateurs réalisent remarquablement bien, et un moyen efficace d’apprendre à comprendre un texte. Du point de vue de la compréhension, cela aide à « transformer le langage des mots-clés en véritable langage », selon les mots de Ben Gomes, directeur de la recherche Google.
« Plus le texte est abondant, meilleure est la compréhension », a déclaré Jeff Dean, vice-président senior chargé de la recherche chez Google. Fort heureusement, les ressources textuelles à la disposition de Google pour alimenter BERT ne manquent pas. (À noter que le terme « Bidirectionnel » dans l’acronyme renvoie au fait que cette technique s’écarte de la pratique conventionnelle consistant à analyser le texte mot par mot, de gauche à droite.)
En s’appuyant sur des supercalculateurs qu’il a lui-même conçus pour entraîner des modèles d’apprentissage automatique, Google applique BERT pour approfondir la compréhension de son algorithme de recherche vis-à-vis des requêtes et des pages web contenant des informations pertinentes. D’autres entreprises technologiques ont adopté BERT et en utilisent des variantes à diverses fins : Facebook, par exemple, emploie une version baptisée RoBERTa dans ses travaux de recherche sur les chatbots. Mais ces nouvelles retouches apportées à la recherche Google constituent l’un des premiers cas où BERT sort du laboratoire pour améliorer l’un des services les plus utilisés au monde.
Ce nouvel entraînement BERT n’est qu’un élément parmi d’autres que Google mobilise pour sélectionner les résultats d’une recherche ; l’entreprise indique qu’il interviendra dans environ 1 recherche sur 10. Mais ce 10 % devrait inclure certaines des requêtes qui avaient le plus de chances de mettre Google en difficulté par le passé, comme « How old was Taylor Swift when Kanye went onstage ? » ou « Do estheticians stand a lot at work ? ».
En définitive, BERT n’aura probablement pas un impact aussi visible sur les résultats que les grandes avancées passées de Google, comme la recherche universelle et le knowledge graph, qui avaient l’un et l’autre profondément remanié la présentation des résultats de manière immédiatement perceptible. Avec BERT, les résultats ont le même aspect qu’avant ; si BERT les améliore, l’utilisateur en bénéficiera — sans jamais savoir qu’ils auraient été inférieurs en son absence.
Nayak reconnaît volontiers que les résultats de recherche intégrant BERT sont parfois moins bons que les anciens. Lors de la rencontre presse, il en a montré un exemple : à la question « What state is south of Nebraska ? » (Quel État se trouve au sud du Nebraska ?), le résultat BERT portait sur le quartier de South Nebraska à Tampa, en Floride — non seulement moins pertinent que son prédécesseur sans BERT, mais franchement inutile. Les tests de Google montrent néanmoins que ces cas sont suffisamment rares pour que l’utilisation de BERT offre un avantage global net, lequel devrait se renforcer à mesure que l’entreprise affinera la technologie.
« BERT n’est pas une solution miracle qui règle tous les problèmes, mais il en résout un grand nombre », a déclaré Nayak. « Il reste encore beaucoup de travail à accomplir. »
Par : HARRY MCCRACKEN
Source : https://www.fastcompany.com/90422132/google-just-got-better-at-understanding-your-trickiest-searches
