Il est devenu de plus en plus difficile d’innover. Non seulement les entreprises consentent de plus en plus d’efforts pour la recherche, mais en plus les chercheurs sont de moins en moins productifs. Ces conclusions sont celles d’une étude américaine publiée en 2020. Elles s’appliquent tout autant à l’informatique qu’à l’agriculture ou à la médecine. Un nouvel espoir est toutefois apporté par les LLM (Large Language Models) qui promettent de révolutionner la recherche. La productivité des chercheurs utilisant ces LLM pourrait en effet être fortement augmentée.
La loi de Moore, exemple parfait de la baisse de productivité
La loi de Moore se base sur l’hypothèse d’un doublement de la densité de transistors tous les 2 ans. Cela correspond à une croissance annuelle constante de 35% de la densité. Entre 1970 et 2020, la Loi de Moore a été parfaitement respectée (voir graphique ci-dessous). Elle s’est sans doute transformée en un objectif pour les industriels qui ont consenti des efforts jamais vus en termes de recherche pour y parvenir (c’est en soi une application vertueuse de la loi de Goodhart).
Ce que les 4 auteurs de l’article montrent, c’est que le nombre de chercheurs nécessaires au doublement du nombre de transistors est 18 fois plus élevé qu’il ne l’était en 1970. L’atteinte des objectifs fixés par la loi de Moore implique une augmentation annuelle constante de 35% de la densité des transistors. Entre 1970 et 2015, les chercheurs ont analysé les dépenses de personnel affecté à la recherche de toutes les sociétés actives dans le développement des puces électroniques. Le constat est sans appel et est clairement illustré par le graphique ci-dessous tiré de leur article.
Comme l’écrivent les auteurs de l’étude :
« L’effort de recherche a été multiplié par 18 depuis 1971. Cette augmentation s’est produite alors que le taux de croissance de la densité des puces est plus ou moins stable : la croissance exponentielle impliquée par la loi de Moore n’a été obtenue que par une augmentation massive du nombre de chercheurs occupés à repousser les limites du possible. »
Cette multiplication par 18 du nombre de chercheurs correspond au final à une baisse de la productivité de 6,8% en moyenne par an.
Pourquoi est-ce ainsi ? Tout simplement parce qu’atteindre les objectifs de la loi de Moore impose de repousser toujours un peu plus les limites techniques et physiques (finesse de gravure, dispersion de la chaleur). Sous cette « baisse de productivité » se cache en fait un défi technologique exponentiel au fur et à mesure que les années passent. Je pense d’ailleurs que nous pouvons remercier Gordon Moore dont la prédiction en 1965 s’est sans doute transformée en un objectif industriel inconscient qui a permis de faire progresser l’informatique.
La recherche en agriculture pas au niveau des enjeux de productivité
Les enjeux de la recherche ne sont bien entendu pas limités à l’informatique. L’agriculture est un autre domaine où la recherche est cruciale pour faire face aux défis de la planète. Tous types de cultures confondus, les auteurs montrent que la capacité à faire augmenter les rendements (ligne bleue) diminue alors que dans le même temps l’effort de recherche augmente (lignes vertes).
Le graphique est certes moins facile à lire que celui concernant la loi de Moore. Mais les conclusions sont les mêmes. Pour le dire simplement, il faut plus de chercheurs pour faire moins bien qu’avant. Entre 1970 et 2007, la baisse de productivité de la recherche en agriculture a été en moyenne de 3,7% par an.
Les auteurs ont analysé plus en détail les efforts de recherche en fonction du type de culture : maïs, blé, soja, coton. Et bien entendu les résultats se tiennent également à ce niveau (voir image ci-dessous). Dans le cas du maïs et du soja, on notera l’augmentation par 24 du nombre de chercheurs entre 1970 et 2010.
La médecine donne de moins en moins d’espoir aux malades
S’il y a bien un domaine où les efforts de recherche sont visibles du grand public, c’est la recherche en médecine. Trouver des remèdes aux maladies qui nous empêchent de vieillir est une priorité.
Afin de mesurer la productivité de la recherche en médecine, les auteurs de l’étude comparent :
- Le nombre d’années de vie « sauvées » pour différents types de maladie (cancers, cancer du sein, maladie du cÅ“ur)
- Le nombre de publications scientifiques sur ces différentes maladies comme « proxy » de l’effort de recherche
Ils montrent que l’effort de recherche augmente de façon linéaire alors que le résultat de la recherche, lui, diminue. Quelle que soit la maladie étudiée les résultats sont les mêmes.
Conclusions
Il est de plus en plus difficile de maintenir le rythme de l’innovation. Quelle que soit la manière dont on mesure le résultat (nombre de transistors, rendement des cultures, années de vie sauvées), on constate qu’il y a de plus en plus de chercheurs à l’Å“uvre.
Le « rendement » de la recherche est en constante diminution car il est tout simplement de plus en plus compliqué de « trouver ». Nous repoussons les limites de la matière, les limites du vivant, pour tenter d’améliorer ce qui peut l’être. Mais repousser ces limites devient de plus en plus difficile. Cela explique que les chercheurs, pris individuellement, sont de moins en moins efficients. Ils en font donc de plus en plus pour maintenir le rythme (loi de Moore) et parfois cela ne suffit même pas (agriculture, médecine).
C’est là que les LLM (Large Language Models) apportent de l’espoir. Cette technologie de rupture va peut-être permettre à ces mêmes chercheurs des gains de productivité. Les premiers essais sont d’ailleurs prometteurs. Un hackathon a ainsi permis d’identifier différents gains de productivité dans la recherche de nouveaux matériaux. Les LLM peuvent également faciliter la découverte de nouveaux médicaments. Bref, au-delà des applications anecdotiques comme la création de contenu, les LLM ouvrent un champ de possibilités qui sont susceptibles de redonner un « boost » de productivité aux chercheurs dans tous les domaines.
Publié dans Innovation, Recherche.
