Hybridation avec les néandertaliens : peut-on rester positif ?

L'idée que des Néandertaliens et certaines populations ancestrales d'Homo sapiens se sont hybridés a pris de l'ampleur au cours des deux dernières décennies. Pourtant, cette théorie est principalement étayée par des approches statistiques qui supposent des modèles peu réalistes de l'évolution des populations humaines et néandertaliennes. Dans cette étude parue en décembre 2024 dans Nature, ecology and evolution , les chercheurs ont simulé des scénarios tenant compte de la structure spatiale des populations humaines et néandertaliennes. Ils montrent que toutes les méthodes testées détectent des faux signaux d'hybridation dans des scénarios où, pourtant, Néandertaliens et sapiens ne s'hybrident jamais. Cela suggère que l’hybridation avec les néandertaliens n’est peut-être pas aussi claire que de nombreux chercheurs le disent et que les nombreux signaux d’hybridation détectés chez de nombreux organismes, pourraient aussi être de faux positifs. Cela suggère aussi que la façon de modéliser les populations anciennes, humaines et non-humaines, mériterait d’être revue de manière critique.

La plupart des études menées par des généticiens et paléo-anthropologues considèrent comme acquis le fait qu’Homo sapiens et H. neandertalensis se sont hybridés et que certaines populations humaines portent en elles 2 à 3% de gènes néandertaliens. Pourtant, les preuves de cette hybridation et sa quantification dépendent de méthodes statistiques qui font des hypothèses très fortes et peu réalistes sur les populations humaines et néandertaliennes. Ces méthodes ont tendance, à ignorer l’existence de populations différenciées à l’intérieur des continents. Par exemple, elles voient l’Europe, ou l’ensemble du continent africain, comme une grosse population totalement homogène depuis plus de 50,000 ans.

Il est normal en science d’utiliser des modèles simples pour aborder des questions complexes, mais il est aussi important de déterminer si les conclusions obtenues avec ces modèles simples seront affectées par des écarts aux hypothèses nécessairement simplificatrices faites par les scientifiques. Cela pose la question de la robustesse des méthodes d’inférence utilisées en génétique des populations. Cela fait deux décennies que des généticiens des populations notent que lorsque les populations sont structurées, le fait d’utiliser des méthodologies statistiques qui ignorent cette structure peut générer des faux positifs. 

Dans cette publication, les scientifiques ont proposé des modèles d’évolution humaine différents de ceux classiquement utilisés et tester la robustesse de nombreuses méthodes qui ont été utilisées pour détecter, quantifier et dater des événements d’hybridation entre néandertaliens et sapiens. Il semblait important d’explorer des modèles d’évolution humaine intégrant l’existence d’une structure spatiale continue entre populations humaines, et moins discontinue que celles des modèles séparant les continents et traitant ces derniers comme des populations ou régions géographiques isolées les unes des autres. 

Pour cela, ils ont simulé par ordinateur des scénarios dans lesquels les populations humaines sont représentées comme des chapelets d’îles, chacune connectée à sa voisine en intégrant les données paléoanthropologiques de la littérature scientifique. Enfin, ils ont également intégré aussi bien les connaissances que les incertitudes sur des événements telle que la séparation entre néandertaliens et sapiens, lorsque la littérature scientifique proposait des valeurs assez différentes. 

Plusieurs scénarios ont été identifiés qui expliquent les données génomiques connues mieux que les modèles actuels testés et qui font, eux, l’hypothèse de l’hybridation. Les chercheurs ont par ailleurs montré que toutes les méthodes testées détectent des faux signaux d'hybridation dans les scénarios simulés et où néandertaliens et sapiens ne s'hybrident pourtant jamais. Ils ont également identifié de nombreuses incohérences entre les modèles et études identifiant des événements d’hybridation entre néandertaliens et sapiens. Par exemple, certains modèles prédisent des niveaux de diversité génétiques beaucoup plus hauts ou plus bas que ceux réellement observés. Des signaux d’hybridation observés dans des ADN anciens pourraient aussi être des faux positifs explicables, pour certains, par des biais d’analyses des polymorphismes anciens. 

De nombreux facteurs évolutifs pourraient avoir eu un rôle dans l’apparition des patrons de diversité observés dans les populations humaines aujourd’hui. Cependant, les résultats obtenus dans cette étude suggèrent que les modèles tenant compte de la structure de la population sont essentiels pour améliorer notre compréhension de l'évolution humaine, et que l’hybridation entre les néandertaliens et sapiens doit être réévaluée à la lumière de modèles structurés. Au-delà du cas des néandertaliens, les événements d'hybridation anciens, qui sont de plus en plus documentés dans de nombreuses espèces, y compris avec d'autres homininés, pourraient également bénéficier d'une telle réévaluation.