Définir une espèce fossile pose des problèmes que la biologie moderne ne rencontre pas : pas d'expérimentation possible, matériel fragmentaire, populations rares. Ce chapitre confronte les deux grandes conceptions de l'espèce, puis détaille les trois modalités de la spéciation — péripatrique, allopatrique et sympatrique — au programme de l'axe de paléontologie évolutive.
1. Espèce paléontologique et espèce actuelle
L'espèce est l'unité de base de la classification, mais l'espèce paléontologique diffère de l'espèce actuelle sur plusieurs points : le matériel est mort, donc sans expérimentation possible ; les restes sont fragmentaires, les parties molles étant inconnues ; les spécimens sont plus rares et rarement strictement contemporains, ce qui complique l'étude d'une population à un instant donné. Une espèce paléontologique doit en outre être décrite non seulement par ses caractères à un moment donné, mais aussi par son évolution au cours du temps.
2. Deux conceptions de l'espèce
L'espèce typologique, conception la plus ancienne, définit l'espèce à partir des caractères d'un individu représentatif, le type, déposé en collection : tout individu de morphologie semblable est classé dans la même espèce, sur un critère de ressemblance. Cette conception présente deux limites majeures : le type n'est jamais parfaitement représentatif des caractères moyens de l'espèce, et l'appréciation des limites de l'espèce reste subjective face aux formes intermédiaires.
L'espèce biologique, conception de la biologie moderne (Mayr), la définit comme un groupe de populations naturelles réellement ou potentiellement interfécondes et isolées quant à la reproduction de tout autre groupe semblable — un critère de descendance. En paléontologie, l'interfécondité se déduit indirectement de la continuité morphologique d'une population : une série type est étudiée statistiquement à partir d'un représentant moyen, l'holotype, et de spécimens complémentaires, les paratypes. Une population homogène suit une distribution gaussienne ; une population hétérogène fait apparaître des discontinuités, révélant plusieurs espèces.
3. La spéciation péripatrique
La spéciation péripatrique, la plus fréquente, résulte de l'isolement d'une population périphérique par rapport à l'aire de peuplement de la population initiale, et se déroule en trois phases. La désorganisation du pool génétique : une petite population, un microdème, est isolée par des circonstances exceptionnelles et ne renferme qu'une fraction du patrimoine génétique de l'espèce mère. La restructuration et l'isolement reproductif : les modifications génétiques et chromosomiques se propagent rapidement dans ce petit effectif, aboutissant à l'isolement reproductif — cette phase étant très brève, elle ne laisse en général aucun témoignage fossile. La réorganisation après isolement reproductif : la population reconstitue des effectifs importants, des macrodèmes, avec des changements morphologiques qui, cette fois, peuvent être observés en paléontologie.
4. Les spéciations allopatrique et sympatrique
La spéciation allopatrique affecte des macrodèmes : une espèce à large répartition géographique se scinde en deux ensembles par une barrière géographique qui interrompt les échanges de gènes, les deux populations divergeant graduellement jusqu'à l'apparition de sous-espèces puis d'espèces distinctes. Une variante, le modèle de chaîne des sous-espèces, voit se créer par migrations successives des sous-espèces à effectifs comparables, dont les petites différences génétiques s'accumulent avec le temps jusqu'à la perte de l'interfécondité.
La spéciation sympatrique crée une nouvelle espèce sur place, sans séparation géographique. Elle peut se faire par anagenèse, lorsqu'un milieu devient instable et que la lignée se réorganise directement vers un nouvel équilibre, ou par spéciation par étranglement, lorsqu'une crise du milieu fragmente brutalement la population en plusieurs microdèmes résiduels, dont l'un peut donner naissance à une nouvelle espèce.
L'holotype est le spécimen de référence choisi comme représentant moyen d'une espèce ; les paratypes sont les autres spécimens de la série type qui la complètent.
Un microdème est une petite population isolée, à faible effectif ; un macrodème est une population reconstituée à effectifs importants.
| Modalité | Mécanisme | Isolement géographique |
|---|---|---|
| Péripatrique | Isolement d'une population périphérique en microdème | Oui, local |
| Allopatrique | Scission d'une espèce par une barrière géographique | Oui, large |
| Sympatrique | Anagenèse ou étranglement, sur place | Non |
Les trois modalités de la spéciation
- Espèce paléontologique : matériel mort, fragmentaire, rare — décrite aussi par son évolution dans le temps.
- Espèce typologique (critère de ressemblance à un « type ») vs espèce biologique (critère d'interfécondité, holotype/paratypes).
- Spéciation péripatrique : trois phases — désorganisation (microdème), restructuration/isolement reproductif, réorganisation (macrodème).
- Spéciation allopatrique : séparation par une barrière géographique ; modèle de chaîne des sous-espèces.
- Spéciation sympatrique : sur place, par anagenèse (progressive) ou par étranglement (brutal, sans séparation géographique).
Un classique : distinguer les trois modalités de spéciation à partir d'un schéma ou d'un exemple, ou expliquer pourquoi la phase d'isolement reproductif de la spéciation péripatrique n'est jamais documentée par les fossiles. Piège fréquent : confondre l'espèce typologique et l'espèce biologique, ou attribuer à tort un isolement géographique à la spéciation sympatrique.