最早的脊椎生物（vertebrate creatures）是出現在寒武紀初期的原始魚類，不過真正帶有脊椎骨的硬骨魚，還要等到1億年之後的志留紀晚期才會出現。 從化石證據中顯示，脊索動物（chordata animals）的出現，或許最早可以追溯到5.5億年前，是在脊椎動物分類成自己的亞門之前，而最原始的魚類（脊椎動物）是出現在5.25-5.18億年前左右。

夢幻鬼魚（Guiyu oneiros）是最早的硬骨魚類之一，出現在距今4.19億年前。 回到歷史上的志留紀末期和泥盆紀初期，大概介於4.2-4億年前，出現了許多帶有盔甲骨板（armor plates ）或帶殼（膜骨dermal bones）的魚，它們實際上已經存在數千萬年了， 而體內出現軟骨或骨頭算是進化中的創新。 儘管脊椎動物實際上是在志留紀晚期左右出現，但是脊椎動物亞門的物種，似乎很早就出現在寒武紀的初期，例如昆明魚（Myllokunmingia）距今約5.25-5.20億年前， 而海口魚（Haikouichthys），長吻鍾健魚（Zhongjianichthys rostratus）和瓦卡提·後斯普里格魚（Metaspriggina walcotti），全都出現在5.25-5.18億年前的化石記錄中。

如今，脊索動物門中分成三個亞門，分別為頭索動物（Cephalochordata），脊椎動物，和尾索動物（Urochordata）。在化石記錄中，脊椎動物出現的時間跟尾索動物（海鞘sea squirts）和頭索動物（文昌魚lancelets）的時間點很接近。寒武紀早期的皮卡蟲（Pikaia）和雲南蟲（Yunnanozoon），兩者似乎是化石記錄中最早出現的頭索動物，距今可能有5.24億年。而山口海鞘（Shankouclava shankouense）似乎是化石記錄中最早出現的尾索動物，不過也有另一種懷疑是，5.55-5.48億年前，埃迪卡拉紀時期的奧西亞蟲（Ausia fenestrata）和一種非常原始叫Yarnemia的海鞘，才是最早的尾索動物。

在古代，有一些非常奇怪的脊椎動物，如來自伊利諾伊州的化石-塔利怪獸Tully monster（Tullimonstrum gregarium），距今有3.09-3.07億年，它似乎是一種脊椎動物，七鰓鰻可能跟這個家族是比較有關係的，塔利怪獸是屬於那一類的，各界看法不一。

塔利怪獸是最早的脊椎動物嗎？