已知最古老的象化石是大約6000萬年前古新統(tǒng)地層中發(fā)現(xiàn)的初象化石，初象只比兔子略大，體重才4～5千克。更晚一些的5500萬年前的磷灰象，體重已增加到10～15千克。但初象和磷灰象化石材料非常少，古生物學家對它們的身體形態(tài)和生活方式還缺乏了解。

科學家了解得比較清楚的最原始長鼻類是始祖象科的動物，它們的化石出土于埃及始新世晚期的沉積物中，代表動物是始祖象。始祖象是一種行動笨拙的動物，體形只有豬那么大，體重200多千克。始祖象的身體在比例上比今天的大象更長，其強壯的四條腿的末端生有寬闊展開的腳，腳趾的末端生有扁平的蹄子。始祖象在牙齒形態(tài)和結(jié)構(gòu)上已經(jīng)具有一些后來的長鼻類的特征，就是其上門齒和下門齒中的第二枚門齒增大，而今天的象牙就是特指大象極度增長的第二枚上門齒。

始祖象的外鼻孔位于頭骨前端。這一點相當重要，根據(jù)解剖學上的對比，可以很清楚地知道，盡管始祖象可能長有厚厚的上唇，但尚未形成長鼻類特有的長鼻。由此判斷，更原始的初象和磷灰象也是沒有長鼻的。始祖象的鼻孔和嘴唇連在一起，構(gòu)成了一個靈巧的肌肉器官，可以搜尋食物，這實際上是象鼻的一種雛形，因此可以斷定這些溫柔的食草動物是大象在遠古時期的近親。