El origen del olivo se pierde en la noche de los tiempos; se fusiona y converge con la expansión de las civilizaciones del Mediterráneo que, durante siglos, rigieron el destino de la humanidad y plasmaron su huella en la cultura occidental.
Se han encontrado fósiles de hojas de olivo en los yacimientos del Plioceno en Mongardino, Italia. También se han descubierto restos fosilizados en estratos del Paleolítico Superior en el criadero de caracoles de Relilai, en el norte de África, y se han descubierto trozos de olivos silvestres (acebuche) y huesos de aceituna en excavaciones del período Calcolítico y de la Edad de Bronce en España. La existencia del olivo se remonta al siglo XII a.C.
El origen del olivo silvestre se sitúa en Asia Menor, donde crece en abundancia y forma espesos bosques. Parece haberse extendido desde Siria hasta Grecia, a través de Anatolia (De Candolle, 1883), aunque otras hipótesis sitúan su origen en el Bajo Egipto, en Nubia, en Etiopía, en la cordillera del Atlas o en determinadas regiones de Europa. Por esta razón, Caruso lo consideraba autóctono de toda la Cuenca Mediterránea y localiza el origen del olivo cultivado en Asia Menor hace unos seis milenios. Los asirios y babilonios eran las únicas civilizaciones antiguas de la zona que no conocían el olivo.
Si consideramos el área que se extiende desde el sur del Cáucaso hasta la meseta iraní y las costas mediterráneas de Siria y Palestina (Acerbo) como la cuna del olivo, su cultivo se extendió de forma notable en estas dos últimas regiones y se expandió desde allí hacia la isla de Chipre y Anatolia, o bien, desde la isla de Creta hacia Egipto.
A partir del s. XVI a.C. los fenicios difundieron el olivo por las islas griegas y, más tarde, en los siglos XIV a XII a.C. por la península griega, donde se incrementa su cultivo, llegando a alcanzar gran importancia en el s. IV a.C. cuando Solón promulgó decretos para regular la plantación de olivos.
Desde el siglo VI a.C. se propagó por toda la Cuenca del Mediterráneo extendiéndose a Trípoli, Túnez y a la isla de Sicilia. A partir de ahí, pasó al sur de Italia. No obstante, Presto sostiene que, en Italia, el olivo se remonta a tres siglos antes de la caída de Troya (1200 a.C.). Otro analista romano (Penestrello) defiende que el primer olivo fue traído a Italia durante el reinado de Lucio Tarquino Prisco el Viejo (616 a 578 a.C.), posiblemente procedente de Trípoli o de Gabes (Túnez). El cultivo se extendió de sur a norte, desde Calabria a Liguria. Cuando los romanos llegaron al norte de África, los bereberes sabían injertar acebuches, extendiendo su cultivo por todos los territorios que ocupaban.
Los romanos continuaron la expansión del olivo por los países costeros del Mediterráneo utilizándolo como arma pacífica en sus conquistas para asentar a la población. Se introdujo en Marsella alrededor del 600 a.C. y desde allí se extendió a toda la Galia. El olivo hizo su aparición en Cerdeña en la época romana, y también se dice que lo trajeron los genoveses a Córcega después de la caída del Imperio Romano.
El cultivo del olivo se introdujo en España durante la dominación marítima de los fenicios (1050 a.C.), pero no alcanzó un desarrolló notable hasta la llegada de Escipión (212 a.C.) y el dominio romano (45 a.C.). Después de la tercera guerra púnica, los olivos ocuparon una gran extensión del valle de la Bética y se extendieron hacia las zonas costeras centrales y mediterráneas de la Península Ibérica hasta Portugal. Los árabes trajeron sus variedades al sur de España e influyeron tanto en la difusión de su cultivo que tienen raíces árabes tanto los vocablos castellanos para aceituna, aceite y olivo silvestre (acebuche), como las palabras en portugués para aceituna (azeitona) y para aceite de oliva (azeite).
Con el descubrimiento de América (1492) el cultivo del olivo se extendió más allá de los confines del Mediterráneo. Los primeros olivos se llevaron de Sevilla a las Antillas y más tarde al continente americano. Hacia 1560 se cultivaban olivares en México, y más tarde en Perú, California, Chile y Argentina, donde todavía vive una de las plantas llevadas en la conquista, el viejo olivo de Arauco.
En épocas más modernas el olivo ha continuado su expansión fuera del Mediterráneo y hoy en día se cultiva en lugares tan alejados de su origen como el sur de África, Australia, Japón y China. Como dijo Duhamel, «el Mediterráneo termina donde el olivo ya no crece», a lo que además podría añadirse que «donde el sol lo permite, el olivo echa raíces y gana terreno».