Hasta mediados del siglo XIX el Río de la Plata llegaba a los pies de estas barrancas. El terraplén del Ferrocarril Mitre, construido en esa época, sirvió para contener las aguas y secar los terrenos. En las barrancas hay más de 60 especies vegetales, como ombúes, palmeras, magnolias, robles, madreselvas y ceibos. Entre las esculturas (muchas del siglo XIX) se destaca una réplica de la Estatua de la Libertad realizada por el autor de la original, el francés Frédéric Bartholdi. En la parte alta del parque hay una glorieta donde solían tocar orquestas y en la actualidad se baila tango y folclore los domingos.
