Корни водопада лежат в Висконсинском оледенении, закончившемся около 6,000 лет назад. Североамериканские Великие озёра и река Ниагара — это результат последнего континентального ледникового щита — огромного ледника, двигавшегося по местности с территории восточной Канады. Ледник двигался подобно бульдозеру, перемалывая камни и почву, сдвигая их с места и углубляя русла рек, создавая озёра. В других местах откладывались обломки пород, заставляя реки создавать новые русла. Существует предположение, что существует старая долина, похороненная под ледниковым наносом, примерно в районе Канала Велланд (Welland Canal).

После того как лёд растаял, дренажная канава со стороны Великих озёр стала современной рекой Ниагара, которая не могла больше течь по старой долине и образовала новое русло в изменённом ландшафте. Спустя время Ниагара вырезала глубокое ущелье вдоль Ниагарского эскарпа, с северного берега образовав обрыв, вызванного эрозией горных пород между озёрами Эри и Онтарио. В процессе этого река вымывала старые морские камни, чей геологический возраст был старше ледника. Три большие формации горных пород были вымыты в ущелье, образованном рекой Ниагарой.

Когда вновь образованная река наткнулась на неподверженные эрозии доломитовые породы, то этот слой стал разъедаться гораздо медленнее, чем лежащие на более низком уровне мягкие сланцевые и песчаные породы. Аэросъёмка чётко показывает большую геологическую локпортскую свиту (Lockport Formation) средне-силурийского периода, которая лежит вверх по течению водопада, а также составляющая примерно треть верхней части стены ущелья. Она состоит из очень плотных, твёрдых и крепких известняковых и доломитовых пород. Прямо под ними две трети откоса занимает другая, рочестерская свита (Rochester Formation) раннего силурийского периода, более слабая, мягкая и ломкая. Она в основном состоит из глиняного сланца, хотя имеет в себе некоторые тонкие слои известняка, и содержит большое количество окаменелостей. Поскольку этот слой разъедается гораздо легче, река подрезала твердые слои и образовала водопад.