Gallup a été fondée en 1881, lors de la construction de la ligne de chemin de fer de l'Atchison, Topeka and Santa Fe Railway. Elle tient son nom du caissier des chemins de fer d'alors, David L. Gallup, et des travailleurs qui se rendaient régulièrement dans ses bureaux pour toucher leur paye, utilisant alors l'expression " going to Gallup " (aller chez Gallup).

Pendant la première moitié du XX^e siècle, l'économie de la région fut largement soutenue par l'exploitation du charbon, ce qui provoqua une arrivée massive de travailleurs étrangers (Asiatiques, Mexicains, Européens...), puis, à partir de 1927, par l'essor commercial et touristique de la Route 66.

Au début des années 1930, de nombreux films hollywoodiens choisirent Gallup et ses environs comme décor. À partir de 1936, l'hôtel El Rancho, le plus bel établissement de la ville, allait héberger de grandes célébrités, telles que Doris Day, Kirk Douglas, Spencer Tracy, Katherine Hepburn, Humphrey Bogart... Toutefois, à partir de 1956, le cinéma se désintéressa de la ville alors que la Route 66 était peu à peu mise à l'écart par l'Interstate I-40.

Située à la frontière de plusieurs territoires indiens (Hopi à l'ouest, Navajo au nord et à l'est - Window Rock le siège de la Nation Navajo se trouve non loin, de l'autre côté de la frontière avec l'Arizona -, Zuni au sud), Gallup abrite une importante population autochtone et se trouve fortement imprégnée par cette culture. On y trouve d'innombrables boutiques d'art et d'artisanat, dignes successeurs des trading post et des pawn shops du XIX^e siècle où les Indiens troquaient leurs biens et marchandises contre d'autres apportées par le chemin de fer. Ces mêmes boutiques et leurs ateliers attenants ont fait de Gallup la plaque tournante du commerce de l'art et de l'artisanat autochtone de l'Ouest.

Le chemin de fer est lui aussi toujours présent, en témoignent les trains de marchandise interminables qui traversent la ville jour et nuit.

C'est à Christ Church, dans le Red Rock Park voisin, que se déroulent la majorité des festivités organisées par la ville et la communauté autochtone.