L'hymne national du Canada résonne pour la première fois par un beau soir de juillet 1880 sur le campus de l'Université Laval, à Québec. Joseph Keaney Foran et quelques-uns de ses confrères étudiants en droit se délassent dans un des bâtiments quand ils entendent un brouhaha à l'entrée principale. Ils voient entrer le père Pierre Rouselle, secrétaire de l'université, et trois autres hommes. Ils suivent un petit homme au crâne dégagé sauf pour une couronne de cheveux noirs et se dirigent droit au piano. "Il était très excité, écrira plus tard Foran au sujet du petit homme, et n'arrêtait pas de taper des mains et de répéter : "Je l'ai! Je l'ai enfin trouvé! J'ai réussi! Venez, écoutez." Il s'installe au piano tandis que les autres se perchent sur une estrade à côté. "Relevant brusquement la tête, il commence à jouer pour la première fois son chef-d'œuvre - c'était Calixa Lavallée et il jouait Ô Canada."

La composition de chants patriotiques prend de l'ampleur au cours du XIXe siècle en même temps que le nationalisme. Pendant un certain temps au Canada, politiciens et citoyens rêvent d'une mélodie qui exprime les idéaux patriotiques de la nouvelle nation. Diverses pièces musicales deviennent populaires, mais il est clair que des chants comme God Save the King (ou de Queen) ou The Maple Leaf Forever (avec des paroles comme vint Wolfe, le héros au courage indomptable) ne toucheront jamais le cœur des Canadiens français."Dans mon imagination, de s'extasier Foran, j'ai été transporté dans la ville de Strasbourg le soir où Rouget de Lisle a joué et chanté La Marseillaise pour la première fois." Le 24 juin 1880 à Québec, une fanfare joue Ô Canada à l'occasion d'un banquet du gouverneur général, le Marquess de Lorne. L'hymne est repris le lendemain devant un auditoire de 6000 personnes dans les jardins du bois de Coulonge. Le concert présente six fanfares, et les paroles chantées par une grande chorale sont alors entendues pour la première fois.

En 1834, au moment de la fondation de la Société Saint-Jean-Baptiste, George-Étienne Cartier chante avec passion sa propre composition Ô Canada! mon pays! mes amours! Néanmoins, en 1865, Ernest Gagnon déplore qu'il faille se contenter de Vive la Canadienne, chantée sur l'air de À la claire fontaine, faute de mieux.

En juin 1880, la Société Saint-Jean-Baptiste déclare que le temps est venu de trouver quelque chose d'autre. Cette année-là, elle veut un chant de ralliement patriotique pour la fête nationale. Il est question d'un concours, mais le comité de musique décide de commander au jeune compositeur, déjà réputé, Calixa Lavallée un hymne pour le 24 juin. Plus tard, la fille de Gagnon prétend que c'est son père Ernest qui a pondu le premier verset et l'a donné à Adolphe-Basile Routhier, un poète accompli, pour qu'il écrive la suite. D'autres soutiennent que Routhier a d'abord écrit les paroles et que Lavallée a composé la musique ensuite. Plus tard, Routhier écrit lui-même que Lavallée lui a joué son "grand air" et qu'il (Routhier) a écrit les quatre couplets le lendemain soir.

Quant à Lavallée, l'itinérant, il déménage plusieurs fois aux États-Unis, combat dans les rangs de l'armée de l'Union pendant la guerre de Sécession, voyage en Amérique du Sud, étudie à Paris et meurt à Boston, ce qui ne met pas tout à fait fin à ses voyages, car, même après sa mort, sa dépouille est transportée à Montréal pour être réenterrée en 1933.

Ô Canada demeure un hymne foncièrement français pendant une vingtaine d'années. Il n'est exécuté en anglais qu'en 1901, à Toronto, pour le duc de Cornwall et d'York (le futur roi George V). Diverses adaptations anglaises en sont faites avant celle de Stanley Weir, publiée en 1908. C'est cette version, légèrement remaniée, qui résonne encore aujourd'hui. Le 27 juin 1980, le Parlement adopte le projet de loi C-36 faisant de l'Ô Canada l'hymne national officiel du Canada.