C'est en 1900 qu'un sport d'hiver, le patinage artistique, figure aux Jeux olympiques et c'est aux Jeux olympiques d'été. Cependant, cette compétition n'aura jamais lieu. Il faudra attendre les Jeux d'été de Londres de 1908 pour assister à des épreuves de patinage artistique. En 1911, un membre du Comité international olympique (CIO) propose d'intégrer des sports d'hiver aux Jeux de Stockholm. Les Suédois perçoivent cette idée comme une menace pour leurs propres Jeux nordiques et la rejettent.

Le patinage artistique et le hockey sur glace figurent au programme des Jeux olympiques d'été d'Antwerp, en 1920, mais les compétitions ont lieu dix semaines avant les jeux proprement dits. En 1921, malgré les objections du fondateur du mouvement olympique moderne, le Baron Pierre de Coubertin, le CIO accepte de tenir une «Semaine internationale des sports d'hiver» à Chamonix en France, en 1924. L'événement est un franc succès et est considéré a posteriori comme les premiers Jeux olympiques d'hiver. La première médaille d'or est décernée à Charles Jewtrew, des États-Unis, en patinage de vitesse (500 m). L'équipe de hockey canadienne gagne l'ensemble des cinq matchs, battant ses adversaires 110 à 3.

Après Chamonix, les Jeux de 1928 se déroulent à Saint-Moritz en Suisse. La célèbre patineuse norvégienne, Sonja Henie, y fait ses débuts à l'âge de 15 ans, puis défend son titre en 1932, à Lake Placid (New York). En 1936, ce sont les villes bavaroises de Garmisch et de Partenkirchen qui accueillent les Jeux. Quelque 500 000 spectateurs sont transportés en autocar pour assister à la dernière journée de compétitions. Ce sont les premières épreuves olympiques de ski alpin. Henie remporte sa troisième médaille d'or, et la Grande-Bretagne bat le Canada au hockey. Après la Deuxième Guerre mondiale, les premiers Jeux se déroulent de nouveau à Saint-Moritz et consacrent la patineuse canadienne Barbara Ann Scott, qui remporte l'Or. À Oslo, en 1952, le Canada gagne sa cinquième médaille d'or au hockey, et apparaissent les premières compétitions de ski de fond féminin. À Cortina en Italie, en 1956, participe la première équipe soviétique qui se distinguera rapidement en mettant fin au règne du Canada au hockey. Ce sont les premiers Jeux télévisés.

En 1960, à Squaw Valley en Californie, les Américains refusent de construire une piste de bobsleigh. Le biathlon et le patinage de vitesse féminin sont au programme pour la première fois. Les Américains remportent l'Or en battant les Soviétiques au hockey. Les Jeux de 1964, à Innsbruck en Autriche sont menacés par le manque de neige. L'armée autrichienne taille 20 000 blocs de glace d'une montagne pour construire les pistes de bobsleigh et de luge. Quelque 40 000 mètres cubes de neige sont transportés sur les pistes de ski alpin. En 1968, les Jeux olympiques de Grenoble consacrent Jean-Claude Killy qui domine le ski alpin. En 1972, à Sapporo au Japon, le Canada refuse de participer aux tournois de hockey en protestation contre l'hypocrisie des règlements d'admissibilité. (Les joueurs du Bloc de l'Est, bien que considérés comme amateurs, sont payés par leur gouvernement tandis qu'on exclut les meilleurs joueurs canadiens parce qu'ils sont professionnels.)

En 1976, les Jeux doivent se dérouler à Denver, au Colorado; cependant, la ville a voté contre l'utilisation de fonds publics. Les Jeux sont donc déplacés à Innsbruck, où la Canadienne, Kathy Kreiner, gagne le slalom géant par 72 centièmes de seconde. C'est à cette occasion qu'est introduite la danse sur glace. Les Jeux olympiques de 1980, à Lake Placid, sont un désastre du point de vue de l'Organisation (les spectateurs sont prisonniers d'un temps glacial), mais une réussite pour les Américains. Eric Heiden remporte les cinq compétitions de patinage de vitesse et l'équipe de hockey américaine accomplit un véritable « miracle sur la glace ».

Les Jeux olympiques ne sont accueillis qu'une seule fois par un pays soviétique socialiste : en 1984, à Sarajevo en Yougoslavie. Le point fort de ces Jeux est sûrement la prestation de danse libre des patineurs anglais, Torvil et Dean. En 1992, la guerre civile réduit les installations olympiques en ruine. Les Jeux de Calgary, en 1988, sont appréciés par les athlètes et le public malgré le piètre état de certaines installations. Comme aux Jeux de Montréal, le Canada ne parvient pas à remporter une seule médaille d'or sur son territoire. Les Jeux suivants ont lieu à Albertville en France, en 1992, et, seulement deux ans plus tard, à Lillehammer en Norvège. Ce changement permet de ne pas tenir les Jeux d'été et d'hiver la même année. Très réussis, les Jeux de Lillehammer ne sont assombris que par la sordide affaire Tonya Harding. La Canadienne Myriam Bédard remporte deux médailles d'or au biathlon. En 1998, les conditions climatiques perturbent les compétitions de ski, à Nagano au Japon. Malgré la présence de joueurs professionnels dans l'équipe de hockey canadienne, celle-ci ne remporte pas de médaille. L'histoire des Jeux olympiques connaît son pire scandale lorsque les Jeux de 2002 ont été attribués à Salt Lake City et qu'on découvre que les membres du CIO ont donné leur vote au plus offrant.

Pour les athlètes canadiens, Salt Lake City 2002 est sans contredit les meilleurs Jeux d'hiver de l'histoire. Le Canada y a obtenu son meilleur résultat, terminant quatrième derrière l'Allemagne, les États-Unis et la Norvège, avec 17 médailles, soit six d'or, trois d'argent et huit de bronze. La victoire des équipes de hockey féminin et masculin s'est avérée le point culminant. En patinage artistique, le couple Jamie Sale-David Pelletier a partagé la médaille d'or avec les Russes Bereznaya et Sikharulidze à la suite d'une controverse entourant les juges. Les sauteuses Veronica Brenner et Deidra Dionne sont devenues les premières canadiennes à mériter une médaille en ski acrobatique, enlevant respectivement l'argent et le bronze. Les patineurs de vitesse canadiens ont remporté la palme pour le nombre de médailles : huit. Chez les hommes, Marc Gagnon est devenu le plus grand athlète canadien de l'histoire des Jeux d'hiver en raflant l'or au 500 m et au relais 5000 m en compagnie de Johathan Guilmette, François-Louis Tremblay et Mathieu Turcotte et le bronze au 1500 m. Fort de cinq médailles, obtenues de 1994 à 2002, Marc Gagnon éclipse l'ancienne marque de quatre établie par Gaétan Boucher. La patineuse de vitesse Clara Hughes s'est aussi distinguée en devenant la première médaillée canadienne à la fois des Jeux d'hiver et d'été. À Atlanta en 1996, elle avait décroché deux médailles en cyclisme.