Nacido en Helena (Montana), hijo de terratenientes, fue educado entre Inglaterra y Montana. Pronto marcha a Hollywood, donde trabajará como caricaturistas, su gran afición, pero su figura no pasa desapercibida, y pronto comenzará a trabajar en el cine, como extra, en filmes del oeste, generalmente protagonizados por Tom Mix.
Su primer papel importante se lo da Henry King en "Flor del desierto" (1926). Gary mantiene un romance con la protagonista femenina, Clara Bow, que lo impondrá en "Alas" (1927), siendo contratado por la Paramount (1927-40). El éxito del filme lanza la carrera de Coop. Una sucesión de éxitos jalonan este período en el estudio: "Marruecos" (Sternberg-1930), "Las calles de la ciudad" (Mamoulian-1931), Adios a las armas" (Borzage-1932), "Una mujer para dos" (Lubitsch-1933), "Tres lanceros bengalíes" (Hathaway-1935), "Sueño de amor eterno" (Hathaway-1935), "El secreto de vivir" (Capra-1936), "Buffalo Bill" (De Mille-1936), "Beau Geste" (Wellman-1939), "Policía Montada del Canadá" (De Mille-1940), y terminado su contrato, y su posterior fichaje para Samuel Goldwyn en la United Artists, estudio en que siguió triunfando con "El forastero" (Wyler-1940) o "Sargento York" (Hawks-1942), película que le supondría su primer oscar.
Acabaría la década con otros éxitos: "Juan Nadie", de Capra, "Bola de fuego", de Hawks, "El orgullo de los yanquis", de Wood, "Los inconquistables", de nuevo con De Mille, y "El manantial" de Vidor.
Pero en 1951, sus últimos filmes no habían dado buen resultado. Se le consideraba acabado, demostrando así la poca vista que tienen muchos magnates de Hollywood.
Afortunadamente fue elegido, en tercera opción, para interpretar al sheriff Kane en "Solo ante el peligro" (Zinemann-1952). Su actuación le valió recoger su segundo oscar, vengándose así de tanta miopía. Tenía entonces 51 años. Aún trabajaría unos años más, con buenos westerns, "El jardín del diablo" o "Veracruz", en una comedia en que no le iba el papel, "Ariane", y terminó su carrera con "Sombras de sospecha", en donde sí, las huellas del cáncer que le detectaron un par de años antes, ya se le notaban mucho.
Se iba uno de los grandes. El vaquero encantador y un poco patoso, que hizo de la naturalidad su marca de fábrica.