Le SU-122 fut le premier canon automoteur sur châssis T-34 à entrer en service dans l’Armée rouge. Développé à l’origine pour fournir un soutien rapproché général aux chars et à l’infanterie, le SU-122 s’est également révélé être un destructeur de chars efficace malgré son armement peu probable. L’obusier M-1938 (M-30S) de 122 mm, avec sa vitesse initiale relativement faible et l’absence de munitions perforantes spécialisées, compensait ces défauts par le simple poids de son projectile. Cependant, il manquait de visée de tir direct de type char.
Le SU-122 a été assemblé à Uraltransmashzavod (UZTM) à Sverdlovsk, combinant le châssis du char moyen T-34 avec le seul armement alors produit dans la région immédiate. Ce « mariage de convenance » technique de temps de guerre utilisait les ressources disponibles autour des installations de fabrication délocalisées et s’est avéré très fructueux.
Le développement du SU-122 a été particulièrement nuancé. Le chemin vers le SU-122 a commencé avec une série de modèles de chasseurs de chars à tourelle basés sur le T-34 qui n'ont pas dépassé le stade de projet. Le premier SU-122 « de série » n'a pas du tout été construit sur un châssis soviétique ; le premier 122-SG était une combinaison de l'obusier M-30S de 122 mm avec des châssis allemands StuG III et Pz.Kpfw. III capturés. Un petit nombre de ces conversions ont été livrées à l'Armée rouge. La première conception indigène basée sur le T-34, le SG-122M, visait à réarmer les châssis de chars T-34 endommagés au combat, mais ce concept a été abandonné en raison d'un manque de véhicules donateurs. La variante finale, basée sur le châssis T-34 nouvellement construit, est entrée en production en série en décembre 1942 sous le nom de SU-35, plus tard rebaptisée pendant la production sous le nom plus connu de SU-122.
Bien que le SU-122 ait eu une durée de production relativement courte, il a participé à la plupart des actions de combat de l'Armée rouge en 1943-44. Il fut finalement remplacé dans les régiments d'artillerie automoteurs par le SU-85, armé d'un canon de 85 mm. Un très petit nombre de SU-122 survécurent jusqu'à la fin de la guerre, certains étant convertis en véhicules blindés de transport de troupes (ARV) et servant pendant des années. Les chasseurs de chars SU-85 et SU-100, plus récents et plus connus, doivent leur origine au SU-122 et au « mariage de convenance » de 1942 à Sverdlovsk.