与TE1型机车一样，绝大多数TE2型机车初期均投入到中亚地区运用，尤其是梁赞-乌拉尔铁路局（Рязано-Уральская железная дорога）巴斯昆恰克机务段，主要用于担当重载货物列车的牵引任务。1953年，苏联铁路管理系统进行了改革，取消了梁赞-乌拉尔铁路局，巴斯昆恰克机务段成为伏尔加铁路局的一部分。至1950年代中后期，随着功率更大的TE3型柴油机车投入大量生产，并开始替换原有的TE1、TE2型柴油机车，巴斯昆恰克机务段的TE2型机车相继外调到其他地区，包括鄂木斯克铁路局、远东铁路局、后贝加尔铁路局、高加索铁路局、西西伯利亚铁路局、利沃夫铁路局、莫斯科铁路局、十月铁路局、托木斯克铁路局、北高加索铁路局等。1956年，苏联并向蒙古国出口了一些TE2型机车。1978年至1987年间，大量的TE2型机车陆续停运报废。到了1990年代，尚在运用的TE2型机车已所余无几。