自远古以来，中华民族的先人就在这块土地上劳动生息。隋唐时期肇东市境内居住着靺鞨族。十三世纪末叶，蒙古牧民也进入肇东市地域，并成为这里的主要民族。

      金太宗天会八年（1130年），在今肇东市四站镇西南3公里处的八里城遗址建东北边疆军事重镇。清顺治五年（1648年）肇东市境域属郭尔罗斯后旗管辖。清光绪九年（1883年）扎萨克府（旗公府）由公营子（今肇源县茂兴站西）迁至老爷屯（今肇东市四站镇东兴村）。清光绪三十四年（1908年）肇州直隶厅在昌五城（今肇东市昌五镇）设肇东分防。1912年11月5日，肇东分防改为肇东设治局。1914年7月11日，肇东设治局晋升为县。1937年12月3日，肇东县公署由昌五城迁至满沟（今肇东镇）。1986年9月8日，经国务院批准撤县建肇东市（县级）。

      肇东市曾用名满沟和甜草岗。满沟一名源自1898年修筑东清铁路（今滨洲铁路）时，在今天的肇东镇设火车站一处，因这里是蒙古族郭尔罗斯后旗放牧之地，故当时称此站为蒙古站，谐音称满沟站；又因当时居民区的岗地出产甜甘草，故人们也称此地为甜草岗。1939年实行街村制时，定名为满沟街。1940年5月1日，从县名将满沟街改称为肇东街。