В 1627 году на высоком берегу реки Лесной Воронеж по именному указанию царя Михаила Федоровича Романова старцем Иосифом был основан мужской Троицкий монастырь. Обитель старца находилась посреди дубовой рощи на берегу реки, ее противоположный берег называли «ногайской стороной». Сподвижниками старца Иосифа были старцы Пафнутий, Агафоник и Нифонт. Монастырю были отведены лесные и сенные угодья, в 1635 году ему принадлежало семь крестьянских дворов. В 1636 году монахи получили благословение архиепископа Антония Рязанского на сооружение храма во имя Святой Троицы с приделом во имя Успения Пресвятой Богородицы. Первая церковь была деревянной и небольшой. 5 сентября того же года царь и великий князь всея Руси Михаил Феодорович повелел своим ясельничим и воеводам Ивану Биркину и Михайлу Спешневу ехать в Дикое поле и строить новый город Козлов как одно из звеньев в цепи городов Белгородской засечной черты. Тульская засечная черта уже не сдерживала натиска крымских и ногайских татар. «Ведомо нам учинилось, что степью меж Воронежских и Ценских верхов, мимо Урлапова городища, приходят в Русь войною крымские и ногайские люди... и православных крестьян побивают и в полон емлют...».
Под личной опекой царя находилась Козловская обитель в 1641 году. По грамоте Михаила Феодоровича монастырь получил «рыбные ловли и бобровые гоны» на Лесном Воронеже и место для постройки мельницы, позже - участок земли вдоль берега для просушивания неводов и для причала.
К середине XVII века Белгородская засечная черта была построена. Монастырь, расположенный с южной стороны Козлова, был вынужден принимать на себя тяжесть татарских и калмыцких набегов.
В первые годы своего существования, до прихода в монастырь игумена Кирилла, обитель не была общежительной. «Братии было немногое число, и кормился всяк собою», - сообщал позже в Пушкарский приказ в своей челобитной архимандрит Дорофей. С 1660 года игумен Кирилл «учинил общую трапезу», при нем же началось и большое каменное строительство. «Своею работою и добрым подвигом, - по словам архимандрита Дорофея, - построил Кирилл в монастыре каменного строения церковь Успения Пресвятой Богородицы, а под нею - другую церковь же великих чудотворцев Зосимы и Савватия Соловецких, и поварни и кельи, и около монастыря ограду каменную».
Игумен Кирилл начал и строительство соборной церкви Живоначальной Троицы «на погребах и сделал до прагов», то есть заложил фундамент. «Всех чинов люди» города Козлова, видя «большую добродетель и радения» игумена Кирилла, принимали участие в строительстве монастыря, многие для того, чтобы им в старости «в этом монастыре постригаться». В середине XVII века там было двадцать монахов, вокруг монастыря селились монастырские служители, которые работали на пашне, сенокосах, в лесу и на мельнице, принадлежавших монастырю.
В 1658 году по просьбе игумена Дионисия монастырь получил право ловли рыбы в реках Иловай, Лесной и Польной Воронеж, а при игумене Кирилле - при Кривецком плесе. В 1662 году монастырю было отведено подворье в Козлове. Переписная книга Троицкого монастыря содержит сведения о наличии во второй половине XVII века у него бобровых гонов (урочищ в реках, где водились бобры и производилась их ловля). Они были обычным явлением в центральной, западной и южной полосе России, доходы от этого промысла облагались оброком в пользу казны. В писцовой книге Разрядного приказа Белгородского стола записано, что в середине века монастырь владел землями на «ногайской стороне» реки, «около ржавца» (болота).
В 1667 году царь Алексей Михайлович прислал в монастырь святыни - принесенный ему из Афона «перст от Гроба Господня», частицы мощей апостолов Андрея, Тита, архидиакона Стефана, великомученика и Победоносца Георгия, великомученика и целителя Пантелеймона, мучеников Иакова Персианина, Киприана, Меркурия, Акепсима, великомученика Феодора Стратилата, мученика Лукиана, равноапостольного царя Константина, преподобного Онуфрия Великого, патриарха Иоанна Милостивого, преподобного Михаила Малеина, святителей Феодора Сикеота, Иоанна Новгородского, преподобного Александра Свирского, мучениц Варвары и Феодосии.
В 1672 году было закончено строительство двухэтажной каменной церкви в честь Успения Пресвятой Богородицы.
В 1682 году повелением царя Феодора Алексеевича была открыта Тамбовская епархия, а настоятели монастыря возведены в сан архимандрита. На следующий год в Троицком монастыре скончался игумен Кирилл, и архиепископ Тамбовский Леонтий поставил на его место игумена Дорофея. Тридцать человек братии было в тот год в монастыре: «...многие люди старые, и на ваших, Государи, - обращался архимандрит Дорофей к царям Иоанну и Петру Алексеевичам в челобитной, - службах раненные». В этой челобитной в Пушкарский приказ архимандрит «с братиею» просил выделить монастырю железо, «пудов с четыреста», на завершение строительства соборной церкви, для чего «сарай и всякие заводы кирпичные готовы близко монастыря». Государи пожаловали монастырю железо: 50 пудов «железа тянутого, саженного» - было отмечено в приходно-расходной книге Троицкого монастыря.
С 1684 года монастырь стал выплачивать в государеву казну «откупные деньги» за пользование рыбными «ухожами». 31 августа 1685 года, накануне нового года, в казну было уплачено 104 рубля 4 алтына, «да подьячему было дано за работу» в приказной избе города Козлова. Откупной платеж составил чуть более 21 % общего дохода монастыря за тот год.
«Что у пчел в соту, то Зосима и Савватий дали», - известна была поговорка на Руси. Для козловских монахов монастырский «пчельник» (пасека) был второй статьей регулярного дохода. Пасекой заведовал старец Илия, она постоянно расширялась за счет дарений жителей и постригавшихся в монахи. Немаловажной статьей дохода была и плата окрестных жителей за пользование монастырской мельницей, где работали специально нанятые работники. На скотном дворе монастыря были лошади, коровы, куры.
Существенный процент дохода монастыря составляли пожертвования богомольцев и жителей Козлова и окрестных сел. Монастырь был и культурных центром, покупал и продавал книги. В феврале 1682 года он приобрел книгу святителя Григория Назианзина, христианского писателя IV века, борца против арианской ереси, за два с лишним рубля (средняя цена лошади). За три года в монастыре были проданы Требник, Служебник, Минея общая, Шестоднев «старыя печати», Часослов.
Расходно-приходная книга дает представление и о церковных связях монастыря в тот период, о событиях, происшедших в Тамбовской епархии. Монахи часто ездили в Москву, преимущественно осенью и зимой. А в апреле-мае 1684 года в Козловском монастыре пребывал архимандрит Суздальского Спасо-Евфимиева монастыря Феодосий, который «служил всенощную о своем брате».
В 1686 году назначенный в Тамбов святитель Питирим прибыл в Козлов из Москвы и несколько дней пребывал в Козловском монастыре. 3 апреля 1686 года он благословил строившуюся церковь, в 1692 году пожертвовал ей образ Святой Троицы в окладе с «венцами и гривнами». В течение всего своего служения в Тамбовской епархии епископ Питирим оказывал посильную помощь Козловскому монастырю.
В последней четверти XVII века Козловский монастырь стал крупным хозяйственным центром: по государеву указу пахотные и сенокосные земельные владения увеличились вдвое, архимандрит Дорофей добился освобождения от оброка доходов с пчельников и криво-полянской мельницы, в 1687 году было приобретено подворье в Тамбове, монастырская пасека насчитывала 200 ульев.
Реформы императора Петра I негативно отразились на жизни монастыря. При набожной императрице Елизавете Петровне жизнь обители стала возрождаться. В 1733 году в Троицкой соборной церкви Козловского монастыря был устроен новый иконостас, в 1750 году вокруг монастыря была возведена монастырская стена с бойницами, крытыми переходами и террасами. Тогда же было обращено в христианство местное мордовское население. Екатерина II сократила количество монастырей в России в 2,5 раза.
Козловский Троицкий монастырь был определен третьеклассным. В 1764 году в нем было 20 монахов, монастырю принадлежали 42 крестьянские души. В 1790 году при межевании земель монастырю прирезали дополнительное количество земли, пополам с Нижнеломовским монастырем было приобретено в Тамбове подворье за тысячу рублей. Возле монашеских келий была построена монастырская трапезная, позже она стала Трапезной церковью. Оборонительную стену укрепили мощными угловыми башнями. В 1792 году приступили к перестройке монастырских церквей. В Успенской церкви, в нижнем храме, разобрали алтарь, а церковь заново освятили во имя Всех Святых, с приделом во имя Иоанна Предтечи. В верхнем храме устроили придел во имя преподобного Варлаама Хутынского: действовавший в тот период епископ Тамбовский и Шацкий Феофил прежде был архимандритом Варлаамо-Хутынского монастыря в Новгороде. В 1793 году отреставрировали крышу и главу церкви.
В Троицком храме крышу также покрыли железом, вызолотили главу и крест. В 1794-1796 годах стены в алтаре и храме расписали, вызолотили иконостас, отреставрировали иконы. Храмовую икону Пресвятой Троицы одели в серебряную ризу весом в 26 футов, местночтимую икону Божией Матери «Тихвинская» - в серебряную ризу «чеканной работы с разными каменьями» весом в 21 фунт. Каменную ограду монастыря перестроили, ее длина составила 292 сажени, высота - от 5,5 до 7 саженей. У главным святых ворот с северной стороны построили деревянную гостиницу для богомольцев.
В начале XIX века Троицкий монастырь процветал как крупный хозяйственный и религиозный центр Тамбовского наместничества. В 1801 году был построен двухэтажный настоятельский корпус, сохранившийся до сих пор, через 15 лет построили каменные одноэтажные келии и ряд хозяйственных построек. В 1822 году завершили строительство каменной четырехъярусной колокольни с часами-курантами, бой которых был слышен по всей округе. Старожилы свидетельствуют, что часы находились в рабочем состоянии вплоть до разрушения верхних ярусов колокольни в 1926 году. В звоннице было одиннадцать колоколов, подаренных прихожанами. Самый большой весил 442 пуда 20 фунтов.
В 1844 году Успенская церковь была расширена, каменный купол на крыше заменили небольшим железным. В «Полном собрании исторических сведений о всех бывших в древности и ныне существующих монастырях» (1852 год) упомянут Троицкий монастырь «близ уездного города Козлова», который находился «под управлением архимандрита, который есть и ректор Тамбовской семинарии... При сей обители бывают ежегодные ярмарки: в день Пятидесятницы (Святой Троицы) и Успения Пресвятой Богородицы».
В 1868 году в Тамбовской епархии была учреждена кафедра викарного епископа, в управление которому вверялся Козловский монастырь. Викарию было предписано «именоваться епископом Козловским и местопребывание иметь в городе Козлове в подворьях и зданиях, принадлежавших монастырю Козловскому Троицкому и Саратовской пустыни». Викарий пользовался от этого монастыря «настоятельным жалованием и частью братских доходов, а также прислугою и экипажем».
На следующий год усилиями и на средства горожан над святым колодцем была возведена каменная часовня с иконостасом в память об избавлении от опасности во время покушения Д. Каракозова на жизнь императора Александра II, случившегося 4 апреля 1866 года. До настоящего времени святой источник на берегу Лесного Воронежа пользуется большой популярностью у местных жителей.
С историей Козлова и Троицкого монастыря связано имя российского новомученика святого Владимира, митрополита Киевского и Галицкого, принявшего мученическую кончину от рук большевиков у стен Киевской Лавры 7 февраля 1918 года. Митрополит Владимир занимал крупнейшие российские кафедры: Тифлисскую, Московскую, Санкт-Петербургскую, Киевскую, поэтому получил именование «всероссийского митрополита». Крестный путь Василия Богоявленского (так звали митрополита в миру) начался в Козловском Троицком монастыре, куда Святейший Синод назначил его настоятелем 10 января 1866 года. Через месяц священник Василий Богоявленский с именем Владимир был пострижен в монашество и возведен в сан архимандрита. Семь месяцев он управлял Козловским Троицким монастырем, после чего был перемещен в Новгородский Антониев монастырь.
Сразу после 1917 года началось разграбление монастыря. Несмотря на то, что в 1921 году заповедная дубовая роща была переведена в разряд памятников природы, а Козловский монастырь в 1924 году введен в списки памятников церковной старины, что должно было бы обеспечить ему охрану со стороны государства, в 1926 году вся территория монастыря была передана в распоряжение питомника плодовых сортов И. В. Мичурина. В 1928 году монастырский некрополь был разрушен. Капитонова часовня над источником и два яруса колокольни с часами и звонницей, значительная часть монастырской стены были разобраны на кирпич. По воспоминаниям местных жителей, мало кто из участников этого варварства умер своей смертью.
В 1952 году областное руководство приняло решение разобрать остатки колокольни, а в 1953 году Тамбовский областной совет сделал вывод, что Троицкая церковь «не является памятником архитектуры». На основании акта осмотра церкви за подписью «уполномоченного Пузанкова» Мичуринский исполком, закрыв глаза на наличие мемориальной доски с характеристикой церковного здания, 31 июля 1957 года вынес решение: «Означенное здание никакой архитектурной, исторической или художественной ценности не имеет». Церковное здание разобрали, кирпич, изготовленный при Феодоре, Иоанне и Петре Алексеевичах и Екатерине II, направили на жилищное строительство.
Успенская церковь избежала такой участи, поскольку в ее здании был размещен музей Центральной генетической лаборатории имени Мичурина. В 1960-е годы в верхнем этаже (в церкви Успения Пресвятой Богородицы с приделом во имя преподобного Варлаама Хутынского) разместился местный клуб, где проходили собрания, «огоньки», смотры художественной самодеятельности и прочее.
5 апреля 1999 года Российская сельхозакадемия наук дала согласие на передачу здания церкви со своего баланса на баланс Тамбовского епархиального управления.
Из построек монастыря сохранились угловая башня с прилегающими фрагментами монастырской стены, корпус настоятеля, трапезная, гостиница. Монастырский некрополь частично находится под асфальтом.
28 марта 2004 года епископ Тамбовским и Мичуринским Феодосием настоятель Успенской церкви Троицкого монастыря с именем Амвросий был пострижен во иеромонаха и был благословлен на возрождение Козловского Троицкого монастыря.