Одновременно с созданием на базе ЗИС-151 модернизированного полноприводного армейского грузовика ЗИС-157 конструкторы Московского автозавода им. Сталина (с 1956 года им. Лихачёва) под руководством главного конструктора А.М.Кригера решили разработать принципиально новый автомобиль. Основные идеи (проходные мосты, блокируемые межосевые и межтележечные дифференциалы, шины большого диаметра с регулируемым давлением воздуха, верхнеклапанный двигатель) были опробованы на экспериментальном автомобиле ЗИС-128. С учётом выявленных во время его испытаний недостатков в 1956 году был построен опытный образец ЗИС-131, унифицированный с перспективным семейством ЗИС-130. Так как ЗИС-131 был изготовлен раньше ЗИС-130, на нём ещё стоял рядный 6-цилиндровый двигатель.
Из-за трудностей с изготовлением многих деталей, которые не были взаимозаменяемыми с серийно выпускавшимися, в 1958 году был изготовлен переходный ЗиЛ-165, который нёс в себе черты ЗиЛ-157 и опытного ЗиЛ-130Л. Испытания показали, что конструкция оказалась не совсем удачной. Поэтому дальнейшего развития ЗиЛ-165 не получил и конструкторы продолжили совершенствование ЗиЛ-131.
В 1959 году состоялись заводские, а затем приёмочные испытания опытных образцов ЗиЛ-131. На 1961-1962 год было запланировано внедрение в производство без остановки конвейера ЗиЛ-130 и ЗиЛ-131, но из-за различный трудностей производственного характера работы затянулись. ЗиЛ-130 начал выпускаться с 1 октября 1964 года, а более сложный по конструкции ЗиЛ-131 попал на конвейер только в 1967 году. Но задержка пошла на пользу: за это время конструкторы успели сделать автомобиль более совершенным и разработать его модификации. По сравнению с ЗиЛ-157 у него была больше грузоподъёмность, выше скорость, ниже расход топлива на тонну перевозимого груза, на метр меньше радиус поворота, более комфортабельную кабину и более мягкую подвеску (за счёт применения удлинённых рессор). В феврале 1974 года семейству ЗиЛ-131 присвоен Государственный знак качества. В октябре 1987 года началось производство и на Уральском автомоторном заводе (город Новоуральск Свердловской области).
ЗиЛ-131 имеет капотную компоновку. Кабина цельнометаллическая трёхместная с панораменым стеклом (от ЗиЛ-130). Кузов деревянный с задним откидным бортом, оборудован откидными скамейками, дугами и тентом. Для увеличения проходимости применены полный привод, короткие передний и задний свесы, односкатная ошиновка, система регулирования давления в шинах (от 0,5 до 4,2 кгс/см2), равная колея всех мостов и расположение их картеров в одну линию (средний мост проходного типа). Герметизация агрегатов, отключаемые система вентиляции картера двигателя и вентилятор системы охлаждения позволяют преодалевать брод до 1,4 м (кратковременно до 1,5 м). Силовая установка состоит из 8-цилиндрового V-образного карбюраторного верхнеклапанного двигателя ЗиЛ-131. Для движения по пыльным дорогам установлен пеномасляный фильтр с трёхступенчатой очисткой воздуха. Топливный насос повышенной производительности обеспечивает бесперебойную работу в условиях высоких температур. Сцепление однодисковое сухое. Коробка передач пятиступенчатая с синхронизаторами на II, III, IV и V передачах. Раздаточная коробка двухступенчатая, выполнена по двухвальной схеме. Главная передача двухступенчатая (конические и цилиндрические шестерни). Рулевое управление снабжено гидроусилителем. Подвеска на продольных полуэллиптических рессорах. Передний мост отключаемый, оснащён шариковыми шарнирами равных угловых скоростей. Рабочий тормоз барабанный на все колёса с раздельным пневматическим приводом. Часть машин оборудовалась лебёдкой для самовытаскивания (устанавливалась в передней части, тяговое услилие 5 тс).
ЗиЛ-131 долгое время был одним из самых распространённых грузовиков Советской Армии. Применялся он и в гражданских организациях. Его отличала лёгкость управления, хорошая монёвренность, устойчивость движения. В процессе производства конструкция постоянно дорабатывалась. На шасси ЗиЛ-131 было разработано и освоено множество специализированных автомобилей. Годовой выпуск в 1989 году достиг 48 тыс. автомобилей (из них 8 тыс. - на УАМЗ).
Выпуск ЗиЛ-131Н на Московском автозаводе прекратился в 1990 году. Всего было выпущено 998429 автомобилей всех модификаций. Производство на Уральском автомоторном заводе продолжалось до 2002 года. На конвейере его сменил ЗиЛ-433420.