Первые упоминания о городе относятся к китайским источникам середины первого века. Тараз уже в то время был важным звеном великого Шелкового пути и центром большого социально-экономического комплекса.
В 11-13 вв, во время правления в Средней Азии династии Караханидов, Тараз достигает своего расцвета и становится столицей одного из владений, чеканит собственную монету. В начале 11 века Таразскому правителю Туган-хану подчинялись Самарканд и Кашгар.
Город упоминается в 1513 году в связи с походом к Таразу войск Казахского хана Касыма. В 1856 город назывался Аулие-ата.
В 1936 он был переименован в Мирзоян, 1938 в Джамбул. Историческое название Таразу было возвращено в 1997 году.
Сегодня Тараз является современным городом, в котором сохранились такие жемчужины мусульманского зодчества как мавзолеи Айша-биби, Карахана и Давудбека.
Население города 323 тысячи человек.