游牧养畜业的出现经历了一个漫长的历史过程，它标志着人类社会的一大进步。大约一万年前，人类驯化了山羊，9000年前又驯化了绵羊、猪和黄牛。也就是说，羊是除狗外人类最早驯化的动物。我国驯化及养羊的历史在8000年前，那时正是旧石器时代末期、新石器时代初期。在遍及全国22个省、自治区、直辖市的新石器时代遗址上都发现有羊骨、羊骨架、羊下颌骨、臼齿、羊牙床及陶羊、羊头饰及陶羊圈等。如河南新郑裴李岗发现了羊牙齿及羊头骨；浙江余姚河姆渡遗址出土了一些陶羊；西安半坡村发现了羊残骨、牙齿，出土陶器上刻有羊的符号……这一切表明，我国黄河、长江、珠江、黑龙江各流域、沿海各省区及西北、西南地区，在新石器时代就已出现了养羊业。
原始人也将他们的牧羊生活通过岩画表现了出来。一幅幅“牧羊图”好似一部形象、直观的牧羊史，从中既能看到牧人执鞭牧羊的“一条鞭”放牧方式，也能看到羊群自由散开吃草的“满天星”牧羊方式。有骑牧图，也有步牧图；有单人放牧，也有双人或多人放牧。从岩画中，我们能领略到“风吹草低见牛羊”的壮阔，也能感受到“日之夕矣，羊牛下来”的温馨；而不时窜进羊群的恶狼又使我们为牧羊的艰辛而感叹。
进入阶级社会后，畜牧业仍是人们主要的生产方式，而牧羊业的发展更给人们提供了充足的衣食，因而历朝历代都非常重视牧羊业。
夏朝的遗址、遗迹目前发现的很少。但在属于夏文化遗址的山西夏县东下冯出土了3具羊骨架，说明夏朝也是有养羊业的。
据殷墟发掘所得动物骨骼、青铜器和玉器上的动物雕刻，以及甲骨刻辞的记载可知，在殷代，六畜（马、牛、羊、猪、狗和鸡）已得到普遍饲养。殷商时期，祭祀占卜之风特甚，用于祭祀的大多是家畜，一次用牲之数，少则一两头，多者达500-1000。如“降枴牛千人”、“五百伋”（一宰为一对羊），可见当时羊等家畜饲养之盛。
周时设有专管畜牧六畜的官员“牧人”。《周礼·地官》：“牧人，掌牧六牲，而阜藩其物。”周朝的畜牧业是很兴旺的，《诗·小雅·无羊》为我们展现了一幅幅古代人民的放牧图：
谁谓尔无羊？三百维群。谁谓尔无牛？九十其儿。尔羊来思，其角弔弔；尔牛来思，其耳湿湿。
或降于阿，或饮于池，或寝或讹。尔牧来思，何蓑何笠，或负其氾。三十维物，尔牲则具。
尔牧来思，以薪以蒸，以雌以雄。尔羊来思，矜矜兢兢，不骞不崩。麾之以肱，毕来既升。
牧人乃梦，众维鱼矣，旐维伕矣。大人占之，从维鱼矣，实难丰年；旐维伕矣，室家溱溱。
诗的第一章写牛羊的蕃盛。开头以“谁谓”连发两问而以“三百维群”、“九十其屘”来回答，显示出牛羊数之多。正如朱熹《诗集传》中所言：“羊以三百维群，其群不可数也；牛之屘者九十，非屘者尚多也。”接着描写了羊、牛的神态：这么多牛、羊在一起安息，却互不惊扰，个个都在反刍，咀嚼有力，双耳摇动。第二章写牛羊有的走下山坡，有的在池边饮水，有的正在睡觉，有的已起来活动。还出现了牧人的形象：披蓑戴笠，背着干粮，一副很辛苦的样子。但是有这么多牛羊，品目齐全，可满足各种需要，辛苦也值得。第三章写了牧人放牧技术的高超，如，选择有多种牧草的草场，并注意区别牛羊的性别，以便适时繁殖等。牛羊在牧人的管理、调驯下非常听话，牧人一挥手，牛羊都回到了圈牢中。全诗以梦兆作结，梦见鱼为丰年之兆，崁为家室繁盛之兆，这表达了人们美好的愿望。从这首诗可知，当时放牧的羊群已很大，人们开始积累、总结一些好的放牧经验。至春秋战国时，饲养家畜家禽的人越来越多，甚至家家都在养，人人都在养，所以《墨子·无志篇》说：“四海之内，粒食人民，莫不恥牛羊，豢犬彘……”在繁育禽畜方面也注意到要“无失其时”（《孟子·尽心上》）。《庄子·达生篇》引田开之见周威公说：“善养生者，若牧羊然，视其后者而鞭之。”以牧羊喻养生，也说明牧羊业在当时是为一般人所熟知的行业。
秦汉时期畜牧业进一步发展，《西京杂记》中“放犬羊鸡鸭于通涂，亦竟识其家”的描写，为我们展现了一幅当时人畜兴旺、和平安宁的社会景象。这个时期民间的畜牧业相当发达，有的一户养马二三百匹，牛羊上千头。《史记·货殖列传》记载：“陆地牧马二百蹄，牛蹄角千，千足羊，泽中千足彘……此其人皆与千户侯等。”汉时出现了许多养羊能手，其中最突出的是卜式。他曾独自入山牧羊十余载，养羊达千余只，后来为天子牧羊。所养羊既肥且壮，繁殖率极高。他根据多年牧羊经验写成《卜式·养羊法》一书。此书已失传，但后世一些农学家在著作中有引述，可见影响很大。
由于连年战争，魏晋南北朝时畜牧业受到了很大损害。但在北魏，畜牧业却有较大发展。《魏书》卷一百一十《食货志》：“世祖平定统万（今陕西横山县西），定秦陇，以河西水草善，乃以为牧地，畜产滋息，马至二百余万匹，橐驼将半之，牛、羊则无数。”北朝的一首民歌《敕勒歌》描绘了当时畜牧业兴旺发达的景象：“敕勒川，阴山下，天似穹庐，笼盖四野。天苍苍，野茫茫，风吹草低见牛羊。”东魏农学家贾思勰通过查阅资料、拜访老农，并根据自己的牧羊经验（他曾养过200多只羊），写成《齐民要术》一书，这是流传下来的第一部农牧业科技专著，其中有《养羊篇》，介绍养羊方面的内容。
“牛羊繁殖，沿路成群”，“邑落相望，牛羊被野”是史书对隋唐时期畜牧业情况的描述。这个时期，国家统一，人民安居乐业。不仅羊的数量大有增加，羊的品种也在增加。当时一些从外域引入的羊、作为贡品进献的羊和固有的羊杂交，形成许多优良品种。如河西羊、河东羊、沙苑羊、蛮羊（土番羊）、康居大尾羊等。
我国的经济中心在宋代已转移到南方，形成了“南农北牧”的生产模式。北方尤其是少数民族地区畜牧业占首要地位。苏颂在出使契丹时，描绘当时的情况是“羊以千万为群，生息极繁。”不仅羊倌会放羊，诗人也知如何牧羊、养羊。陆游曾作《牧羊歌》一首，其中写到牧羊的方法。诗云：“牧羊忌太早，太早羊辄伤，一羊病尚可，举群无完羊。日高露螨原草绿，羊散如云满山谷。牧童但螨竹一枝，岂必雪诗知草牧。”由于战争和人口的流动，使内地的羊种结构逐渐发生变化。12世纪初，宋王朝南渡，黄河流域居民大量南迁，把原来生活在山东、河南、河北的羊带到江南。随着养羊业的发展，人们对肉、毛、羔皮、奶等不同畜产品需要的增加，人们开始注意培育羊种，提高羊的品质，又形成了一些地方的绵羊类群如吴羊（今湖羊）。
元、明、清时，不仅北方、中原地区养羊业很发达，西南地区养羊业也有了很大发展。《滇海虞衡志》：“羊于滇中为盛，省城每日必到数百，四季无闻，时也有大尾羊，皆来自迤西者。”
