哺乳动物大脑皮层内侧面的环状结构以及皮层下在功能上密切联系的神经结构的总称。包括嗅球、嗅束、部分梨状皮层、海马峡、海马回、海马、眶回、脑岛、杏仁核群、隔区、视前区、乳头体、扣带回、丘脑前核、颞叶和中脑中央皮层、被盖中央部等以及联系这些区域的穹窿、髓纹、终纹、内侧前脑束等传导束。上述结构属于端脑、间脑和中脑中的一些功能相关的部位，种系发生上属于旧皮层。这个概念的形成有一个历史过程。19世纪后叶，提出“大脑边缘叶”，仅指扣带回、海马回和与嗅觉有关的大脑皮层部位。到1952年提出了边缘系统这个概念。发现其调节功能远不止嗅觉，在维持个体生存上（如寻食、保卫食物和饮料、进攻、防御和逃跑）、种系保存上（如寻找配偶、哺育后代、建立“家庭”及其他社交行为）以及内脏、情绪活动、神经内分泌、睡眠和记忆等方面都有重要的调节作用。

扣带回、海马、脑岛等区域所产生的躯体运动多半都伴随有情绪上的变化，同时出现一系列植物性神经反应。如刺激海马、扣带回、脑岛、隔区都会产生双侧性面部运动，表情上出现龇牙咧嘴、鼻孔开张、睁眼或闭眼、张嘴或闭嘴、耷拉或竖起耳朵，还会出现前后肢协调运动，表现出惊恐的样子，同时出现心跳慢而强和快而弱的交替，呼吸出现快而浅和深而慢的交替，血压也有相应的变化，瞳孔扩大或缩小。破坏这些区域，体温下降，动物性格变驯服，出现长时间的困睡。除此，海马环路还是形成条件反射的重要结构之一，和“学习”、记忆有关，特别是短期记忆的重要调节部位。

杏仁复合核、下丘脑和脚间核一起形成“受酬中枢”。将电极埋藏于该核内，并将它连于开关，动物自按开关通电，以获得刺激，这种现象称为“受酬”或“自我”刺激。该区存在正、负受酬中枢。自我刺激“正”受酬中枢引起欣快感，精神轻松，并获得食物。若动物不断刺激，可以得到自我满足。相反地刺激其“负”受酬中枢，动物恐惧、反应迟钝、慌乱，不愿再重复刺激。

下丘脑、垂体产生的激素受边缘系统的调节。如刺激杏仁复合核能产生促性腺激素、促肾上腺皮质激素，而刺激隔区和海马却抑制这些激素的分泌，刺激海马抑制促性腺激素分泌，并抑制排卵，刺激内侧杏仁核对排卵及排卵前促性腺激素分泌起易化作用。