黄菖蒲是多年生草本植物，植株基部围有少量老叶残留的纤维。根状茎粗壮，直径可达2.5厘米，斜伸，节明显，黄褐色；须根黄白色，有皱缩的横纹。基生叶灰绿色，宽剑形，长40-60厘米，宽1.5-3厘米，顶端渐尖，基部鞘状，色淡，中脉较明显。