大叶黄杨是灌木或小乔木，高0.6-2.2米，胸径5厘米；小枝四棱形（或在末梢的小枝亚圆柱形，具钝棱和纵沟），光滑、无毛。叶革质或薄革质，卵形、椭圆状或长圆状披针形以至披针形，长4-8厘米，宽1.5-3厘米（稀披针形，长达9厘米，或菱状卵形，宽达4厘米），先端渐尖，顶钝或锐，基部楔形或急尖，边缘下曲，叶面光亮，中脉在两面均凸出，侧脉多条，与中脉成40-50度角，通常两面均明显，仅叶面中脉基部及叶柄被微细毛，其余均无毛；叶柄长2-3毫米。
花序腋生，花序轴长5-7毫米，有短柔毛或近无毛；苞片阔卵形，先端急尖，背面基部被毛，边缘狭干膜质；雄花：8-10朵，花梗长约0.8毫米，外萼片阔卵形，长约2毫米，内萼片圆形，长2-2.5毫米，背面均无毛，雄蕊连花药长约6毫米，不育雌蕊高约1毫米，雌花：萼片卵状椭圆形，长约3毫米，无毛；子房长2-2.5毫米，花柱直立，长约2.5毫米，先端微弯曲，柱头倒心形，下延达花柱的1/3处。
蒴果近球形，长6-7毫米，宿存花柱长约5毫米，斜向挺出。花期3-4月，果期6-7月。