灰尾兔的食物通常是一些草和灌木, 一些生活在近人類區域的灰尾兔也會吃農作物, 但通常來說這是一類堅強的兔子,
灰尾兔棲息於海拔2100~4000米的高山地帶, 高山草原, 高山草甸草原, 河谷及河漫灘灌叢, 亦可棲息植被生長比較茂盛的“荒漠、半荒漠綠洲”中, 隱蔽條件要求較高, 故在芨芨草叢、黑刺灌叢、河漫灘及河谷兩岸階地、灌叢生境中數量較多。 僅出現于疏林的林緣。
一般無固定洞巢。 即使有也僅僅是一個較淺陋的凹窩, 作為臨時休憩之用。 也常利用旱獺廢棄洞穴藏身。 營白晝活動的生活方式, 但以清晨及傍晚活動較為頻繁。 以草本植物及小灌木的嫩枝葉和樹皮為食。 早春則可扒掘草根為食。