Ілля Ольховий народився 30 травня 2003 року в Тернополі. Перші кроки у футболі робив у місцевій ДЮСШ. Згодом переїхав до Львова, закінчив Академію місцевого однойменного клубу, після чого виступав за юнацьку команду «Львова».

В УПЛ дебютував 25 травня 2023 року в матчі ФК «Львів» - «Чорноморець» (0:1). Після завершення сезону-2022/2023, в якому провів три матчі в елітному дивізіоні, Ілля підписав контракт із закарпатським «Минаєм», у складі якого зіграв 2 матчі в рамках УПЛ.

Навесні 2024 року уклав угоду з тернопільською «Нивою». Впродовж двох сезонів був основним голкіпером команди, провівши близько півсотні матчів у Першій лізі та Кубку України.