Возможны три совершенно различные этимологии:
1) отчество от прозвища Коштан с заменой безударного о > а в силу “аканья” русского литературного языка, диалектное коштан в русских говорах имело различные значения — “горлан на сходках”, “плут”, “доносчик”, но и “ходатай по общественным делам”;
2) отчество от прозвища из прилагательного каштановый — “ярко-бурый, красновато-коричневый”, которое могло означать краснолицего или рыжеволосого;
3) из еврейской фамилии Каждан.