Женат он никогда не был, записок после себя не оставил, но о нем сохранилось множество анекдотов. А портрет Костенецкого висит в Военной галерее героев 1812 года — в здании нынешнего Эрмитажа: генерал острижен «под горшок», улыбка его застенчивая.
Человек он был очень добрый и артиллерист славный. В моих ушах звенит его напряженный голос:
— Конная артиллерия — марш-марш!.. И срываются. И пошли. И тогда страшно…
Я понимаю: можно самозабвенно любить и пушки… В мемуарах одного русского офицера я встретил такое восклицание: «О артиллерия! О моя прекрасная артиллерия!»