Родился в январе 1914 года в г.Луганске. В том же году семья переехала в г. Херсон.
В Херсоне, после окончания семилетней школы, в 1933 г. окончил ФЗУ, а в 1937 — Херсонский машиностроительный техникум.
40 лет работал на Херсонском заводе карданных валов техником в отделе главного механика. Но основная цель жизни Евгения Викентиевича — изучение и пропаганда истории города Херсона.
На протяжении многих десятилетий Е.В. Горностаев собирает, систематизирует сведения об истории нашего города, об отдельных его улицах, зданиях, учебных заведениях, церквях.
Коллекция открыток, конвертов, значков, марок, посвященных Херсону, которую Евгений Викентиевич собирал с молодых лет, неоднократно экспонировалась на выставках в краеведческом музее, в частности, на выставке «В поисках утраченного времени. Из жизни херсонской интеллигенции начала XX ст.». Только за 1997 год ее посетило 15 тысяч херсонцев и гостей города. На основе личных впечатлений, воспоминаний херсонцев, архивных документов, других источников он написал много краеведческих трудов, публикаций в местной печати: «Забалка. Страницы истории одного из районов Херсона» (1992), «Площадь Свободы» (1994), «По страницам истории православной религии Херсона» (1994), «Справочник старых и новых названий улиц Херсона».
В 90-ые передал Фонду областной научной библиотеки им. Олеся Гончара рукописи своих исследований по истории Херсона.
В 1997 г. Государственный архив Херсонской области создал личный фонд Е.В. Горностаева как признанного краеведа.
Звание “Почетный гражданин г. Херсона” присвоено решением III сессии Херсонского городского совета XXIII созыва №31 от 12 июня 1998 года.
