Se trata de la construcción militar más importante de Ferrol. Situado enfrente del Castillo de la Palma (en Mugardos) y del desaparecido castillo de San Martiño, las tres fortificaciones convirtieron a la Ría de Ferrol en inexpugnable, en un «triángulo de fuego» que ninguna potencia enemiga de España se atrevió a atacar. Por la noche, los castillos de San Felipe y La Palma estaban unidos por una cadena, impidiendo así el paso de buques enemigos. Se atribuye al almirante Pitt, la frase de que si Gran Bretaña tuviera una ría como ésta, con sus castillos, la protegerían con una muralla de plata.
En el año 1557 comienza la construcción del castillo, auspiciada por Felipe II, del que toma su nombre. Con todo, el edificio que hoy conservamos es del XVIII, momento en el que fue remodelado. Las obras mayores del castillo fueron rematadas, finalmente, en 1775. En el siglo XVIII San Felipe es considerado como ejemplo de “batería abaluartada”.
Este diseño disponía por una parte, de una zona de baterías de cañones dirigidos al mar, y por otra parte, contaba con un sistema de baluartes -o muros salientes- cubriendo los flancos de las cortinas (los muros frontales). Estos baluartes servían para rechazar también los ataques por tierra.
San Felipe, en constante proceso de restauración, sorprende a los visitantes tanto por su esquema constructivo como por las hermosas vistas de la ría que se obtienen desde su emplazamiento.