La Chiesa di S. Giuseppe è probabilmente coeva alle quattrocentesche mura a ridosso delle quali è stata costruita, proprio al di là dell'unica porta del castello, ora sormontata da una torre campanaria costruita nel Settecento.

La chiesa dal XVI secolo in poi viene riportata nei documenti, indistintamente dedicata a San Giuseppe o a Sant'Antonio, al quale era consacrata prima del Cinquecento. Proprio da questa primigenia chiesa, con annesso ospedale, viene la statua, in arenaria, raffigurante Sant'Antonio Abate, opera di uno sconosciuto scalpellino locale del Quattrocento.

In realtà tutta la chiesa è testimonianza e scrigno di opere di scalpellini santippolitesi che dal XV al XVIII sec. erano diventati tra i più conosciuti ed apprezzati artigiani della pietra.

L'interno è a navata unica (10,60 x 8,45) molto semplice, divisa dal piccolo presbiterio (4,12 x 2,35) che permette l'accesso alla sagrestia.

La copertura è in capriate in legno, mentre le strutture murarie sono in mattoni e pietra locale. L'accesso è consentito tramite due porte sistemate sui lati lunghi.

Oltre alla già ricordata statua di Sant'Antonio, in arenaria, altre sculture abbelliscono la chiesa: un piccolo bassorilievo raffigurante la Madonna di Loreto, anticamente posto alla sommità di un altare in arenaria finemente decorato, è stato spostato agli inizi del XX secolo nella chiesa parrocchiale, dove è tuttora visitabile; una statua lignea di San Giuseppe a cui ora è dedicata la chiesa; interessantissimi sono anche i tre altari, completamente in arenaria realizzati tra il XVI e il XVIII secolo, durante il periodo di maggior splendore dell'artigianato locale.

L'altare principale conserva ancora una Madonna del Rosario; a destra un'opera significativa per la chiesa, perché rappresenta i prottetori degli scalpellini: Claudio, Nicostrato, Sinforiano, Castorio e Simplicio, nel momento del martirio, condanna subita poiché si erano rifiutati di scolpire divinità pagane. Il dipinto opera seicentesca di pittore locale, è stato recentemente restaurato.

A sinistra una tela di scuola baroccesca raffigurante un'Annunciazione, sottolineante il legame tra la comunità di Sant'Ippolito e la corte ducale dei Della Rovere, per la presenza, nel dipinto, del giovane Federico Ubaldo, ultimo erede del titolo di Duca di Urbino.