Avant même de retracer l'histoire de Josefov, il convient de s'intéresser à l'installation des Juifs à Prague au 10e siècle, alors que les deux premières colonies s'installèrent sur la route du château de Vysehrad, puis au pied du Château de Hradcany.
Au tout début du 12e siècle, Prague accueillit une troisième colonie, qui deviendra avec le temps une ville juive autonome attenante à Prague.
L'histoire juive de Prague est similaire à la plupart des autres pays européens, avec des périodes de paix entrecoupées de massacres. Au Moyen-Âge, le quartier juif accueillait deux communautés : les Juifs de l'Empire byzantin et les Juifs d'Occident qui durent s'unir afin de faire face aux discriminations croissantes. Au 16e siècle, ils devaient porter une étoile jaune et bon nombre d'entre eux devaient se convertir au Christianisme pour survivre.
Au 17e siècle, le roi Ferdinand III remercia les Juifs de leur participation active dans la défense de Prague contre les Suédois en leur donnant le droit de construire un clocher (jusque-là réservés aux églises).
La communauté vit alors dans une ville autonome, une ville entassée et sombre où même les morts doivent être enterrés les uns sur les autres. La ville devient un véritable ghetto, un quartier insalubre propice aux incendies et à la propagation de maladies.
La période de répression s'achève à la fin du 18e siècle, quand Joseph II accorde aux Juifs l'égalité des droits politiques et sociaux. Le nom du quartier, « Josefov », lui rend d'ailleurs hommage.
A la fin du 19e siècle, quelques années après qu'Haussman eu débarrassé Paris de ses ruelles sombres pour créer de grands boulevards, la ville juive perd son autonomie et devient Josefov, cinquième quartier intégré à Prague.
De nouveaux boulevards sont alors tracés, les petites ruelles étouffantes sont élargies et bon nombre d'habitations sont détruites pour laisser place à des maisons bourgeoises. C'est à cette époque que fut construit le quartier que nous connaissons aujourd'hui.
La communauté juive de Prague est malheureusement décimée durant la Seconde Guerre Mondiale, déportée vers les ghettos nazis, le camp de Terezin, et les camps d'extermination. Dans les années 50 et 60, bon nombre de survivants durent quitter Prague pour fuir les vagues antisémites engendrées par le Communisme.
Aujourd'hui, les principaux centres d'intérêts de Josefov sont sa synagogue Vieille Nouvelle, sa synagogue Pinkas, son ancien hôtel de ville, son vieux cimetière et sa synagogue Klaus.