Het was een doorn in het oog van de overheid en de Joodse elite: buitenlandse rabbijnen. Ze spraken Jiddisch of Duits en belemmerden zo de integratie van de Nederlandse Joden. Hoewel in benoemingscontracten kwam te staan dat ze snel Nederlands moesten leren, lukte dat lang niet alle rabbijnen. Bovendien werd het buitenland in toenemende mate als een potentiële bron van verdeeldheid gezien. Terwijl de Nederlandse Joden bij elkaar bleven in één gemeenschap, splitsten Joodse gemeenschappen in Centraal-Europa zich vaak op in orthodoxe en liberale gemeenten. Buitenlandse rabbijnen zouden dit soort schismatieke ideeën mee naar Nederland kunnen nemen.
Groot belang werd daarom gehecht aan een eigen Nederlandse opleiding voor rabbijnen en godsdienstonderwijzers. Alleen op die manier konden religieuze leiders opgeleid worden die precies pasten bij de Nederlands-Joodse gemeenschap en Nederlandse Joden voorgingen in goed burgerschap en vaderlandsliefde. In 1836 werd gestart met het Nederlands Israëlietisch Seminarium. Het was eigenlijk een herstart: vanaf 1740 werd aan het Asjkenazische Bet Hamidrasj Ets Haim gestudeerd en vanaf 1760 werden arme jongens door het genootschap Sa’adat Bachoeriem ondersteund bij hun opleiding. Veel jongens gingen tot die tijd, na de start van hun studie in Amsterdam, naar het buitenland om daar de eigenlijke rabbijnendiploma’s te halen. Daar moest met het eigen seminarium een einde aan komen. In het seminarium werden zowel religieuze als maatschappelijke vakken gegeven en bovendien moesten rabbijnenstudenten na verloop van tijd ook een deel van hun opleiding aan de universiteit volgen. Zo kwamen er rabbijnen die niet alleen religieuze kennis hadden, maar ook in de samenleving volop mee konden spreken. Naast halachische kennis – over de Joodse wetten – om zo goede beslissingen te kunnen nemen, werd veel aandacht gegeven aan het leren preken.
Vanaf 1839 was het seminarium gevestigd aan de Rapenburgerstraat in Amsterdam. Daar werden tot in de Tweede Wereldoorlog de onderwijzers en de rabbijnen voor heel Nederland opgeleid. Het duurde geruime tijd voordat de grootse plannen vruchten afwierpen, nog tot in de tweede helft van de negentiende eeuw werd regelmatig een opperrabbijn uit Duitsland gehaald. Dat was daarna echter voorbij: bijna het hele geestelijke leiderschap van Joods Nederland was voortaan opgeleid aan het eigen Nederlands Israëlietisch Seminarium. Na de Tweede Wereldoorlog heeft het seminarium zich aan de nieuwe situatie moeten aanpassen: het kon niet langer als het centrale opleidingsinstituut voor alle Nederlandse rabbijnen fungeren, maar richtte zich met name op de bredere vorming in de gemeenschap en de opleiding van onderwijskrachten.