Tot in de tijd van het 'Duitse Rijk' behoorde Rheinböllen tot de gemeenten in de Landkreis Simmern met een groter aandeel van de Joodse bevolking. Rond het midden van de 19e eeuw zijn de oudste Semitische sporen in het dorp zichtbaar. Het oudste nog te ontcijferen graf op de Joodse begraafplaats aan de weg naar Bacharach heeft als sterfdatum van een Gottlieb Rauner 11 september 1867. Er zijn 34 grafstenen bewaard gebleven.
De begraafplaats ligt ten noordoosten van het dorp bij de L 224 (Bacheracher Straße), in de buurt van de A 61 aan de rand van een heggenperceel. Er is parkeermogelijkheid bij een afslag van een veldweg. Volg de veldweg in de richting van de snelweg en na ongeveer 500 meter bereikt men de begraafplaats.