Bis in die Zeit des „Tausendjährigen Reiches“ zählte Rheinböllen zu den Gemeinden im Landkreis Simmern mit einem größeren jüdischen Bevölkerungsanteil. Etwa Mitte des 19. Jahrhunderts sind die ältesten semitischen Spuren im Ort erkennbar. Das älteste noch zu entziffernde Grabmal auf dem jüdischen Friedhof an der Straße nach Bacharach weist als Todesdatum eines Gottlieb Rauner den 11. September 1867 auf. Es sind 34 Grabsteine erhalten.
Der Friedhof liegt nordöstlich des Ortes bei der L 224 (Bacheracher Straße), in der Nähe der A 61 am Rande eines Heckengrundstückes. Eine Parkmöglichkeit besteht an einem Abzweig eines Feldweges. Dem Feldweg in Richtung Autobahn folgend, erreicht man nach ca. 500 Metern den Friedhof.