Alles kein Problem. Selbstverständlich kann man die Waffen behalten.
Ich war von 2006 bis 2013 ohne Wohnsitz DE in verschiedenen Ländern im Ausland wohnhaft (VR China und Rumänien). Meine Jagdscheinverlängerungen und auch Waffenkäufe (!) habe ich über das BVA in Köln abgewickelt. Die Waffen wurden zuerst bei einem Büchsenmacher gelagert (hier lohnt es sich dann mal, wenn mann nicht alles beim günstigsten Internetanbieter kauft, sondern zum Büchsner um die Ecke geht), später bei meinen Eltern im Waffenschrank, zu dem nur ich die Schlüssel hatte.