Du könntest natürlich mit DFDS von Klaipeda nach Nynäsham und von dort mit Polferries nach Danzig fahren.

Auch eine Rückreise komplett per Bahn ist mE denkbar, dabei sind aber unbedingt die Verkehrstage zu beachten (Verkehr zwischen Kaunas und Bialystok nur am Wochenende ähnlich wohl auch Liepaja - Riga)

Wir sind im letzten Jahr wie hier beschrieben über Warschau nach Kaunas gefahren. Der Zugverkehr in Lettland scheint allerdings weniger dicht zu sein, als in Litauen.