Beslutet fattades av kammaråklagare Karin Sverker på måndagen.
– Det framkom nya uppgifter i utredningen. Jag har fått del av uppgifter i händelseförloppet som gör att jag inte tycker att det finns skäl att han ska vara frihetsberövad, säger hon.
Mannen greps efter att en kvinna i 20-årsåldern anmält att hon blivit våldtagen på Esplanaden. Kvinnan och gärningsmannen ska ha träffats innan brottet ägde rum men var enligt polisen inte närmare bekanta.
I utredningen har både mannen och kvinnan förhörts och polisen har också pratat med en del vittnen. Mannen häktades på fredagseftermiddagen efter att ha suttit anhållen sedan onsdagen.
På måndagseftermiddagen fick han lämna häktet.
– Nu ska vi ta ställning till hur utredningen ska fortsätta. Det finns fortfarande en misstanke om brott. Än så länge gäller misstanken våldtäkt men vi vet inte hur det blir slutligen, säger Karin Sverker.
Mannen har sedan han greps nekat till att ha våldtagit kvinnan.