Förbundet väljer att göra ändringen med mindre än ett år till EM-slutspelet på hemmaplan.
"Kommittén var överens om att det tyska landslaget behöver ny kraft efter de senaste resultaten. Inför EM behöver vi självförtroende och optimism i landet när det gäller vårt lag vårt lag", säger ordförande Bernd Neuendorf i ett uttalande på förbundets webbplats.
Även Flicks assisterande Marcus Sorg och Danny Röhl sparkas.
Tyskland har en tuff tid bakom sig med fem segerlösa matcher på raken; 1–4 Japan, 0–2 Colombia, 0–1 Polen, 3–3 Ukraina och 2–3 Belgien. Dessutom lyckades Flick inte ta Tyskland vidare från gruppspelet i Qatar-VM – vilket var det andra mästerskapet i rad som tyskarna misslyckades redan i gruppen.