После американского вторжения, ат-Туркмани был уволен из армии и был посажен в тюрьму Кэмп-Букка, где содержались многие другие офицеры хусейновской армии, затем ставшие боевиками ИГ. После освобождения из тюрьмы, ат-Туркмани присоединился к ИГ и стал руководителем и заместителем аль-Багдади в Ираке. Был одним из «теневых лидеров» ИГ, назначая и смещая губернаторов в вилаятах Исламского государства. Убит в результате удара американского беспилотника в окрестностях Мосула.