该馆是阜阳市文化旅游体育局直属的文化事业单位，由原阜阳县图书馆（建于1956年）和原阜阳市图书馆（建于1976年）于1993年合并而成。