Trước kia, Đồng Văn là tổng Đông Quan thuộc châu Bình Nguyên, phủ Tương Yên, tỉnh Tuyên Quang sau đó thuộc về châu Bảo Lạc do một thổ người Tày họ Nông ở Bảo Lạc cai quản như một lãnh địa. Khi thực dân pháp xâm lược, chúng tách Đồng Văn khỏi Bảo Lạc. Dưới thời Pháp thuộc, toàn phủ Tương Yên trong đó có tổng Đông Quan được đặt trong đạo quan binh thứ 2 Hà Giang. Trong danh mục các làng xã Bắc Kỳ của Ngô Vi Liễn xuất bản năm 1928 thì tỉnh Hà Giang có hai châu (Bắc Quang, Vị Xuyên) và hai đại lý (Đồng Văn, Hoàng Su Phì).
Sau cách mạng tháng 8/1945, về mặt địa giới hành chính, trên danh nghĩa Đồng Văn vẫn như trước. Ngày 15/12/1962, Hội đồng chính phủ có Quyết định số 211/QĐ-CP tách Đồng Văn ra làm 3 huyện: Đồng Văn, Yên Minh, Mèo Vạc.
Kể từ đây Yên Minh trở thành đơn vị hành chính cấp huyện thuộc tỉnh Hà Giang. Khi mới chia tách huyện Yên Minh có 13 xã, dân cư gồm 3.294 hộ với 16.775 người, đến năm 1982 do yêu cầu phát triển kinh tế - xã hội và nhiệm vụ bảo vệ biên giới Tổ quốc, huyện Yên Minh tiếp nhận 4 xã: Phú Lũng, Thắng Mố, Sủng Cháng và xã Sủng Thài từ huyện Đồng Văn và bàn giao 3 xã phía Nam là Nậm Ban, Tát Ngà và Niêm Sơn cho huyện Mèo Vạc.
Ngày 29 tháng 01 năm 1997, Chính phủ có Nghị định số 08/CP về điều chỉnh địa giới hành chính và thành lập xã mới. Thực hiện Nghị định số 08 của Chính phủ, huyện Yên Minh thành lập thêm 2 xã mới là Du Tiến và Mậu Long.
Ngày 20 tháng 8 năm 1999, Chính phủ có Nghị định số 74/1999/NĐ-CP về việc điều chỉnh địa giới hành chính để thành lập thị trấn Yên Minh, xã Đông Minh và xã Hữu Vinh trên cơ sở chia tách xã Yên Minh. Hiện nay huyện Yên Minh có 18 đơn vị hành chính trực thuộc, trong đó có 17 xã và 1 thị trấn với tổng số 282 thôn xóm, bản, tổ dân phố.