Xã Yang Nam được thành lập theo Quyết định số 96-HĐBT ngày 30-5-1988 của Hội đồng Bộ trưởng về việc phân vạch lại địa giới hành chính huyện An Khê và một số xã, thị trấn thuộc tỉnh Gia Lai - Kon Tum.
Trên cơ sở chia tách từ phần đất phía nam của huyện An Khê và thành lập mới huyện Kông Chro.