1398년(태조 7) 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 1400년(정종 2) 소실된 뒤 1512년(중종 7) 현재의 위치로 이건 하였으며, 임진왜란 때 다시 소실되었다. 1603년(선조 36) 대성전과 명륜당을, 1636년(인조 14) 세심루(洗心樓)를 각각 중건하였고, 그 뒤 여러 차례에 걸쳐 중수하였다.

현존하는 건물로는 6칸의 대성전, 7칸의 명륜당, 9칸의 세심루, 6칸의 동재(東齋), 신도문(神道門) 등이 있다. 대성전에는 5성(五聖), 송조 4현(宋朝四賢), 우리나라 18현(十八賢)의 위패가 봉안되어 있다. 조선시대에는 국가로부터 토지와 전적·노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄·가을에 석전(釋奠)을 봉행하며, 초하루·보름에 분향하고 있다. 이 향교는 경상북도 유형문화재로 지정되어 있으며, 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.