大阪市教育委員会委員長や、安倍内閣の教育再生実行会議委員、立命館大学教育開発推進機構教授などを歴任。
小学校在職時の2000年10月に、その取り組みがNHKテレビ「クローズアップ現代『学校は勉強するところだ～ある公立小学校の試み～』」で取り上げられ、大きな反響を呼ぶ。
「基礎・基本の徹底」と「早寝・早起き・朝ごはん」に代表される生活習慣の改善による学力向上運動に取り組む。
『陰山式スコーラ』の土台である陰山メソッドが生まれた朝来市立山口小学校では、国公立大学の医学部や、東大、京大への進学者が続出した。
