Walter Graumann hat sich mit seinem mehr als vier Jahrzehnte währenden ehrenamtlichen Engagement als Mitglied des Stadtrats Mellrichstadt sowie als Mitglied des Kreistags Rhön-Grabfeld besondere Verdienste um die kommunale Selbstverwaltung erworben. Lange Jahre führte er den Fraktionsvorsitz seiner Partei im Stadtrat und gestaltete die Entwicklung der Stadt an verantwortlicher Stelle mit. Als dienstältester Stadtrat war er stets bereit, zusätzliche Aufgaben, insbesondere in Vertretung des ersten und zweiten Bürgermeisters zu übernehmen. Bei den zahlreichen Projekten, die in den vergangenen vierzig Jahren in Mellrichstadt angestoßen und verwirklicht wurden, hat er sich immer als zuverlässiger Verwalter der öffentlichen Belange erwiesen.
Die Schul- und Bildungspolitik war für ihn als ehemaligem Lehrer ein zentrales Thema. Nachdrücklich hat er den Neubau der Hauptschule und die Sanierung bestehender Schulen in Mellrichstadt unterstützt.
Auch im Kreistag Rhön-Grabfeld hat das Wirken von Walter Graumann große Wertschätzung erfahren. In seiner Zeit als Kreisrat hat Graumann eine Vielzahl wichtiger Investitionsmaßnahmen mitgetragen. Als Mitglied im Krankenhausausschuss hat er sich für die Sanierung und Erweiterung der Kreisklinik eingesetzt. Außerordentlichen Einsatz zeigte Graumann nach der Öffnung der innerdeutschen Grenze, als der Grenzlandkreis Rhön-Grabfeld vor hohen organisatorischen und logistischen Herausforderungen stand.