Klaus-Peter Weber studierte an der Universität Bonn Mathematik und Informatik. Nach dem Abschluss begann er seine berufliche Laufbahn in der Bundesverwaltung 1983 als Bundesbetriebsprüfer beim Bundesamt für Finanzen. 1986 wechselte er in die Abteilung Informationsverarbeitung. Ab 1988 bis 2005 war er dort als Referatsleiter für verschiedene Aufgabenbereiche, u. a. die IT-Rahmenplanung, die Bewirtschaftung des IT-Haushaltes, die IT-Beschaffung, die Systemprogrammierung und zuletzt ab 2000 für das IT-Controlling verantwortlich.

Mit dessen Gründung wechselte er 2006 in das Zentrum für Informationsverarbeitung und Informationstechnik (ZIVIT). Von 2007 bis 2013 leitete er dort die Abteilung "Betrieb", ab 2014 die neu eingerichtete Abteilung "IT-Steuerung". Im Jahre 2016 wechselte er in dieser Funktion in die Nachfolgeorganisation ITZBund. Seit Januar 2017 leitet Klaus-Peter Weber erneut die Abteilung "Betrieb".