El BIPM fue creado el 20 de mayo de 1875, tras la firma de la Convención del Metro, un tratado entre 17 Estados miembros (a 2018 de November actualmente hay 59 miembros).
Tiene su sede en el Pavillon de Breteuil en Saint-Cloud, Francia, un 4,35 hectáreas (10,7 acre) emplazamiento (originalmente 6,2 acre) concedido a la Oficina por la Gobierno francés en 1876. Desde 1969 se considera territorio internacional, y el BIPM goza de todos los derechos y privilegios acordados a una organización intergubernamental. Este estatuto fue precisado por el decreto francés n.º 70-820 de 9 de septiembre de 1970.
A lo largo de la historia del BIPM se han producido varios cambios significativos durante las reuniones supervisadas por la CGPM. Un ejemplo de ello sería cómo en la 12ª reunión del consejo general (celebrada en 1964) se aumentó el presupuesto del BIPM de 300 000 a 600 000 dólares anuales. Un momento histórico para el BIPM se produjo durante el 26º CGPM de 2018. En este consejo, se decidió que el estándar mundial para las unidades de kilogramos, segundos, amperios, Kelvins, moles, candelas y metros se redefiniría para reflejar las constantes de la naturaleza. Es la primera vez que esto ocurre desde la creación del BIPM. Estos cambios se hicieron oficiales el Día Mundial de la Metrología de 2019.
A partir de 1970, el BIPM comenzó a publicar el folleto SI, un documento que detalla una versión actualizada del Sistema Internacional de Unidades. En noviembre de 2024, la versión más reciente del folleto del SI era la 9ª edición, publicada en 2019.
