Hermann Langbein wurde am 18.Mai 1912 in Wien geboren. Nach seiner Matura am Döblinger Gymnasium trat er der KPÖ bei und arbeitete am Deutschen Volkstheater. Nach dem sogenannten „Anschluss“ Österreichs floh er nach Spanien, wo er sich den Internationalen Brigaden anschloss. Unmittelbar nach der Auflösung der Internationalen Brigade wurde Hermann Langbein an der französischen Grenze festgenommen und interniert. Als 1940 Frankreich kapitulierte, wurde Hermann Langbein mit vielen anderen ehemaligen Spanienkämpfern in das KZ Dachau deportiert. 1942 folgte die weitere Deportation nach Ausschwitz. Hier kam er in die Position des Häftlingsschreibers beim SS-Standortarzt Eduard Wirths. Im Lager gehörte er der Leitung der Internationalen Widerstandsbewegung und auch der Kampfgruppe Auschwitz an. Im August 1944 wurde er ins KZ Neuengamme verlegt. Mitte April 1945 gelang ihm die Flucht aus einem Evakuierungstransport.
Nach Wien zurückgekehrt, arbeitete er zunächst in der KPÖ und gehörte auch dem Zentralkomitee an. 1949 erschienen seine Lagererfahrungen unter dem Titel „Die Stärkeren. Ein Bericht aus Auschwitz und anderen Konzentrationslagern“.
1954 wurde Hermann Langbein Mitbegründer des „Internationalen Auschwitzkomitees“ und auch gleichzeitig dessen erster Generalsekretär. Im Zuge des Ungarnaufstandes wurde er aus der KPÖ wegen Kritik am Stalinismus ausgeschlossen. 1960 verlor er auch seinen Posten als Generalsekretär beim Internationalen Auschwitzkomitee. Ab 1963 war Langbein Sekretär des „Comité International des Camps“.
Mitte der 60er Jahre hatte er neben Fritz Bauer einen großen Anteil an dem Zustandekommen der Frankfurter Auschwitz-Prozesse. 1967 wurde Hermann Langbein mit den Titel „Gerechter unter den Völkern“ in Yad Vashem ausgezeichnet. Danach war er als Publizist und Schriftsteller tätig, außerdem war er Hauptinitiator des „ZeitzeugInnenprogrammes“ an Österreichs Schulen.
Hermann Langbein starb am 24.Oktober 1995 im Alter von 84 Jahren.