Oster nasceu em Dresden, Reino da Saxônia, império Alemão, em 9 de agosto de 1887, seu pai era um pastor protestante.
Começou a sua carreira no exército em 1907 na divisão de artilharia.
Serviu na Frente Ocidental durante a Primeira Guerra Mundial, até o ano de 1916, quando subiu para o posto de capitão do Estado-Maior alemão.
Ao final do conflito, Hans Oster foi integrado ao corpo de oficiais, Reichswehr (Defesa Alemã ou Força de Defesa) que foi reduzido para 4.000 militares, exigência do Tratado de Versalhes.
Inicialmente Oster chegou a apoiar o regime Nazista, mas logo mudou de idéia depois da “Noite das Facas Longas”, em que vários lideres da rival Sturmabteilung (SA) e vários outros lideres políticos contrários ao regime Nazistas foram assassinados, entre eles estavam o General Kurt Von Schleicher, último chanceler da Republica de Weimar e o Major-General Ferdinand Von Bredow, ex-chefe da Abwehr.
Seu ódio pelo Nazismo aumentou ainda mais depois da Kristallnacht, pois isto para ele era a prova de que o Nazismo traria uma carnificina sem precedentes.
No meio disso tudo Oster conheceu Ludwig Beck, General e chefe do Estado-Maior.
Já na Abwehr Oster foi de estrema importância para o andamento dos planos de conspiração, tudo isso graças a sua posição que ocupava dentro da organização.
Oster poderia fornecer documentos falsos, dando cobertura e disfarçando as atividades conspiratórias.
Pouco tempo depois Ludwig Beck foi afastado do seu cargo por Hitler, mas isso não prejudicou em nada os planos para um golpe de estado, pois seu sucessor era Franz Halder que também não era simpatizante ao regime Nazista e continuou mantendo contato com Oster e Beck.
Outro personagem de estrema importância para o golpe era o Marechal Erwin Von Witzleben
Comandante do exercito na região militar de Berlin, que estaria com suas tropas estrategicamente bem posicionadas para o golpe.
Oster entrou em contato com Halder e Beck dizendo que aquele era o momento certo, mas os Generais disseram que colocariam o plano em prática apenas se Hitler fizesse movimentos ostensivos para a guerra, caso Hitler não entrasse em guerra o plano não seria posto em prática.
Oster e a Abwehr entraram em contanto com os britânicos e pediram para que eles se mantivessem firme contra Hitler durante a crise dos Sudetos. Mas isso não aconteceu, pois o ministro Neville Chamberlain, em uma reunião em Munique, em 28 de setembro, aceitou o desmembramento da Tchecoslováquia.
Esse triunfo diplomático de Adolf Hitler prejudicou e desmoralizou os conspiradores. Com toda essa reviravolta Halder já não apoiava mais um golpe de Estado. Esta foi à primeira tentativa de conspiração que teria grandes chances de dar certo.
Oster foi preso um dia após o fracasso de 20 de julho.
No dia 4 de Abril de 1945, os diários do almirante Canaris foram descobertos, assim que leu o que estava escrito la Adolf Hitler ordenou imediatamente a morte dos conspiradores.
Em 8 de abril de 1945, Oster, Dietrich Bonhoeffer, Wilhelm Canaris, e outros anti-nazistas foram condenados a morte, em uma corte presidida por Otto Thorbeck.
Na madrugada do dia seguinte, Hans Oster, Dietrich Bonhoeffer e Canaris foram enforcados em Flossenbürg. Antes de serem mortos foram obrigados a despir-se.
O campo foi liberado duas semanas mais tarde pelas forças americanas.