Beuys nasceu em Krefeld e cresceu em duas pequenas localidades da região, Kleve e Rindern. Ele travou algum contato com a arte na juventude, tendo visitado o ateliê de Achilles Moorgat em várias ocasiões, mas decidiu seguir carreira em medicina. Entretanto, com a explosão da Segunda Guerra Mundial, ele se alistou na Força Aérea Alemã (Luftwaffe). Costuma-se dizer que a predominância de feltro e gordura na obra de Beuys é devida a um incidente ocorrido na guerra. Beuys foi alvejado e seu avião caiu durante uma missão na Criméia e ele acabou sendo resgatado por tártaros. Ele teria sido salvo ao ter sido tratado com ervas e recoberto por feltro e gordura. Não se sabe se essa história é verdadeira, mas agora ela já faz parte do mito que cerca a figura de Beuys.
Depois da guerra, Beuys concentrou-se na arte e estudou na escola de arte de Düsseldorf de 1946 a 1951. Nos anos 1950, ele se dedicou principalmente ao desenho. Em 1961, ele se tornou professor de escultura na academia, mas acabou sendo demitido de seu posto em 1972, depois que insistiu em que suas aulas deveriam ser abertas a qualquer interessado. Seus alunos protestaram, e ele pôde manter seu ateliê na escola, mas não recuperou as aulas.
Em 1962, Beuys conheceu o movimento Fluxus, e as performances e trabalhos multidisciplinares do grupo - que reuniam artes visuais, música e literatura - inspiraram-no a seguir uma direção nova também voltada para a happening e performance. Sua obra tornou-se cada vez mais motivada pela crença de que a arte deve desempenhar um papel ativo na sociedade.
Em 1979, uma grande retrospectiva da obra do artista foi exibida no Museu Guggenhein de Nova York.
Beuys morreu de insuficiência cardíaca, em 1986.