Karl Amadeus Hartmann wurde 1905 geboren als Sohn des Malers Friedrich Richard Hartmann und dessen Frau Gertrud. Er wuchs in einem bildungsbürgerlichen Elternhaus auf. Der älteste seiner drei Brüder war der Porträtmaler Adolf Hartmann.
1919 begann er eine Lehrerausbildung in Pasing, die er jedoch nach drei Jahren abbrach. Schon damals war die Musik sein eigentlicher Berufswunsch. 
Zwischen 1924 und 1929 studierte Hartmann an der Staatlichen Akademie der Tonkunst in München Posaune und Komposition (bei Joseph Haas). Erste Werke stellte er ab 1928 im Rahmen des Opernstudios der Bayerischen Staatsoper und in Konzerten der „Juryfreien“ einem größeren Publikum vor. Experimente mit dadaistischen und vom Jazz beeinflussten Kompositionen fielen ebenfalls in diese Zeit. Jedoch vernichtete Hartmann diese Werke später.
Darüber hinaus lernte er Hermann Scherchen kennen, der zu einem Vorbild werden sollte und den er auch während des Zweiten Weltkrieges mehrfach in der Schweiz traf.
Im Jahr 1934 heiratete er Elisabeth Reussmann, die er im Kreis der Juryfreien kennengelernt hatte. Im folgenden Jahr kam Sohn Richard zur Welt.

Nach der „Machtergreifung“ der Nationalsozialisten zog er sich nach Fred K. Prieberg „nach Kempfenhausen am Starnberger See zurück und boykottierte – obwohl Mitglied der RMK – das NS-Regime, indem er seine Arbeiten vom deutschen Markt fernhielt und im Ausland platzierte, begünstigt durch eine Lücke in der Kulturkammer-Gesetzgebung, weshalb die RMK nicht einschreiten konnte“.
Ab 1933 komponierte er sein 1935 in Prag uraufgeführtes Orchesterwerk Miserae, das er als Ausdruck des Protests gegen den Nationalsozialismus verstand. Er widmete es „Meinen Freunden, die hundertfach sterben mußten, die für die Ewigkeit schlafen, wir vergessen Euch nicht. Dachau 1933/34“.
Bis zum Ende des Nationalsozialismus 1945 wurden seine Stücke, mit Ausnahme einer Bühnenmusik zu Shakespeares Macbeth (1942), nicht in Deutschland aufgeführt. Hartmann selbst wurde nicht verfolgt, hatte sich aber in die „innere Emigration“ zurückgezogen, komponierte meist „für die Schublade“ und lebte vor allem von der Unterstützung durch seine Schwiegereltern.
In diese Zeit fiel unter anderem die Komposition des 1. Streichquartetts „Carillon“ (1933), der 1. Sinfonie (1935/1936) und des Concerto funèbre (1939). Einigen Einfluss auf sein weiteres Werk hatte ein kurzer Unterricht bei Anton Webern in Maria Enzersdorf bei Wien im November 1942.
1945 wurde Hartmann zum Dramaturgen der bayerischen Staatstheater berufen. In den Folgejahren veröffentlichte er, größtenteils unter dem Arbeitstitel Symphonie, seine überarbeiteten Werke. Daneben gründete er mit Unterstützung der Alliierten des Zweiten Weltkriegs und des nach 1945 gegründeten Bayerischen Rundfunks die Münchner Konzertreihe Musica Viva für die Aufführung avantgardistischer Musik, eine Aufgabe, der er bis zu seinem Tod viel Aufmerksamkeit schenkte. Die Reihe existiert noch heute.

Nach dem Krieg tilgte er die meisten politischen Bezüge aus seinem Werk und versöhnte sich nach anfänglichen Auseinandersetzungen mit den während der Zeit des Nationalsozialismus aktiv gebliebenen Komponisten Carl Orff und Werner Egk. Obwohl er der Restauration in der Bundesrepublik kritisch gegenüberstand, schlug er eine Einladung des Staates DDR zur Übersiedlung aus. Mit der steigenden Anzahl von Aufführungen seiner Werke stieg auch seine Anerkennung, die sich in vielen Ehrungen ausdrückte.
Am 5. Dezember 1963 starb Karl Amadeus Hartmann an den Folgen einer Krebserkrankung. Er wurde auf dem Münchner Waldfriedhof beerdigt. An seinem Wohnhaus in der Schwabinger Franz-Josef-Straße ist eine Gedenktafel angebracht.