熱泵熱水機組遵循能量守恒定律和熱力學2定律，運用熱泵的原理，只需要消耗一小部分的機械功（電能），將處于低溫環境（大氣或地下水等）下的熱量轉移到高溫環境下的熱水器中，去加熱制取高溫的熱水。熱泵可以與水泵相比擬。
水是不能自發地從低處流向高處，要將低處的水輸送到高處，必須用一臺水泵，消耗一部分電力，才能將水送到高處的水箱中。同樣，根據熱力學二定律，熱量也是不能自發地從低溫環境向高溫環境中轉移（傳送），而要實現這個目的，必須要有一臺機器，消耗一部分機械功（例如電能），才能將低溫環境中的熱量傳送到高溫環境中去。這樣的機器就稱之為“熱泵”。熱泵的作用是將空氣中或低溫水中的熱量取出，連同本身所用的電能轉變成的熱能，一起送到高溫環境中去應用。