Varme bevæger sig naturligt fra en højere mod en lavere temperatur. Varmepumper kan imidlertid få varmen til at bevæge sig i den modsatte retning med en relativt lille mængde driftsenergi af høj kvalitet (elektricitet, brændsel eller spildvarme med høj temperatur). På den måde kan varmepumper overføre varme fra omgivelsernes naturlige varmekilder, så som luft, jord eller vand, eller fra menneskeskabte varmekilder, som fx industrielt affald eller affald fra beboelse, til en bygning eller til brug i industrielt øjemed. Varmepumper kan også anvendes til afkøling. Varmen ledes da i den modsatte retning, fra det apparat, som hermed afkøles, til omgivelser med en højere temperatur. Nogle gange bruges den overskydende varme fra afkølingsprocessen samtidig til at dække et varmebehov andetsteds.
For at overføre varme fra en varmekilde til et varmedræn kræves der udefrakommende energi til at drive varmepumpen. Teoretisk set svarer den samlede varmemængde, som leveres af varmepumpen, til den varmemængde, som udvindes fra varmekilden plus den mængde energi, som leveres til systemets drift. Eldrevne varmepumper til opvarmning af bygninger leverer typisk 100 kWh varme med bare 20-40 kWh elektricitet. Mange industrielle varmepumper kan opnå endnu højere ydelser og give den samme mængde varme med bare 3-10 kWh elektricitet.
Eftersom varmepumper bruger mindre primærenergi end konventionelle varmeanlæg, er de en vigtig teknologi for reduktionen af miljøskadelig gasudledning, som fx kuldioxid (CO2), Svovldioxid (SO2) og Kvælstofilter (NOx). Den overordnede miljømæssige indvirkning af elektriske varmepumper afhænger dog meget af, hvordan elektriciteten frembringes. Varmepumper drevet af elektricitet fra for eksempel vandkraft eller anden vedvarende energi reducerer udledningerne betydeligt mere, end hvis elektriciteten stammer fra kul-, olie- eller gasbaserede kraftværker.