Der Diemelsee liegt in den Nordostausläufern des Rothaargebirges, dem Nordostteil des Rheinischen Schiefergebirges; wenige Kilometer südwestlich befindet sich das Upland. Er breitet sich überwiegend im nordhessischen Landkreis Waldeck-Frankenberg aus; sein kleiner Nordteil und auch seine Staumauer gehören zum westfälischen Hochsauerlandkreis.
Der Stausee liegt im Naturpark Diemelsee zwischen den Kernorten von Willingen (12 km südwestlich; Nordhessen) und Marsberg (13 km nordöstlich; Westfalen) in den Gebieten der Gemeinde Diemelsee und der Stadt Marsberg an der Diemel und deren Zufluss Itter. Seine Staumauer steht etwa 500 m südlich des Dorfs Helminghausen (zu Marsberg). Einziges Uferdorf ist Heringhausen (zu Diemelsee) im Osten. Neben Marsberg sind die nächstgrößeren Städte Korbach (Kernstadt 15 km südöstlich; Nordhessen) und Brilon (Kernstadt 11 km westnordwestlich; Westfalen), deren Kernstädte sich beide außerhalb vom Einzugsgebiet des Stausees befinden.
Der Diemelsee liegt in bewaldeter Mittelgebirgslandschaft, deren höchster direkt am Stausee gelegener Berg das Köpfchen (610,4 m) ist. Unmittelbar ostsüdöstlich der Staumauer erhebt sich der Eisenberg (594,6 m) und wenige Kilometer südlich des Stauraums der Koppen (715,1 m).