Wenn ein Prozess Fenster erzeugt so sollten diese ja immer gleiche Eigenschaften aufweisen (z.B. Fenstertitel, Textpassagen etc.).
Ein Handle wird dir nichts nützen.
Es wird immer neu vergeben und ist nichts weiter als eine interne Nummer zur Ansprache eines bestimmten Fensters.
Noch eine Möglichkeit wäre über den Dateipfad des ausgeführten Programmes Informationen über die exe auszuwerten.
Also Beispielsweise könnte man eine md5-Checksumme von der Datei erzeugen und diese dann vergleichen.