In deinem 1. Beispiel erzeugst du eine Endlossschleife die (wenn in "machwas()" nicht noch was anderes steht) nie beendet wird.
Du musst daher noch prüfen ob FileFindNextfile nicht schon am Ende ist und gegebenenfalls die Schleife dann beenden.
Den Punkt mit der Dateiendung hat shadowigor dir ja schon beantwortet.
Am schnellsten solltest du kommen wenn du einfach vom Dateinamen die letzten Buchstaben vergleichst.
Vollständig sollte das dann ungefähr so aussehen:
Spoiler anzeigen
$h_search = FileFindFirstFile("d:\test\*.abc")
Do
$s_File = FileFindNextFile($h_search)
If @error Then ExitLoop
If StringRight($s_File, 4) <> ".abc" Then ContinueLoop
machwas()
Until 0
Würde dies auch funktionieren?
Fast - auf der einen Seite müsstest du noch den Punkt oben aus "$endung" entfernen da du den ja schon im Pattern geschrieben hast.
Auf der anderen Seite müsstest du noch sicherstellen das ".abc" wirklich am Ende steht.
So wie das Pattern jetzt ist würde z.B. auch eine Datei gefunden die "Test.abc.txt" heißt (ebenso wie .abc@-Dateien die entsel beschrieben hat).
Mit StringRegExp kann man übrigens nicht nur Strings zerlegen sondern kann auch einfach nur auf ein Pattern testen.
Daher könnte man die Schleife z.b. folgendermaßen zusammenfassen:
For $i = 1 To $aFiles[0]
If StringRegExp($aFiles[$i], "\." & $endung & "$") Then MsgBox(0,"",$aFiles[$i])
Next