AutoItX - also die DLL von welcher du die ganze Zeit redest ist ein einmaliges Projekt welches die Standard(!!!)-AutoIt-Funktionen in Hochsprachen nutzbar machen soll.
Weiterführende, direkt in AutoIt geschriebene Funktionen, werden nicht in Hochsprachen benutzbar sein.
Dazu zählt ebenfalls die AU3Lib.
Es gibt einfach keine Möglichkeit AutoIt-Code in DLL´s umzuwandeln.
Bei den Standardfunktionen geht das ausnahmsweise, da sie meines Wissens nach auf C++ basieren.
Willst du die Möglichkeiten TreeViews zu bearbeiten in C# nutzen so schau dir, wie die anderen schon sagten, die entsprechenden Au3Lib-Funktionen an, vor allem auf welche API-Funktionen diese zurückgreifen und schreib dir dann eigene Funktionen in C# welche eben diese API-Funktionen nutzen.
Oder du nutzt alternativ entsprechend vorgefertigte Funktionen für C# für Treeviews, wo ich davon ausgehe das es davon sicherlich genügend geben sollte.