Вы несколько загнули - если судить по аутоиту (который наверняка и сегодня не поддерживает контролы без хэндлов), тогда конечно бесплатных тулов нет. :)
Для дотнетовских приложений современные тулы используют сочетание MS UIAutomation + Win32 API (в разной пропорции, зависит от желания вендора или умения персонала).
Самая большая проблема - это упомянутые кастомные контролы.
Если контролы делаются в самой же конторе, можно попробовать договориться с программистами, чтобы добавили акцессибильные проперти к контролам.
Если же это третьесторонние, то тут уж как повезёт. Иногда достаточно находит контрол по имни (тайтлу) и посылать туда клик или другое сообщение.
Например, инфраджистикс (будь он неладен) продаёт за денежку плагины для тулов от HP и IBM, по $3000 каждый. Однако, у нас в конторе, к примеру, не принято платить сверх доступного партнёрам, поэтому мы смогли обойтись при помощи uiautomation.codeplex.com.
Пауэршелл вообще невероятно удобен для тестирования, а уж если контора напряглась вставить пауэршелл в процесс тестируемого приложения, то это вообще халява.
Ещё из полезного: глава одного из отделов у нас сказал мне, что телериковский фреймворк (бесплатный, не путать с платной студией) поудобнее для тестирования WPF приложений.
WPF приложения удобно тестировать из ´TestApi by Microsoft (бесплатно, но требует немного программирования). Может запускаться в этом же треде или в соседнем.
white и watin потрубуют ещё больше программирования, но под них пишут плагины для кастомных контролов (но есть реконрдер кода).
В моём отделе сейчас ведётся работа над приложением в mmc, тут используется упомянутый выше UIAutomation PowerShell Extensions. Возможно работать как через MS UIAutomaiton, так и через Win32. также есть и рекордер кода.