А в xenforo 1.2 есть система вопросов - ответов при регистрации? Просто есть вариант что ваш форум попал в базы, а там как известно, владельцы пользуются сторонними средствами для разгадывания captcha, всякие antigate / rucaptcha, которые на раз два разгадывают почти любую капчу. А вот интелектуальные вопросы и ответы - это уже совсем другое... Желательно по тематике форума.
Кстати, а боты с какими почтовыми ящиками регаются? Есть еще варианты ограничить по этим ящикам + порезать айпишники.
+ Есть есть вариант, это установить детект браузера (если совсем тупые боты) + всякие куки для веб-сервера против спамеров.