Первый вопрос был к тому, что шифрование используется не только для авторизации пользователей. Сменить и сделать можно все, но то о чем вы думаете, это уже давно устаревшие технологии. А для регистрации или авторизации через форум лучше используйте Rest API. Или подумайте над oAuth. Если это не подходит, можете покопаться в XF:Auth, XF\Service:Register.
(не помню точных названий, но определенно сможете найти)