А куда залит форум?
Я бы создал бы web-домен (кажется в терминологии IPS Manager), forum.mysite.ru с ftp доступом в корень forum.mysite.ru. Туда же заливаем форум и начинаем обычную инсталляцию (или перенос форума - скопировать файлы и сменить url в настройках). На mysite.ru останется сайт, его не трогать, пусть работает. В качестве примера, так работают связки dle+xenforo.
Правильно указать url форума в настройках.