Re:
Non ho mai provato phpbb o phpnuke, comunque di solito il primo passo per poterli usare è inserire in un file (tipo config.php) i dati per accedere al database (nome utente, password, etc).
Fatto questo si spediscono tutti i file sul server, e si provvede ad istallare il forum (dovrebbe esserci un file chiamato qualcosa tipo install.php o setup.php), ovvero si crea la tabella del database.
FAtto ciò dovrebbe essere possibile usare il forum!
p.s. controlla se c'è qualche file readme.txt contenente le istruzioni