no, le due barrette (quel carattere si chiama "pipe") significano OR.
In javascript gli operatori di uso più frequente nelle condizioni sono:

|| OR logico
&& AND logico
== uguale
!= diverso
>= <= maggiore-uguale o minore-uguale
!(cond) nega la condizione posta tra parentesi

| OR bit a bit (non serve praticamente mai)
& AND bit a bit (lo stesso)

Ora veniamo alla funzione: devi cambiare i pipe con le & commerciali, intoltre l'ultima riga:
return true
è superflua perchè la funzione ha già ritornato un valore. Esso è:
err ("Avendo scelto SI devi digitare quale corso.", f.qualicorsi )

Correggi in questo modo e vedi se funziona:

function validateForm(f) {
errori = ""
if (f.altrecaselle.value == "Si" && f.numcaselle.value == "0" )
return err ("Avendo scelto SI devi digitare il numero di caselle.", f.numcaselle)
if (f.altriservizi.value == "Si" && f.qualiservizi.value == "No" )
return err ("Avendo scelto SI devi digitare quali servizi.", f.qualiservizi )
if (f.interessato.value == "Si" && f.qualicorsi.value == "No" )
return err ("Avendo scelto SI devi digitare quale corso.", f.qualicorsi )
}