mmhh potresti esaminare l'oggetto opener.

Di solito per "popup" si intende quell'oggetto window (senza toolbar, scrollbar o altro) che viene aperto da un'ALTRO oggetto window (la finestra madre che appunto è identificata da opener) mediante il metodo window.open.

Per farla più semplice, metti questo script nella tua pagina:

<script language="Javascript">
if (opener == null){
alert("Non sono una popup")
} else {
alert("Sono una POPUPPPP!!!!")
}
</script>