a.php 내에 javascript 함수가 

function a_callback(data)

{

     alert(data);

}

가 있다고 하면

a.php 내에서 popup을 띄워 실행하면서 "a_callback"을 문자열로 전달 했다고 한다면

popup내의 javascript에서는 

window.opener[callback](responseText); 

처럼 호출하면 된다.