ブラウザ(とその設定)によってwindow.open()の挙動が大分違う件…
手持ちのPCに入ってるブラウザで検証してみたメモ。(win版のみ)

Firefox3(常にタブ)
window.option(href,name)だと新タブ、window.option(href,name,option)だと新窓

Firefox3(常に窓)
optionの有無にかかわらず新窓

Firefox2
3と同じ

Chrome
新窓で開く設定そのものが無い?(常に新タブで開く)

IE7IE6
どうやら書き方で違うらしい

a.setProperty('onclick',"window.open(this.href); return false;");//→×
a.setAttribute('onclick',"window.open(this.href); return false;");//→×
a.setProperty('onclick',new Function('window.open(this.href); return false;'));</code>//→×
a.setAttribute('onclick',new Function('window.open(this.href); return false;'));</code>//→○
a.addEvent("click",function(){window.open(this.href);return false;});</code>//→○

※target=”_blank”だとsetProperty()でも開く
key同時押しはIE8でも継承されてるらしい

Safari3
開く。新規タブで開く場合はCtrl押しながら

Opera9(初期設定)
タブで開く。

未検証:
IE8 -インストールしてるPCが無い
SleipnirとLunascapeは省略
BETAとスタンドアロンはスルー

setPropertyで動作しないのは盲点でした