(1)x2-7x+12=0,
解得x1=3,x2=4,
∵OA>OB,
∴OA=4,OB=3,
过D作DE⊥y于点E,
∵正方形ABCD,
∴AD=AB,∠DAB=90°,
∠DAE+∠OAB=90°,
∠ABO+∠OAB=90°,
∴∠ABO=∠DAE,
∵DE⊥AE,
∴∠AED=90°=∠AOB,
在△DAE和△ABO中,
,
∠ABO=∠DAE ∠AED=∠AOB=90° AB=AD
∴△DAE≌△ABO(AAS),
∴DE=OA=4,AE=OB=3,
∴OE=7,
∴D(4,7);
(2)过点C作CM⊥x轴于点M,
同上可证得△BCM≌△ABO,
∴CM=OB=3,BM=OA=4,
∴OM=7,
∴C(7,3),
设直线BC的解析式为y=kx+b(k≠0,k、b为常数),
代入B(3,0),C(7,3)得,
,
7k+b=3 3k+b=0
解得
,
k=
3 4 b=?
9 4
∴y=
x-3 4
;9 4
(3)存在,如图,
点P与点B重合时,P1(3,0),
点P与点B关于点C对称时,P2(11,6).