解:(1)∵C=

,cos(θ+C)=

,0<θ<π,
∴sin(

)=

=

∴cosθ=cos[(

)-

]=cos(

)cos

+sin(

)sin

=

;
(2)∵sinC+sin(A-B)=3sin2B,
∴sin(A+B)+sin(A-B)=6sinBcosB,
∴2sinAcosB=6sinBcosB,
∴cosB=0或sinA=3sinB,
∴B=

或a=3b,
若B=

,C=

,則S=

c•c•tanA=

;
若a=3b,C=

,則由余弦定理得a
2+b
2-ab=1
∴

,
∴S=

absinC=

.
分析:(1)先計算sin(

),根據cosθ=cos[(

)-

],利用差角的余弦公式,即可求cosθ;
(2)根據sinC+sin(A-B)=3sin2B,可得B=

或a=3b,再分類討論,即可求△ABC的面積.
點評:本題考查三角恒等變換,考查三角函數的化簡,考查三角形面積的計算,屬于中檔題.