D
分析:設⊙O切AC于F,切BC于D,切AB于E,連接OA、OB、OC、OD、OE、OF,則OD=OE=OF,OD⊥BC,OF⊥AC,OE⊥AB,設OD=OE=OF=R,根據(jù)勾股定理求出第三邊長,根據(jù)三角形的面積公式求出即可.
解答:

設⊙O切AC于F,切BC于D,切AB于E,連接OA、OB、OC、OD、OE、OF,
則OD=OE=OF,OD⊥BC,OF⊥AC,OE⊥AB,
設OD=OE=OF=R,
分為兩種情況:①當AC=8,BC=6時,由勾股定理得:AB=

=10,
∵S
△ACB=S
△OAC+S
△OBC+S
△OAB,
∴

AC×BC=

AC×OF+

BC×OD+

AB×OE,
即8×6=8R+6R+10R,
R=2;
②當AB=8,BC=6時,由勾股定理得:AC=

=2

,
∵S
△ACB=S
△OAC+S
△OBC+S
△OAB,
∴

AC×BC=

AC×OF+

BC×OD+

AB×OE,
即2

×6=2

R+8R+6R,
R=

-1;
故選D.
點評:本題考查了三角形的內(nèi)切圓與內(nèi)心,勾股定理,三角形的面積,切線的性質(zhì)等知識點,注意:①要進行分類討論,②利用三角形的面積相等求出R比較好.