Olá Antônio!

A função DBUsed() serve para identificar se o Sistema atual está com o DB aberto, ele não identifica se ele está sendo usado em outro local (como, por exemplo, uma outra instância do seu Sistema). Ele funciona de maneira semelhante a função Used(), sendo que esta serve para tabelas. Outro ponto importante é o nome, este não precisa vir acompanhado do caminho completo, é simplesmente o nome do DBC. Veja o exemplo:

* suponhamos que você tenha uma banco em "C:\Temp\MeuBanco.Dbc"
? DBUsed("MeuBanco")  && Retorna .F.
Open Database "C:\Temp\MeuBanco"
? DBUsed("MeuBanco")  && Retorna .T.

Aqui comigo funciona que é uma beleza.
Até mais.