被告人或者他们的亲属凭“解除取保候审通知书”直接到银行领取退还的保证金，不必在找公安机关。 凭“有关法律文书”也可以到银行领取退还的保证金。“有关法律文书”是指能够证明案件已经结束的法律文书。
法律依据：
《中华人民共和国刑事诉讼法》
第七十二条 取保候审的决定机关应当综合考虑保证诉讼活动正常进行的需要，被取保候审人的社会危险性，案件的性质、情节，可能判处刑罚的轻重，被取保候审人的经济状况等情况，确定保证金的数额。
提供保证金的人应当将保证金存入执行机关指定银行的专门账户。
第七十三条 犯罪嫌疑人、被告人在取保候审期间未违反本法第七十一条规定的，取保候审结束的时候，凭解除取保候审的通知或者有关法律文书到银行领取退还的保证金。
因篇幅问题不能全部显示，请点此查看更多更全内容