Horde no elimina los correos y únicamente los marca como tachados
Cuando se elimina un mensaje desde Horde, este se tacha pero no se elimina de forma definitiva y sigue estando accesible hasta que se purguen.
Para eliminarlos de forma definitiva se debe usar la opción Otro / Purgar eliminados que se encuentra en la esquina superior derecha de la interfaz:
Este comportamiento también se puede alterar para que al eliminar se envíen a la papelera al igual que hace el otro webmail disponible, Roundcube, para ello accede a Opciones / Correo:
Y finalmente Eliminación y traslado de mensajes y activa ¿Trasladar mensajes eliminados a la papelera en vez de marcarlos como eliminados en el buzón actual?:
Recuerda que los mensajes en la papelera también ocupan espacio, puedes vaciarla manualmente o configurar en esa misma sección para que se vacíe con una frecuencia determinada.