A ce jour, la documentation concernant l'override des css sur le site de l'auteur est un peu dépassée.

Le fichier de style personnel (custom.css) n'est plus components/com_phocadownload/assets/custom.css
mais media/com_phocadownload/css/custom/default.css