Plus c’est con, plus c’est bon :

find . -name *.JPG -delete

Ceci supprimera dans le dossier courant, et dans les sous-dossiers, tous les fichiers portant l’extension .JPG