NobertoKicuti na minha opinião a melhor e mais segura forma de fazer isso é analisando cada plugin individualmente. Veja a descrição do que cada plugin faz, acesse o site e veja se as funcionalidades do plugin estão realmente sendo utilizadas. Desative o plugin e veja se as funcionalidades deixaram mesmo de existir e, principalmente, se o plugin não fará falta. Digo isso porque mais de um plugin pode estar trazendo determinadas funcionalidades, então você terá uma sobreposição de funcionalidades de plugins, podendo pensar em qual deles você conseguirá desativar. Só lembre-se de sempre testar em janela anônima e com plugin de cache desativado.
Avalie também com a cliente quais funcionalidades são essenciais e quais não são para que você possa fazer uma limpa nos plugins. Só tome cuidado para não deixar o site inseguro caso desative algum plugin que adicione funcionalidades de segurança.
Depois disse faça uma configuração bem detalhada do plugin de cache e realize diversos testes.
Só não esqueça que um site lento pode ter causas de excesso de plugins sim, mas que dependendo da situação pode ser algo associado ao servido ou suas configurações.