O baiano, que veio de uma família de músicos, aprendeu a tocar violão de ouvido. Com 11, montou sua primeira banda, 'Los Gatos'. Em 1966, com 14 anos, Pepeu fugiu de casa e começou a viver da música profissionalmente.
Três anos depois, após uma apresentação na televisão com sua banda da época, foi convidado por Gilberto Gil e Caetano Veloso para o show de despedida pré-exílio de ambos. Antes de se mudar, Gil presenteou-o com o disco 'Smash Hits', de Jimy Hendrix. Até então desconhecido para Pepeu, o lendário guitarrista americano se tornou influência marcante no futuro de sua carreira.
Em 1970, juntamente com Moraes Moreira, Paulinho Boca de Cantor, Luiz
Galvão e Baby Consuelo, Pepeu formou o grupo 'Novos Baianos'. Mesclando ritmos como Samba, Rock, Choro e Bossa Nova, o conjunto inovou e ganhou muitos prêmios. Seu segundo disco, 'Acabou Chorare', foi eleito o melhor disco da história da música brasileira, pela revista Rolling Stone.
Com o fim da banda, em meados de 78, Pepeu lança seu primeiro disco solo, 'Geração do Som'. Na mesma época, tocou na Suíça acompanhando Gilberto Gil, no Montreux Jazz Festival. No ano seguinte, estreia como cantor em seu segundo disco, intitulado 'Na Terra a Mais de Mil'.
Devido a sua elogiada performance na edição anterior, foi chamado novamente para o festival suíço, em 80. Dessa vez, em show solo. O show foi um sucesso acabando sendo lançado com o nome de 'Pepeu Gomes Ao Vivo'.
A grande execução da música 'Eu Também Quero Beijar' rendeu um disco de ouro a Pepeu em seu terceiro trabalho solo. Emplacando hits sucessivos, vieram os álbuns "Um Raio Lazer", de 1982, e "Masculino e Feminino". Esse último, aliás, foi gravado nos Estados Unidos, com renomados músicos do país.
Em 1985, teve seu auge com uma inesquecível participação no Rock in Rio. Mesmo encontrando. Pepeu foi ovacionado e consagrado internacionalmente, chegando a ser convidado parar entrar no Whitesnake.
No final dos anos 80, voltou a focar no trabalho instrumental e fez turnês mundo à fora, incorporando seu caracteristico virtuosismo à ritmos brasileiros. Sua especialidade, era fazer releituras de clássicos, como 'Brasileirinho'.
Devido ao sucesso internacional, Pepeu foi novamente chamado para integrar bandas famosas. Desta vez, Megadeth e Living Colour. Como já tinha feito anteriormente, recusou ambos, alegando motivos pessoais - Pepeu queria continuar seu trabalho com a musica nacional, a que julga ser a melhor do mundo.
Em 1998, comemorou 20 anos de carreira com um CD duplo que reuniu seus melhores trabalhos instrumentais. No ano seguinte, Pepeu lança 'My Heart', com muitos de seus sucessos em versões acústicas.
Tendo no currículo seis apresentações no festival de Montreaux, Rock in Rio I, II e III e vários shows internacionais, sua música mescla Rock, MPB, Samba, Bossa Nova, Jazz, Funk e Música Baiana. Seu incrível virtuosismo e seu longo tempo de carreira, desde quando a guitarra ainda era novidade no país, lhe renderam o apelido de Jimy Hendrix brasileiro.