Bom, vo falar aí o meu setup e você tira suas conclusões:

To com um ryzen 5 3600X e uma 3060, coloquei um aio da coolermaster com radiador 240mm e 2x ventoinhas 120mm. Coloquei 1x120 atras jogando ar pra fora, o radiador em cima jogando ar pra fora e 3x na frente jogando ar pra dentro. Já fiz stress test, com as ventoinhas no máximo pode estar a CPU e a GPU torando que nenhuma delas passa mto dos 60 graus. Ou seja, um tremendo overkill.

A menos que você esteja usando algo que precise mesmo de um water cooler (ou seja, i7/i9, threadrippers) não vale a pena o investimento. Tu consegue algo mais silencioso, mais simples e mais eficiente pelo mesmo preço.

Dito isso, dependendo do water cooler, dependendo de como você configura tudo, com uma gpu que para a ventoinha em idle e uma psu silenciosa, dá pra ter o PC quase sem barulho.

75º, 76º usando air cooler em testes de stress está geladasso meu rei! dá pra melhorar? até dá, no caso seria usando um cooler mais parrudo, independente de ser água ou vento.
Mas agora você me dizendo que enquanto você está jogando com as confs no máximo teu processador atinge essa temperatura, isso levanta outro cenário, porque quem faz gráfico é a placa de vídeo! isso significa que sua placa de vídeo tá esquentando, e com isso esquentando o gabinete; e se o gabinete não tem fluxo de ar, vai esquentar seu processador também!

Talvez a resolução do seu problema possa ser apenas gerenciar melhor o fluxo de ar do seu sistema, ou seja, isso pode ir desde trocar a posição das ventoinhas, adicionar ventoinha, gerenciar velocidade das ventoinhas ou até mesmo trocar de gabinete.

Já no caso da sua placa mãe BIOSTAR peidar na farofa, mano, é biostar pô. Essa marca era conhecidíssima nos meados de 2006~2012 por fazer placa que queima. Povo do trabalho zoava que biostar era "bombastar". Pelo jeito não mudou muita coisa 🤣

Quanto à pasta térmica, vou falar sobre minha experiência. Há muito tempo atrás no trabalho usávamos a pasta branca da Implastec. Não é das melhores (muito pelo contrário), mas quebra um galho MONSTRO! Daí tem a implastec cinza, que é bem melhor que a branca. Tem pelo menos uns 5 graus celsius de diferença entre usar a implastec normal vs a cinza. Além da implastec, nessa época usar artic silver 5 estava em voga, não porque era modinha, mas porque era boa e tinha um bom custo benefício.
Agora, a melhor "pasta" térmica que eu usei foi uma de metal liquido que um amigo me emprestou; ele pagou o olho da cara e mais um rim. Compensou? pra mim sim, que não paguei nada. Pelo valor pago vs capacidade de arrefecimento, definitivamente não.

Segundo uma pesquisa no google, a artic silver 5 tem condutividade perto de 9 W/mk. Acredito eu que qualquer uma nesse nível também será boa.

A regularidade de aplicação depende bastante. Pasta térmica é quase infinita, salvo se você deixa seu PC desligado por longos períodos de tempo. Dá pra fazer limpeza e reaplicação a cada 2 anos tranquilamente (e se pá é frequente até demais). Pra você ter ideia, algumas pastas térmicas tem uma durabilidade de cerca de 8 anos. Dessa forma a reaplicação acaba ficando pra quando você percebe alguma degradação na capacidade de arrefecimento, já que desmontar o pc inteiro pra fazer uma aplicação decente dá bastante trabalho.