No, en matemáticas, cuando hay operaciones con paréntesis una dentro de otra, se ponen las paréntesis en el más interno, si fuera de él hay otro, ya se pondría el corchete y no el paréntesis, en caso de haber más, ya se ponen llaves. Para que lo entiendas mejor, un ejemplo:
[2 +(6*3 + 8)]