De par la nature même de ce en quoi consiste le "parallel computing", je pencherai pour "éxécution parallèle" ou "éxécution simultanée" (voire, pourquoi pas, "multitâche") ?

Quel est le contexte ?