По результатам тестирования программ можно увидеть, что точность вычисления для double на CPU и GPU примерно одинаковая, но для float уже имеются некоторые различия.
По скорости вычислений GPU оказался намного быстрее, чем CPU, так как мы распараллеливали цикл на большое кол-во ядер в GPU, когда в CPU их всего лишь несколько.
По общей времени работы можно увидеть, что работа кода на GPU во много раз дольше, чем на CPU. Это связано с выделением ядер под вычисления и многим другим.
Исходя из этого, я бы предпочёл для выполнения коротких операций программу на CPU, но если дело касается создания игры, например, то я бы предпочёл для математических расчётов GPU, исходя из скорости многопоточных вычислений на GPU.