swift - les - Performance rapide: tri des tableaux




tri rapide java (6)

J'ai implémenté un algorithme dans Swift et j'ai remarqué que la performance était très mauvaise. Après avoir creusé plus profondément, je me suis rendu compte que l'un des goulots d'étranglement était quelque chose d'aussi simple que de trier des tableaux. La partie pertinente est ici:

let n = 1000000
var x =  [Int](repeating: 0, count: n)
for i in 0..<n {
    x[i] = random()
}
// start clock here
let y = sort(x)
// stop clock here

En C ++, une opération similaire prend 0,06 s sur mon ordinateur.

En Python, cela prend 0,6 s (pas d'astuces, juste y = trié (x) pour une liste d'entiers).

Dans Swift, il faut 6 s si je le compile avec la commande suivante:

xcrun swift -O3 -sdk `xcrun --show-sdk-path --sdk macosx`

Et cela prend jusqu'à 88 s si je le compile avec la commande suivante:

xcrun swift -O0 -sdk `xcrun --show-sdk-path --sdk macosx`

Les synchronisations dans Xcode avec les versions "Release" et "Debug" sont similaires.

Quel est le problème ici? Je pourrais comprendre une perte de performance par rapport à C ++, mais pas un ralentissement de 10 fois par rapport à Python pur.

Edit: mweathers a remarqué que changer -O3 en -Ofast rend ce code presque aussi rapide que la version C ++! Cependant, -Ofast la sémantique du langage - lors de mes tests, il a désactivé les vérifications des dépassements d'entiers et des débordements d'indexation des tableaux . Par exemple, avec -Ofast le code Swift suivant s'exécute silencieusement sans se bloquer (et imprime certaines ordures):

let n = 10000000
print(n*n*n*n*n)
let x =  [Int](repeating: 10, count: n)
print(x[n])

Donc -Ofast n'est pas ce que nous voulons; le but de Swift est que nous ayons les filets de sécurité en place. Bien sûr, les filets de sécurité ont un impact sur la performance, mais ils ne devraient pas rendre les programmes 100 fois plus lents. Rappelez-vous que Java vérifie déjà les limites des tableaux, et dans des cas typiques, le ralentissement est beaucoup moins que 2. Et dans Clang et GCC nous avons -ftrapv pour vérifier les débordements d'entiers (signés), et ce n'est pas si lent .

D'où la question: comment pouvons-nous obtenir une performance raisonnable dans Swift sans perdre les filets de sécurité?

Edit 2: J'ai fait un peu plus de benchmarking, avec des boucles très simples dans le sens de

for i in 0..<n {
    x[i] = x[i] ^ 12345678
}

(Ici l'opération xor est là juste pour que je puisse trouver plus facilement la boucle pertinente dans le code d'assemblage.) J'ai essayé de choisir une opération facile à repérer mais aussi "inoffensive" dans le sens où elle ne devrait pas nécessiter de vérifications à des débordements d'entier.)

Encore une fois, il y avait une énorme différence dans les performances entre -O3 et -Ofast . J'ai donc regardé le code de l'assemblage:

  • Avec -Ofast je reçois à peu près ce à quoi je m'attendrais. La partie pertinente est une boucle avec 5 instructions de langage machine.

  • Avec -O3 j'ai obtenu quelque chose qui dépassait mon imagination la plus folle. La boucle interne couvre 88 lignes de code d'assemblage. Je n'ai pas essayé de tout comprendre, mais les parties les plus suspectes sont 13 invocations de "callq _swift_retain" et 13 autres invocations de "callq _swift_release". C'est, 26 appels de sous-routine dans la boucle interne !

Edit 3: Dans les commentaires, Ferruccio a demandé des repères qui sont justes dans le sens où ils ne reposent pas sur des fonctions intégrées (par exemple tri). Je pense que le programme suivant est un assez bon exemple:

let n = 10000
var x = [Int](repeating: 1, count: n)
for i in 0..<n {
    for j in 0..<n {
        x[i] = x[j]
    }
}

Il n'y a pas d'arithmétique, donc nous n'avons pas besoin de nous inquiéter des débordements d'entiers. La seule chose que nous faisons est juste beaucoup de références de tableau. Et les résultats sont ici-Swift -O3 perd près de 500 par rapport à -Fast:

  • C ++ -O3: 0,05 s
  • C ++ -O0: 0,4 s
  • Java: 0,2 s
  • Python avec PyPy: 0.5 s
  • Python: 12 s
  • Swift -Ofast: 0.05 s
  • Swift -O3: 23 s
  • Swift -O0: 443 s

(Si vous craignez que le compilateur optimise complètement les boucles inutiles, vous pouvez le remplacer par exemple par x[i] ^= x[j] et ajouter une instruction d'impression qui sort x[0] . Cela ne change rien les horaires seront très similaires.)

Et oui, ici l'implémentation de Python était une pure implémentation pure de Python avec une liste d'ints et de boucles imbriquées. Il devrait être beaucoup plus lent que Swift non optimisé. Quelque chose semble être sérieusement cassé avec Swift et l'indexation de tableau.

Edit 4: Ces problèmes (ainsi que d'autres problèmes de performance) semblent avoir été corrigés dans Xcode 6 beta 5.

Pour le tri, j'ai maintenant les timings suivants:

  • Clang ++ -O3: 0.06 s
  • swiftc -Ofast: 0,1 s
  • swiftc -O: 0,1 s
  • swiftc: 4 s

Pour les boucles imbriquées:

  • Clang ++ -O3: 0.06 s
  • swiftc -Ofast: 0,3 s
  • swiftc -O: 0,4 s
  • swiftc: 540 s

Il semble qu'il n'y a plus de raison d'utiliser le non-sûr -Ofast (aka -Ounchecked ); plain -O produit un bon code.


À partir de Xcode 7, vous pouvez activer l' Fast, Whole Module Optimization . Cela devrait augmenter vos performances immédiatement.


À partir du The Swift Programming Language :

La bibliothèque standard de Sort Function Swift fournit une fonction appelée sort, qui trie un tableau de valeurs d'un type connu, en fonction de la sortie d'une fermeture de tri que vous fournissez. Une fois le processus de tri terminé, la fonction de tri renvoie un nouveau tableau du même type et de la même taille que l'ancien, avec ses éléments dans l'ordre trié correct.

La fonction de sort a deux déclarations.

La déclaration par défaut qui vous permet de spécifier une fermeture de comparaison:

func sort<T>(array: T[], pred: (T, T) -> Bool) -> T[]

Et une deuxième déclaration qui ne prend qu'un seul paramètre (le tableau) et est "codé en dur pour utiliser le comparateur inférieur".

func sort<T : Comparable>(array: T[]) -> T[]

Example:
sort( _arrayToSort_ ) { $0 > $1 }

J'ai testé une version modifiée de votre code dans une cour de récréation avec la fermeture ajoutée afin que je puisse surveiller la fonction un peu plus près, et j'ai trouvé qu'avec n réglé sur 1000, la fermeture était appelée environ 11 000 fois.

let n = 1000
let x = Int[](count: n, repeatedValue: 0)
for i in 0..n {
    x[i] = random()
}
let y = sort(x) { $0 > $1 }

Ce n'est pas une fonction efficace, je recommanderais d'utiliser une meilleure implémentation de la fonction de tri.

MODIFIER:

J'ai jeté un oeil à la page Quicksort wikipedia et j'ai écrit une implémentation Swift pour cela. Voici le programme complet que j'ai utilisé (dans un terrain de jeu)

import Foundation

func quickSort(inout array: Int[], begin: Int, end: Int) {
    if (begin < end) {
        let p = partition(&array, begin, end)
        quickSort(&array, begin, p - 1)
        quickSort(&array, p + 1, end)
    }
}

func partition(inout array: Int[], left: Int, right: Int) -> Int {
    let numElements = right - left + 1
    let pivotIndex = left + numElements / 2
    let pivotValue = array[pivotIndex]
    swap(&array[pivotIndex], &array[right])
    var storeIndex = left
    for i in left..right {
        let a = 1 // <- Used to see how many comparisons are made
        if array[i] <= pivotValue {
            swap(&array[i], &array[storeIndex])
            storeIndex++
        }
    }
    swap(&array[storeIndex], &array[right]) // Move pivot to its final place
    return storeIndex
}

let n = 1000
var x = Int[](count: n, repeatedValue: 0)
for i in 0..n {
    x[i] = Int(arc4random())
}

quickSort(&x, 0, x.count - 1) // <- Does the sorting

for i in 0..n {
    x[i] // <- Used by the playground to display the results
}

En utilisant cela avec n = 1000, j'ai trouvé que

  1. quickSort () a été appelé environ 650 fois,
  2. environ 6000 swaps ont été faits,
  3. et il y a environ 10 000 comparaisons

Il semble que la méthode de tri intégrée est (ou est proche de) tri rapide, et est vraiment lente ...


La performance de Swift Array revisitée:

J'ai écrit mon propre benchmark comparant Swift avec C / Objective-C. Mon benchmark calcule les nombres premiers. Il utilise le tableau des nombres premiers précédents pour rechercher les facteurs premiers dans chaque nouveau candidat, il est donc assez rapide. Cependant, il fait des tonnes de lecture de tableau, et moins d'écriture dans les tableaux.

J'ai fait ce benchmark à l'origine contre Swift 1.2. J'ai décidé de mettre à jour le projet et de le lancer contre Swift 2.0.

Le projet vous permet de choisir entre l'utilisation de tableaux Swift normaux et l'utilisation de mémoires tampons Swift non sécurisées à l'aide de la sémantique des tableaux.

Pour C / Objective-C, vous pouvez choisir d'utiliser NSArrays, ou C tableaux malloc'ed.

Les résultats des tests semblent être assez similaires avec l'optimisation de code la plus rapide et la plus petite ([-0s]) ou l'optimisation la plus rapide, agressive ([-0fast]).

Les performances de Swift 2.0 sont toujours horribles avec l'optimisation du code désactivée, alors que les performances de C / Objective-C ne sont que modérément plus lentes.

En fin de compte, les calculs basés sur les tableaux C malloc'd sont les plus rapides, avec une marge modeste

Swift avec tampons non sécurisés prend environ 1.19X - 1.20X plus longtemps que les tableaux malloc'd C lors de l'utilisation de la plus rapide, la plus petite optimisation du code. la différence semble légèrement moindre avec l'optimisation rapide et agressive (Swift prend plus de 1.18x à 1.16x de plus que C.

Si vous utilisez des tableaux Swift réguliers, la différence avec C est légèrement plus grande. (Swift prend ~ 1.22 à 1.23 de plus.)

Les tableaux Swift réguliers sont DRAMATICALLY plus rapides qu'ils ne l'étaient dans Swift 1.2 / Xcode 6. Leurs performances sont si proches des tableaux à mémoire tampon non sécurisés de Swift que l'utilisation de tampons mémoire non sécurisés ne semble pas vraiment en valoir la peine, ce qui est énorme.

BTW, les performances des performances NSArray Objective-C. Si vous allez utiliser les objets conteneurs natifs dans les deux langues, Swift est DRAMATIQUEMENT plus rapide.

Vous pouvez consulter mon projet sur github à SwiftPerformanceBenchmark

Il a une interface utilisateur simple qui rend la collecte de statistiques assez facile.

Il est intéressant que le tri semble être légèrement plus rapide dans Swift que dans C maintenant, mais que cet algorithme de nombres premiers est encore plus rapide dans Swift.


Le problème principal qui est mentionné par d'autres mais pas assez appelé est que -O3 ne fait rien du tout dans Swift (et ne l'a jamais fait) donc lorsqu'il est compilé avec celui-ci, il est effectivement non-optimisé ( -Onone ).

Les noms des options ont changé au fil du temps, donc certaines autres réponses ont des drapeaux obsolètes pour les options de construction. Les options actuelles correctes (Swift 2.2) sont:

-Onone // Debug - slow
-O     // Optimised
-O -whole-module-optimization //Optimised across files

L'optimisation de module entier a une compilation plus lente mais peut optimiser entre les fichiers dans le module, c'est-à-dire dans chaque cadre et dans le code d'application réel, mais pas entre eux. Vous devriez l'utiliser pour tout ce qui est essentiel à la performance)

Vous pouvez également désactiver les contrôles de sécurité pour encore plus de vitesse, mais avec toutes les assertions et les conditions préalables non seulement désactivées, mais optimisées sur la base qu'elles sont correctes. Si vous appuyez sur une assertion, cela signifie que vous êtes dans un comportement indéfini. Utilisez avec une extrême prudence et seulement si vous déterminez que l'augmentation de la vitesse vaut la peine pour vous (en testant). Si vous trouvez cela utile pour un code, je recommande de séparer ce code dans un cadre distinct et de désactiver uniquement les vérifications de sécurité pour ce module.


TL; DR : Oui, la seule implémentation de langage Swift est lente, en ce moment . Si vous avez besoin d'un code rapide, numérique (et d'autres types de code, probablement), allez-y avec un autre code. À l'avenir, vous devriez réévaluer votre choix. Il pourrait être assez bon pour la plupart des codes d'application qui sont écrits à un niveau supérieur, cependant.

D'après ce que je vois dans SIL et LLVM IR, il semble qu'ils ont besoin d'un tas d'optimisations pour supprimer les retenues et les versions, qui pourraient être implémentées dans Clang (pour Objective-C), mais elles ne les ont pas encore portées. C'est la théorie avec laquelle je vais (pour l'instant ... je dois encore confirmer que Clang fait quelque chose à ce sujet), car un profileur exécuté sur le dernier cas de test de cette question donne ce "joli" résultat:

Comme cela a été dit par beaucoup d'autres, « -Ofast est totalement dangereux et change la sémantique des langues. Pour moi, c'est à l'étape "Si vous allez utiliser ça, utilisez une autre langue". Je vais réévaluer ce choix plus tard, s'il change.

-O3 nous fait un tas d' swift_retain et swift_release qui, honnêtement, n'ont pas l'air d'être là pour cet exemple. L'optimiseur devrait avoir élidé (la plupart) des AFAICT, car il connaît la plupart des informations sur le tableau, et sait qu'il a (au moins) une forte référence à celui-ci.

Il ne devrait pas émettre plus de retenue lorsqu'il n'appelle même pas de fonctions susceptibles de libérer les objets. Je ne pense pas qu'un constructeur de tableau peut renvoyer un tableau qui est plus petit que ce qui a été demandé, ce qui signifie que beaucoup de contrôles qui ont été émis sont inutiles. Il sait aussi que l'entier ne sera jamais supérieur à 10k, donc les contrôles de débordement peuvent être optimisés (pas à cause de -Ofast étrangeté, mais à cause de la sémantique du langage (rien d'autre ne change ce var et ne peut y accéder, à 10k est sûr pour le type Int ).

Le compilateur peut ne pas être en mesure de décompacter le tableau ou les éléments du tableau, car ils sont passés à sort() , qui est une fonction externe et doit obtenir les arguments attendus. Cela nous obligera à utiliser les valeurs Int indirectement, ce qui rendrait le processus un peu plus lent. Cela pourrait changer si la fonction générique sort() (pas de la manière multi-méthode) était disponible pour le compilateur et était en ligne.

C'est un tout nouveau langage (public), et il passe par ce que je suppose être beaucoup de changements, car il y a des gens (fortement) impliqués dans la langue Swift demandant des commentaires et ils disent tous que la langue n'est pas terminée et changement.

Code utilisé:

import Cocoa

let swift_start = NSDate.timeIntervalSinceReferenceDate();
let n: Int = 10000
let x = Int[](count: n, repeatedValue: 1)
for i in 0..n {
    for j in 0..n {
        let tmp: Int = x[j]
        x[i] = tmp
    }
}
let y: Int[] = sort(x)
let swift_stop = NSDate.timeIntervalSinceReferenceDate();

println("\(swift_stop - swift_start)s")

PS: Je ne suis pas un expert en Objective-C ni en toutes les installations de Cocoa , Objective-C, ou les runtimes de Swift. Je pourrais aussi supposer certaines choses que je n'ai pas écrites.


func partition(inout list : [Int], low: Int, high : Int) -> Int {
    let pivot = list[high]
    var j = low
    var i = j - 1
    while j < high {
        if list[j] <= pivot{
            i += 1
            (list[i], list[j]) = (list[j], list[i])
        }
        j += 1
    }
    (list[i+1], list[high]) = (list[high], list[i+1])
    return i+1
}

func quikcSort(inout list : [Int] , low : Int , high : Int) {

    if low < high {
        let pIndex = partition(&list, low: low, high: high)
        quikcSort(&list, low: low, high: pIndex-1)
        quikcSort(&list, low: pIndex + 1, high: high)
    }
}

var list = [7,3,15,10,0,8,2,4]
quikcSort(&list, low: 0, high: list.count-1)

var list2 = [ 10, 0, 3, 9, 2, 14, 26, 27, 1, 5, 8, -1, 8 ]
quikcSort(&list2, low: 0, high: list2.count-1)

var list3 = [1,3,9,8,2,7,5]
quikcSort(&list3, low: 0, high: list3.count-1) 

Ceci est mon blog sur Quick Sort- Github sample Quick-Sort

Vous pouvez jeter un oeil à l'algorithme de partitionnement de Lomuto dans Partitionner la liste. Écrit dans Swift





sorting