読者です 読者をやめる 読者になる 読者になる

ichirin2501's diary

いっちりーん。

Perlで重複した要素をユニークにする

重複した要素をユニークにする代表的な方法としていくつかある。
ふと、どのコードが速いのか気になったのでベンチマークを取ってみました。
今回調べたコードは以下の6種類

# use Array::Uniq;
sub unique_au{
    my @array = @_;
    return uniq sort @array;
}
# foreach
sub unique_each{
    my @array = @_;
    my %hash;
    $hash{$_} = 1 foreach(@array);
    return keys %hash;
}
# grep
sub unique_grep{
    my @array = @_;
    my %hash;
    return grep{!$hash{$_}++} @array;
}
# use List::MoreUtils;
sub unique_lmu{
    my @array = @_;
    return List::MoreUtils::uniq @array;
}
# map
sub unique_map{
    my @array = @_;
    my %hash = map{$_,1} @array;
    return keys %hash;
}
# ハッシュスライス
sub unique_slice{
    my @array = @_;
    my %hash;
    @hash{@array} = ();
    return keys %hash;
}


ベンチマークは、PerlのBenchmarkモジュールを使用しました。
関数に渡す配列に格納されてるのは整数のみで、ランダムシャッフルされたものです。
素数1000のときは、Benchmarkで10000回試行
素数10000のときは、Benchmarkで1000回試行
素数100000のときは、Benchmarkで100回試行
Benchmarkの試行回数が異なるのは時間があまりかからない手元環境の限界回数です。
Benchmarkの試行回数に限っては、とにかく処理回数を多くしたほうが測定値の信頼性が出る?
という理由から統一はしていません。
ただ、異なる配列データではなく、同じ配列データに対して、試行を重ねてるだけになります。
測定値の信頼性を上げるという理由からなので、同じ配列データでも良い?でしょ、たぶんw
横軸は要素数に対して重複してる要素の割合です。0%だと完全にユニーク、100%だと全部同じになります。
縦軸はBenchmarkモジュールが出力した値になります。
測定した配列データの種類は重複率0%, 25%, 50%, 75%, 100% の5種類です。





まとめ?
mapコード, Array:Uniqコードは遅い。
ハッシュスライスのコードが安定して性能が良いようです。
素数がこれ以上増えると、恐らく List::MoreUtils::uniq が光ってくると思われます。
今回調べたのは実行速度だけなので、メモリ使用量も考慮して調べると違った結果になるかも?です。


追記:2011/7/18 9:56
こちらで、id:dankogaiさんから@_をコピーするコストについて、ご指摘を受けました。
あちらで公開されてるコードを手元で動かしてみたところ、以下のような結果になりました。

@a = ( 1 .. 100 ) x 100
Benchmark: running au, foreach, grep, lmu, map, slice for at least 3 CPU seconds...
        au:  3 wallclock secs ( 3.16 usr +  0.00 sys =  3.16 CPU) @ 126.58/s (n=400)
   foreach:  3 wallclock secs ( 3.18 usr +  0.00 sys =  3.18 CPU) @ 365.09/s (n=1161)
      grep:  4 wallclock secs ( 3.26 usr +  0.00 sys =  3.26 CPU) @ 299.08/s (n=975)
       lmu:  4 wallclock secs ( 3.21 usr +  0.00 sys =  3.21 CPU) @ 686.60/s (n=2204)
       map:  3 wallclock secs ( 3.14 usr +  0.00 sys =  3.14 CPU) @ 74.20/s (n=233)
     slice:  3 wallclock secs ( 3.18 usr +  0.00 sys =  3.18 CPU) @ 776.73/s (n=2470)
          Rate     map      au    grep foreach     lmu   slice
map     74.2/s      --    -41%    -75%    -80%    -89%    -90%
au       127/s     71%      --    -58%    -65%    -82%    -84%
grep     299/s    303%    136%      --    -18%    -56%    -61%
foreach  365/s    392%    188%     22%      --    -47%    -53%
lmu      687/s    825%    442%    130%     88%      --    -12%
slice    777/s    947%    514%    160%    113%     13%      --

測定環境
perl version 5.12.3
Benchmark version 1.11
List::MoreUtils version 0.32
Array::Uniq version 0.02
マシン Gateway GT5020j
スペックはこれに
メモリ DDR2 1024MB * 2 + DDR2 512MB = 2560MB の状態
Fedora14 , kernel 2.6.35.13-92.fc14.i686


ベンチマークの結果を見る限り、ハッシュスライスがList::MoreUtils::uniqを上回っています。
測定違いかと思い、何度か試してみたのですが結果は変わりませんでした。
環境の違い?なのかもしれませんが、現状では確かめられませんorz
以下のノートPCでも動かしてみましたがハッシュスライスが上回ってました。
(FC14,kernel同じ,version同じ)
ASUS U31F-RX480
CPU名:インテルR Core? i5-480M プロセッサー
動作周波数:2.66GHz (インテルR ターボ・ブースト・テクノロジー利用時は最大: 2.93GHz)
2次キャッシュメモリ:256KB×2
3次キャッシュメモリ:3MB
(公式から引用)


長い前置き?になりましたが、
今の自分の環境ではハッシュスライスのほうが良い結果を出すようです。
他の人の環境ではList::MoreUtils::uniqがより良い結果を出すこともあるかもしれません。
と、一言書き加えておきます。


@_コピーを止め、再度ベンチマークを取って視覚化してみました。
@_コピーを含めたデータも図に入っていますが、コピー有無の差を見たかったからです。
コピー有の測定データは前回と同じものを使用しています。
そのため、コピー無との測定時に使用した配列データとは異なっています。
その点に関しては多少の誤差が含まれると思いますが、考慮するほどのものではないでしょうw
縦軸、横軸は上記の図と同じです。





まとめ2?
コピーの有無の差は非常に大きい。
ハッシュスライスか、List::MoreUtils::uniqのどちらが良いのかまだわからない
ハッシュスライスとList::MoreUtils::uniqは、他の処理と比較して、
重複率が高くなるほど、スコアの変化率が高くなっている



使用したPerlコードと、Benchmarkモジュールの出力結果のテキストデータを以下に置いておきます。
追記:2011/7/18 9:56
@_コピー無のBenchmarkモジュールの出力結果を以下に追加しました。




使用したperlコード

use strict;
use warnings;
use Array::Uniq;
use List::MoreUtils;
use Benchmark;

sub unique_map{
    my @array = @_;
    my %hash = map{$_,1} @array;
    return keys %hash;
}
sub unique_slice{
    my @array = @_;
    my %hash;
    @hash{@array} = ();
    return keys %hash;
}
sub unique_each{
    my @array = @_;
    my %hash;
    $hash{$_} = 1 foreach(@array);
    return keys %hash;
}
sub unique_grep{
    my @array = @_;
    my %hash;
    return grep{!$hash{$_}++} @array;
}
sub unique_lmu{
    my @array = @_;
    return List::MoreUtils::uniq @array;
}
sub unique_au{
    my @array = @_;
    return uniq sort @array;
}

my @array;
#input
my @tmp;
while(<>){
    chomp;
    s/^\s*//;
    push(@tmp,$_);
}
@array = map{split(/\s+/,$_)} @tmp;


print $#array+1,$/;
#print"@array\n";

my @ret = &unique_lmu(@array);

print $#ret+1,$/;
#print"@ret\n";

#die;

my $count = 1000;
timethese($count,{
    'unique_map  ' => sub{ unique_map(@array) },
    'unique_slice' => sub{ unique_slice(@array) },
    'unique_each ' => sub{ unique_each(@array) },
    'unique_grep ' => sub{ unique_grep(@array) },
    'unique_lmu  ' => sub{ unique_lmu(@array) },
    'unique_au   ' => sub{ unique_au(@array) },
});

print $#array+1,$/;


Benchmarkモジュールの出力結果(@_コピー有)

1000のうち重複率0%の集合
unique_au   : 25 wallclock secs (24.00 usr +  0.02 sys = 24.02 CPU) @ 416.32/s (n=10000)
unique_each : 15 wallclock secs (15.00 usr +  0.01 sys = 15.01 CPU) @ 666.22/s (n=10000)
unique_grep : 16 wallclock secs (15.79 usr +  0.01 sys = 15.80 CPU) @ 632.91/s (n=10000)
unique_lmu  : 17 wallclock secs (16.36 usr +  0.00 sys = 16.36 CPU) @ 611.25/s (n=10000)
unique_map  : 26 wallclock secs (25.71 usr +  0.01 sys = 25.72 CPU) @ 388.80/s (n=10000)
unique_slice: 14 wallclock secs (13.43 usr +  0.00 sys = 13.43 CPU) @ 744.60/s (n=10000)

1000のうち重複率25%の集合
unique_au   : 24 wallclock secs (23.40 usr +  0.00 sys = 23.40 CPU) @ 427.35/s (n=10000)
unique_each : 14 wallclock secs (14.54 usr +  0.00 sys = 14.54 CPU) @ 687.76/s (n=10000)
unique_grep : 16 wallclock secs (15.30 usr +  0.00 sys = 15.30 CPU) @ 653.59/s (n=10000)
unique_lmu  : 14 wallclock secs (14.73 usr +  0.00 sys = 14.73 CPU) @ 678.89/s (n=10000)
unique_map  : 25 wallclock secs (25.47 usr +  0.00 sys = 25.47 CPU) @ 392.62/s (n=10000)
unique_slice: 13 wallclock secs (12.79 usr +  0.00 sys = 12.79 CPU) @ 781.86/s (n=10000)


1000のうち重複率50%の集合
unique_au   : 22 wallclock secs (21.27 usr +  0.03 sys = 21.30 CPU) @ 469.48/s (n=10000)
unique_each : 13 wallclock secs (13.44 usr +  0.01 sys = 13.45 CPU) @ 743.49/s (n=10000)
unique_grep : 15 wallclock secs (14.21 usr +  0.01 sys = 14.22 CPU) @ 703.23/s (n=10000)
unique_lmu  : 14 wallclock secs (13.25 usr +  0.00 sys = 13.25 CPU) @ 754.72/s (n=10000)
unique_map  : 25 wallclock secs (25.22 usr +  0.01 sys = 25.23 CPU) @ 396.35/s (n=10000)
unique_slice: 13 wallclock secs (12.27 usr +  0.00 sys = 12.27 CPU) @ 815.00/s (n=10000)

1000のうち重複率75%の集合
unique_au   : 21 wallclock secs (19.81 usr +  0.02 sys = 19.83 CPU) @ 504.29/s (n=10000)
unique_each : 12 wallclock secs (12.12 usr +  0.01 sys = 12.13 CPU) @ 824.40/s (n=10000)
unique_grep : 14 wallclock secs (13.30 usr +  0.01 sys = 13.31 CPU) @ 751.31/s (n=10000)
unique_lmu  : 12 wallclock secs (11.54 usr +  0.02 sys = 11.56 CPU) @ 865.05/s (n=10000)
unique_map  : 23 wallclock secs (22.96 usr +  0.03 sys = 22.99 CPU) @ 434.97/s (n=10000)
unique_slice: 11 wallclock secs (10.54 usr +  0.01 sys = 10.55 CPU) @ 947.87/s (n=10000)

1000のうち重複率100%の集合
unique_au   : 12 wallclock secs (11.59 usr +  0.01 sys = 11.60 CPU) @ 862.07/s (n=10000)
unique_each : 11 wallclock secs (10.44 usr +  0.00 sys = 10.44 CPU) @ 957.85/s (n=10000)
unique_grep : 11 wallclock secs (11.09 usr +  0.01 sys = 11.10 CPU) @ 900.90/s (n=10000)
unique_lmu  : 10 wallclock secs ( 9.11 usr +  0.01 sys =  9.12 CPU) @ 1096.49/s (n=10000)
unique_map  : 22 wallclock secs (21.52 usr +  0.01 sys = 21.53 CPU) @ 464.47/s (n=10000)
unique_slice:  9 wallclock secs ( 9.18 usr +  0.01 sys =  9.19 CPU) @ 1088.14/s (n=10000)

----------------------------
10000のうち重複率0%の集合
unique_au   : 28 wallclock secs (27.42 usr +  0.02 sys = 27.44 CPU) @ 36.44/s (n=1000)
unique_each : 17 wallclock secs (16.31 usr +  0.03 sys = 16.34 CPU) @ 61.20/s (n=1000)
unique_grep : 18 wallclock secs (17.12 usr +  0.01 sys = 17.13 CPU) @ 58.38/s (n=1000)
unique_lmu  : 17 wallclock secs (17.19 usr +  0.02 sys = 17.21 CPU) @ 58.11/s (n=1000)
unique_map  : 30 wallclock secs (28.77 usr +  0.03 sys = 28.80 CPU) @ 34.72/s (n=1000)
unique_slice: 15 wallclock secs (14.66 usr +  0.01 sys = 14.67 CPU) @ 68.17/s (n=1000)


10000のうち重複率25%の集合
unique_au   : 27 wallclock secs (26.16 usr +  0.03 sys = 26.19 CPU) @ 38.18/s (n=1000)
unique_each : 16 wallclock secs (16.12 usr +  0.01 sys = 16.13 CPU) @ 62.00/s (n=1000)
unique_grep : 18 wallclock secs (16.72 usr +  0.01 sys = 16.73 CPU) @ 59.77/s (n=1000)
unique_lmu  : 15 wallclock secs (15.22 usr +  0.05 sys = 15.27 CPU) @ 65.49/s (n=1000)
unique_map  : 31 wallclock secs (29.66 usr +  0.04 sys = 29.70 CPU) @ 33.67/s (n=1000)
unique_slice: 16 wallclock secs (15.20 usr +  0.01 sys = 15.21 CPU) @ 65.75/s (n=1000)


10000のうち重複率50%の集合
unique_au   : 25 wallclock secs (24.65 usr +  0.02 sys = 24.67 CPU) @ 40.54/s (n=1000)
unique_each : 15 wallclock secs (13.97 usr +  0.01 sys = 13.98 CPU) @ 71.53/s (n=1000)
unique_grep : 15 wallclock secs (15.01 usr +  0.02 sys = 15.03 CPU) @ 66.53/s (n=1000)
unique_lmu  : 14 wallclock secs (13.70 usr +  0.01 sys = 13.71 CPU) @ 72.94/s (n=1000)
unique_map  : 27 wallclock secs (25.82 usr +  0.03 sys = 25.85 CPU) @ 38.68/s (n=1000)
unique_slice: 13 wallclock secs (12.28 usr +  0.02 sys = 12.30 CPU) @ 81.30/s (n=1000)


10000のうち重複率75%の集合
unique_au   : 24 wallclock secs (23.06 usr +  0.02 sys = 23.08 CPU) @ 43.33/s (n=1000)
unique_each : 13 wallclock secs (12.51 usr +  0.01 sys = 12.52 CPU) @ 79.87/s (n=1000)
unique_grep : 13 wallclock secs (13.43 usr +  0.01 sys = 13.44 CPU) @ 74.40/s (n=1000)
unique_lmu  : 13 wallclock secs (11.88 usr +  0.01 sys = 11.89 CPU) @ 84.10/s (n=1000)
unique_map  : 25 wallclock secs (24.58 usr +  0.02 sys = 24.60 CPU) @ 40.65/s (n=1000)
unique_slice: 11 wallclock secs (11.19 usr +  0.00 sys = 11.19 CPU) @ 89.37/s (n=1000)

10000のうち重複率100%の集合
unique_au   : 11 wallclock secs (11.67 usr +  0.00 sys = 11.67 CPU) @ 85.69/s (n=1000)
unique_each : 11 wallclock secs (10.33 usr +  0.00 sys = 10.33 CPU) @ 96.81/s (n=1000)
unique_grep : 11 wallclock secs (11.04 usr +  0.01 sys = 11.05 CPU) @ 90.50/s (n=1000)
unique_lmu  :  9 wallclock secs ( 9.00 usr +  0.01 sys =  9.01 CPU) @ 110.99/s (n=1000)
unique_map  : 23 wallclock secs (22.06 usr +  0.01 sys = 22.07 CPU) @ 45.31/s (n=1000)
unique_slice:  9 wallclock secs ( 9.29 usr +  0.01 sys =  9.30 CPU) @ 107.53/s (n=1000)

----------------------------------------


100000のうち重複率0%の集合
unique_au   : 38 wallclock secs (38.14 usr +  0.00 sys = 38.14 CPU) @  2.62/s (n=100)
unique_each : 27 wallclock secs (26.27 usr +  0.01 sys = 26.28 CPU) @  3.81/s (n=100)
unique_grep : 27 wallclock secs (27.28 usr +  0.00 sys = 27.28 CPU) @  3.67/s (n=100)
unique_lmu  : 28 wallclock secs (27.58 usr +  0.07 sys = 27.65 CPU) @  3.62/s (n=100)
unique_map  : 46 wallclock secs (45.45 usr +  0.01 sys = 45.46 CPU) @  2.20/s (n=100)
unique_slice: 25 wallclock secs (25.20 usr +  0.00 sys = 25.20 CPU) @  3.97/s (n=100)

100000のうち重複率25%の集合
unique_au   : 36 wallclock secs (34.97 usr +  0.03 sys = 35.00 CPU) @  2.86/s (n=100)
unique_each : 24 wallclock secs (23.42 usr +  0.02 sys = 23.44 CPU) @  4.27/s (n=100)
unique_grep : 25 wallclock secs (24.25 usr +  0.01 sys = 24.26 CPU) @  4.12/s (n=100)
unique_lmu  : 24 wallclock secs (23.23 usr +  0.08 sys = 23.31 CPU) @  4.29/s (n=100)
unique_map  : 49 wallclock secs (47.93 usr +  0.06 sys = 47.99 CPU) @  2.08/s (n=100)
unique_slice: 27 wallclock secs (25.89 usr +  0.01 sys = 25.90 CPU) @  3.86/s (n=100)

100000のうち重複率50%の集合
unique_au   : 35 wallclock secs (33.95 usr +  0.02 sys = 33.97 CPU) @  2.94/s (n=100)
unique_each : 20 wallclock secs (19.53 usr +  0.01 sys = 19.54 CPU) @  5.12/s (n=100)
unique_grep : 20 wallclock secs (20.43 usr +  0.01 sys = 20.44 CPU) @  4.89/s (n=100)
unique_lmu  : 19 wallclock secs (18.06 usr +  0.00 sys = 18.06 CPU) @  5.54/s (n=100)
unique_map  : 36 wallclock secs (35.92 usr +  0.01 sys = 35.93 CPU) @  2.78/s (n=100)
unique_slice: 19 wallclock secs (18.54 usr +  0.00 sys = 18.54 CPU) @  5.39/s (n=100)

100000のうち重複率75%の集合
unique_au   : 33 wallclock secs (31.97 usr +  0.02 sys = 31.99 CPU) @  3.13/s (n=100)
unique_each : 15 wallclock secs (15.00 usr +  0.01 sys = 15.01 CPU) @  6.66/s (n=100)
unique_grep : 16 wallclock secs (15.90 usr +  0.01 sys = 15.91 CPU) @  6.29/s (n=100)
unique_lmu  : 14 wallclock secs (13.56 usr +  0.01 sys = 13.57 CPU) @  7.37/s (n=100)
unique_map  : 31 wallclock secs (29.27 usr +  0.03 sys = 29.30 CPU) @  3.41/s (n=100)
unique_slice: 14 wallclock secs (14.03 usr +  0.02 sys = 14.05 CPU) @  7.12/s (n=100)

100000のうち重複率100%の集合
unique_au   : 12 wallclock secs (12.47 usr +  0.01 sys = 12.48 CPU) @  8.01/s (n=100)
unique_each : 11 wallclock secs (10.76 usr +  0.00 sys = 10.76 CPU) @  9.29/s (n=100)
unique_grep : 12 wallclock secs (11.44 usr +  0.01 sys = 11.45 CPU) @  8.73/s (n=100)
unique_lmu  : 10 wallclock secs ( 9.34 usr +  0.01 sys =  9.35 CPU) @ 10.70/s (n=100)
unique_map  : 23 wallclock secs (22.69 usr +  0.02 sys = 22.71 CPU) @  4.40/s (n=100)
unique_slice: 10 wallclock secs ( 9.80 usr +  0.01 sys =  9.81 CPU) @ 10.19/s (n=100)

------------------------------


Benchmarkモジュールの出力結果(@_コピー無)

1000のうち重複率0%の集合
unique_au   : 16 wallclock secs (15.94 usr +  0.00 sys = 15.94 CPU) @ 627.35/s (n=10000)
unique_each :  7 wallclock secs ( 7.06 usr +  0.01 sys =  7.07 CPU) @ 1414.43/s (n=10000)
unique_grep :  8 wallclock secs ( 7.42 usr +  0.00 sys =  7.42 CPU) @ 1347.71/s (n=10000)
unique_lmu  :  7 wallclock secs ( 6.86 usr +  0.00 sys =  6.86 CPU) @ 1457.73/s (n=10000)
unique_map  : 17 wallclock secs (17.03 usr +  0.00 sys = 17.03 CPU) @ 587.20/s (n=10000)
unique_slice:  5 wallclock secs ( 4.94 usr +  0.00 sys =  4.94 CPU) @ 2024.29/s (n=10000)

1000のうち重複率25%の集合
unique_au   : 15 wallclock secs (14.52 usr +  0.00 sys = 14.52 CPU) @ 688.71/s (n=10000)
unique_each :  6 wallclock secs ( 6.06 usr +  0.00 sys =  6.06 CPU) @ 1650.17/s (n=10000)
unique_grep :  7 wallclock secs ( 7.03 usr +  0.00 sys =  7.03 CPU) @ 1422.48/s (n=10000)
unique_lmu  :  6 wallclock secs ( 5.87 usr +  0.00 sys =  5.87 CPU) @ 1703.58/s (n=10000)
unique_map  : 16 wallclock secs (16.64 usr +  0.00 sys = 16.64 CPU) @ 600.96/s (n=10000)
unique_slice:  4 wallclock secs ( 4.30 usr +  0.00 sys =  4.30 CPU) @ 2325.58/s (n=10000)

1000のうち重複率50%の集合
unique_au   : 13 wallclock secs (13.09 usr +  0.01 sys = 13.10 CPU) @ 763.36/s (n=10000)
unique_each :  5 wallclock secs ( 4.96 usr +  0.00 sys =  4.96 CPU) @ 2016.13/s (n=10000)
unique_grep :  6 wallclock secs ( 5.68 usr +  0.00 sys =  5.68 CPU) @ 1760.56/s (n=10000)
unique_lmu  :  5 wallclock secs ( 4.54 usr +  0.00 sys =  4.54 CPU) @ 2202.64/s (n=10000)
unique_map  : 16 wallclock secs (15.68 usr +  0.00 sys = 15.68 CPU) @ 637.76/s (n=10000)
unique_slice:  3 wallclock secs ( 3.22 usr +  0.00 sys =  3.22 CPU) @ 3105.59/s (n=10000)

1000のうち重複率75%の集合
unique_au   : 12 wallclock secs (11.25 usr +  0.00 sys = 11.25 CPU) @ 888.89/s (n=10000)
unique_each :  4 wallclock secs ( 4.00 usr +  0.00 sys =  4.00 CPU) @ 2500.00/s (n=10000)
unique_grep :  5 wallclock secs ( 4.76 usr +  0.00 sys =  4.76 CPU) @ 2100.84/s (n=10000)
unique_lmu  :  3 wallclock secs ( 3.26 usr +  0.00 sys =  3.26 CPU) @ 3067.48/s (n=10000)
unique_map  : 15 wallclock secs (14.82 usr +  0.00 sys = 14.82 CPU) @ 674.76/s (n=10000)
unique_slice:  2 wallclock secs ( 2.44 usr +  0.00 sys =  2.44 CPU) @ 4098.36/s (n=10000)

1000のうち重複率100%の集合
unique_au   :  4 wallclock secs ( 3.56 usr +  0.00 sys =  3.56 CPU) @ 2808.99/s (n=10000)
unique_each :  2 wallclock secs ( 2.68 usr +  0.00 sys =  2.68 CPU) @ 3731.34/s (n=10000)
unique_grep :  4 wallclock secs ( 3.79 usr +  0.00 sys =  3.79 CPU) @ 2638.52/s (n=10000)
unique_lmu  :  2 wallclock secs ( 1.37 usr +  0.00 sys =  1.37 CPU) @ 7299.27/s (n=10000)
unique_map  : 13 wallclock secs (13.60 usr +  0.00 sys = 13.60 CPU) @ 735.29/s (n=10000)
unique_slice:  2 wallclock secs ( 1.17 usr +  0.00 sys =  1.17 CPU) @ 8547.01/s (n=10000)


------------------------------------------------------------------------------------------
10000のうち重複率0%の集合
unique_au   : 20 wallclock secs (19.40 usr +  0.00 sys = 19.40 CPU) @ 51.55/s (n=1000)
unique_each :  7 wallclock secs ( 7.76 usr +  0.01 sys =  7.77 CPU) @ 128.70/s (n=1000)
unique_grep :  8 wallclock secs ( 7.86 usr +  0.00 sys =  7.86 CPU) @ 127.23/s (n=1000)
unique_lmu  :  8 wallclock secs ( 7.66 usr +  0.01 sys =  7.67 CPU) @ 130.38/s (n=1000)
unique_map  : 19 wallclock secs (19.10 usr +  0.01 sys = 19.11 CPU) @ 52.33/s (n=1000)
unique_slice:  6 wallclock secs ( 5.12 usr +  0.00 sys =  5.12 CPU) @ 195.31/s (n=1000)

10000のうち重複率25%の集合
unique_au   : 18 wallclock secs (17.40 usr +  0.01 sys = 17.41 CPU) @ 57.44/s (n=1000)
unique_each :  6 wallclock secs ( 6.36 usr +  0.00 sys =  6.36 CPU) @ 157.23/s (n=1000)
unique_grep :  7 wallclock secs ( 6.90 usr +  0.00 sys =  6.90 CPU) @ 144.93/s (n=1000)
unique_lmu  :  6 wallclock secs ( 6.11 usr +  0.00 sys =  6.11 CPU) @ 163.67/s (n=1000)
unique_map  : 19 wallclock secs (18.96 usr +  0.01 sys = 18.97 CPU) @ 52.71/s (n=1000)
unique_slice:  5 wallclock secs ( 4.67 usr +  0.00 sys =  4.67 CPU) @ 214.13/s (n=1000)

10000のうち重複率50%の集合
unique_au   : 16 wallclock secs (16.29 usr +  0.00 sys = 16.29 CPU) @ 61.39/s (n=1000)
unique_each :  6 wallclock secs ( 5.71 usr +  0.00 sys =  5.71 CPU) @ 175.13/s (n=1000)
unique_grep :  6 wallclock secs ( 5.95 usr +  0.00 sys =  5.95 CPU) @ 168.07/s (n=1000)
unique_lmu  :  5 wallclock secs ( 4.92 usr +  0.00 sys =  4.92 CPU) @ 203.25/s (n=1000)
unique_map  : 18 wallclock secs (17.19 usr +  0.00 sys = 17.19 CPU) @ 58.17/s (n=1000)
unique_slice:  3 wallclock secs ( 3.70 usr +  0.00 sys =  3.70 CPU) @ 270.27/s (n=1000)

10000のうち重複率75%の集合
unique_au   : 15 wallclock secs (14.66 usr +  0.00 sys = 14.66 CPU) @ 68.21/s (n=1000)
unique_each :  5 wallclock secs ( 4.41 usr +  0.00 sys =  4.41 CPU) @ 226.76/s (n=1000)
unique_grep :  5 wallclock secs ( 5.06 usr +  0.00 sys =  5.06 CPU) @ 197.63/s (n=1000)
unique_lmu  :  3 wallclock secs ( 3.26 usr +  0.00 sys =  3.26 CPU) @ 306.75/s (n=1000)
unique_map  : 16 wallclock secs (16.09 usr +  0.00 sys = 16.09 CPU) @ 62.15/s (n=1000)
unique_slice:  3 wallclock secs ( 2.54 usr +  0.00 sys =  2.54 CPU) @ 393.70/s (n=1000)

10000のうち重複率100%の集合
unique_au   :  3 wallclock secs ( 3.50 usr +  0.00 sys =  3.50 CPU) @ 285.71/s (n=1000)
unique_each :  3 wallclock secs ( 2.57 usr +  0.00 sys =  2.57 CPU) @ 389.11/s (n=1000)
unique_grep :  3 wallclock secs ( 3.52 usr +  0.00 sys =  3.52 CPU) @ 284.09/s (n=1000)
unique_lmu  :  2 wallclock secs ( 1.40 usr +  0.00 sys =  1.40 CPU) @ 714.29/s (n=1000)
unique_map  : 13 wallclock secs (13.25 usr +  0.01 sys = 13.26 CPU) @ 75.41/s (n=1000)
unique_slice:  1 wallclock secs ( 1.15 usr +  0.00 sys =  1.15 CPU) @ 869.57/s (n=1000)


-----------------------------------------------------------------------------------------
100000のうち重複率0%の集合
unique_au   : 27 wallclock secs (27.23 usr +  0.01 sys = 27.24 CPU) @  3.67/s (n=100)
unique_each : 15 wallclock secs (14.39 usr +  0.00 sys = 14.39 CPU) @  6.95/s (n=100)
unique_grep : 15 wallclock secs (14.50 usr +  0.00 sys = 14.50 CPU) @  6.90/s (n=100)
unique_lmu  : 14 wallclock secs (13.87 usr +  0.07 sys = 13.94 CPU) @  7.17/s (n=100)
unique_map  : 32 wallclock secs (31.74 usr +  0.01 sys = 31.75 CPU) @  3.15/s (n=100)
unique_slice: 12 wallclock secs (12.25 usr +  0.00 sys = 12.25 CPU) @  8.16/s (n=100)

100000のうち重複率25%の集合
unique_au   : 28 wallclock secs (27.62 usr +  0.00 sys = 27.62 CPU) @  3.62/s (n=100)
unique_each : 13 wallclock secs (13.01 usr +  0.00 sys = 13.01 CPU) @  7.69/s (n=100)
unique_grep : 12 wallclock secs (12.65 usr +  0.01 sys = 12.66 CPU) @  7.90/s (n=100)
unique_lmu  : 12 wallclock secs (11.22 usr +  0.10 sys = 11.32 CPU) @  8.83/s (n=100)
unique_map  : 34 wallclock secs (33.34 usr +  0.02 sys = 33.36 CPU) @  3.00/s (n=100)
unique_slice: 11 wallclock secs (11.17 usr +  0.00 sys = 11.17 CPU) @  8.95/s (n=100)

100000のうち重複率50%の集合
unique_au   : 24 wallclock secs (24.29 usr +  0.00 sys = 24.29 CPU) @  4.12/s (n=100)
unique_each :  9 wallclock secs ( 9.20 usr +  0.00 sys =  9.20 CPU) @ 10.87/s (n=100)
unique_grep : 11 wallclock secs (10.20 usr +  0.00 sys = 10.20 CPU) @  9.80/s (n=100)
unique_lmu  :  7 wallclock secs ( 7.26 usr +  0.00 sys =  7.26 CPU) @ 13.77/s (n=100)
unique_map  : 24 wallclock secs (24.25 usr +  0.01 sys = 24.26 CPU) @  4.12/s (n=100)
unique_slice:  7 wallclock secs ( 7.17 usr +  0.00 sys =  7.17 CPU) @ 13.95/s (n=100)

100000のうち重複率75%の集合
unique_au   : 23 wallclock secs (22.72 usr +  0.00 sys = 22.72 CPU) @  4.40/s (n=100)
unique_each :  6 wallclock secs ( 5.93 usr +  0.00 sys =  5.93 CPU) @ 16.86/s (n=100)
unique_grep :  7 wallclock secs ( 7.04 usr +  0.00 sys =  7.04 CPU) @ 14.20/s (n=100)
unique_lmu  :  5 wallclock secs ( 4.47 usr +  0.00 sys =  4.47 CPU) @ 22.37/s (n=100)
unique_map  : 20 wallclock secs (19.59 usr +  0.01 sys = 19.60 CPU) @  5.10/s (n=100)
unique_slice:  4 wallclock secs ( 4.11 usr +  0.00 sys =  4.11 CPU) @ 24.33/s (n=100)

100000のうち重複率100%の集合
unique_au   :  4 wallclock secs ( 3.69 usr +  0.00 sys =  3.69 CPU) @ 27.10/s (n=100)
unique_each :  3 wallclock secs ( 3.31 usr +  0.00 sys =  3.31 CPU) @ 30.21/s (n=100)
unique_grep :  3 wallclock secs ( 3.46 usr +  0.00 sys =  3.46 CPU) @ 28.90/s (n=100)
unique_lmu  :  2 wallclock secs ( 1.38 usr +  0.00 sys =  1.38 CPU) @ 72.46/s (n=100)
unique_map  : 13 wallclock secs (13.35 usr +  0.01 sys = 13.36 CPU) @  7.49/s (n=100)
unique_slice:  2 wallclock secs ( 1.25 usr +  0.00 sys =  1.25 CPU) @ 80.00/s (n=100)