ツール・ライブラリ

fasterfly

franciscocarloserra

MaleCNS のコネクトーム全体(16.5 万ニューロン・2,450 万シナプス)を進める、イベント駆動の Triton カーネル。RTX 3090 一枚で 3,455 Hz。膜の時間刻みが 1ms なので、ハエの 1 秒を実時間 0.29 秒で回す計算になり、実時間の約 3.5 倍速にあたる。torch.sparse の COO は毎秒 708 ステップなので 4.9 倍。16 匹・64 匹とバッチにすると 1 匹あたりの遅延と引き換えにスループットが伸び、毎秒 51,159 fly-step に達する。同じ入力なら torch.sparse の参照実装と同じスパイクが出ることを README が明記している。

公式サイト ↗

fasterfly

#triton#gpu-kernel#performance#malecns#benchmark

確認した出典

上の情報は掲載日にこれらのページを読んで確認したものです。

  • github.com https://github.com/franciscocarloserra/fasterfly