Skip to content

Latest commit

 

History

History
321 lines (239 loc) · 11.1 KB

README_RU.md

File metadata and controls

321 lines (239 loc) · 11.1 KB
Raw

Hora

[Homepage] [Document] [Examples]

Hora Search Everywhere!

Hora - это приблизительный алгоритм поиска ближайшего соседа (wiki) библиотека. Мы реализуем весь код на Rust🦀 для надежности, высокого уровня абстракции и высокой скорости, сравнимой с C++.

Hora, 「ほら」 на японском языке, звучит как [hōlə] и означает Вау,Ты видишь!ИлиПосмотри на это!. Название навеяно известной японской песней 「小さな恋のうた」.

Демо

👩 Face-Match [online demo], попробуй!

🍷 Dream wine comments search [online demo], попробуй!

ключевая особенность

  • Исполнитель ⚡️

    • SIMD-Accelerated (packed_simd)
    • Быстрая реализация алгоритма
    • Многопоточная конструкция

  • Поддерживает несколько языков программирования ☄️

    • Python
    • Javascript
    • Java
    • Go (WIP)
    • Ruby (WIP)
    • Swift (WIP)
    • R (WIP)
    • Julia (WIP)
    • Также может использоваться как услуга

  • Поддерживает несколько индексов 🚀

    • Hierarchical Navigable Small World Graph Index (HNSWIndex) (details)
    • Satellite System Graph (SSGIndex) (details)
    • Product Quantization Inverted File(PQIVFIndex) (details)
    • Random Projection Tree(RPTIndex) (LSH, WIP)
    • BruteForce (BruteForceIndex) (naive implementation with SIMD)

  • Портативный 💼

    • Supports WebAssembly
    • Supports Windows, Linux and OS X
    • Supports IOS and Android (WIP)
    • Supports no_std (WIP, partial)
    • Никаких тяжелых зависимостей, таких как BLAS

  • Надежность 🔒

    • Компилятор Rust защищает весь код
    • Память, управляемая Rust для всех языковых библиотек, таких как Python
    • Broad testing coverage

  • Широкий охват тестирования 🧮

    • Расстояние точечного продукта
      • equation
    • Евклидово расстояние
      • equation
    • Манхэттен Расстояние
      • equation
    • Косинусное подобие
      • equation

  • Продуктивный ⭐

    • Хорошо задокументированы
    • Элегантный, простой и легкий в освоении API

Монтаж

Rust

in Cargo.toml

[dependencies]
hora = "0.1.1"

Python

$ pip install horapy

Javascript (WebAssembly)

$ npm i horajs

Building from source

$ git clone https://github.com/hora-search/hora
$ cargo build

Контрольный показатель

by aws t2.medium (CPU: Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz) more information

Примеры

Rust Примеры [more info]

use hora::core::ann_index::ANNIndex;
use rand::{thread_rng, Rng};
use rand_distr::{Distribution, Normal};

pub fn demo() {
    let n = 1000;
    let dimension = 64;

    // make sample points
    let mut samples = Vec::with_capacity(n);
    let normal = Normal::new(0.0, 10.0).unwrap();
    for _i in 0..n {
        let mut sample = Vec::with_capacity(dimension);
        for _j in 0..dimension {
            sample.push(normal.sample(&mut rand::thread_rng()));
        }
        samples.push(sample);
    }

    // init index
    let mut index = hora::index::hnsw_idx::HNSWIndex::<f32, usize>::new(
        dimension,
        &hora::index::hnsw_params::HNSWParams::<f32>::default(),
    );
    for (i, sample) in samples.iter().enumerate().take(n) {
        // add point
        index.add(sample, i).unwrap();
    }
    index.build(hora::core::metrics::Metric::Euclidean).unwrap();

    let mut rng = thread_rng();
    let target: usize = rng.gen_range(0..n);
    // 523 has neighbors: [523, 762, 364, 268, 561, 231, 380, 817, 331, 246]
    println!(
        "{:?} has neighbors: {:?}",
        target,
        index.search(&samples[target], 10) // search for k nearest neighbors
    );
}

Python Примеры [more info]

import numpy as np
from horapy import HNSWIndex

dimension = 50
n = 1000

# init index instance
index = HNSWIndex(dimension, "usize")

samples = np.float32(np.random.rand(n, dimension))
for i in range(0, len(samples)):
    # add node
    index.add(np.float32(samples[i]), i)

index.build("euclidean")  # build index

target = np.random.randint(0, n)
# 410 in Hora ANNIndex <HNSWIndexUsize> (dimension: 50, dtype: usize, max_item: 1000000, n_neigh: 32, n_neigh0: 64, ef_build: 20, ef_search: 500, has_deletion: False)
# has neighbors: [410, 736, 65, 36, 631, 83, 111, 254, 990, 161]
print("{} in {} \nhas neighbors: {}".format(
    target, index, index.search(samples[target], 10)))  # search

JavaScript Примеры [more info]

import * as horajs from "horajs";

const demo = () => {
    const dimension = 50;
    var bf_idx = horajs.BruteForceIndexUsize.new(dimension);
    // var hnsw_idx = horajs.HNSWIndexUsize.new(dimension, 1000000, 32, 64, 20, 500, 16, false);
    for (var i = 0; i < 1000; i++) {
        var feature = [];
        for (var j = 0; j < dimension; j++) {
            feature.push(Math.random());
        }
        bf_idx.add(feature, i); // add point
    }
    bf_idx.build("euclidean"); // build index
    var feature = [];
    for (var j = 0; j < dimension; j++) {
        feature.push(Math.random());
    }
    console.log("bf result", bf_idx.search(feature, 10)); //bf result Uint32Array(10) [704, 113, 358, 835, 408, 379, 117, 414, 808, 826]
}

(async () => {
    await horajs.default();
    await horajs.init_env();
    demo();
})();

Java Примеры [more info]

public void demo() {
    final int dimension = 2;
    final float variance = 2.0f;
    Random fRandom = new Random();

    BruteForceIndex bruteforce_idx = new BruteForceIndex(dimension); // init index instance

    List<float[]> tmp = new ArrayList<>();
    for (int i = 0; i < 5; i++) {
        for (int p = 0; p < 10; p++) {
            float[] features = new float[dimension];
            for (int j = 0; j < dimension; j++) {
                features[j] = getGaussian(fRandom, (float) (i * 10), variance);
            }
            bruteforce_idx.add("bf", features, i * 10 + p); // add point
            tmp.add(features);
          }
    }
    bruteforce_idx.build("bf", "euclidean"); // build index

    int search_index = fRandom.nextInt(tmp.size());
    // nearest neighbor search
    int[] result = bruteforce_idx.search("bf", 10, tmp.get(search_index));
    // [main] INFO com.hora.app.ANNIndexTest  - demo bruteforce_idx[7, 8, 0, 5, 3, 9, 1, 6, 4, 2]
    log.info("demo bruteforce_idx" + Arrays.toString(result));
}

private static float getGaussian(Random fRandom, float aMean, float variance) {
    float r = (float) fRandom.nextGaussian();
    return aMean + r * variance;
}

Дорожная карта

  • Полное тестовое покрытие
  • Внедрить алгоритм EFANNA для более быстрого построения графа KNN.
  • ПоддержкаSwift и пример развертывания iOS / macOS
  • Поддержка R
  • поддержка mmap

Связанные проекты и сравнение

  • Faiss, Annoy, ScaNN:

    • Реализация Hora сильно вдохновлена этими библиотеками.
    • Faiss больше ориентирован на сценарий GPU, а Hora легче, чем Faiss.
    • Hora рассчитывает поддерживать больше языков, и все, что связано с производительностью, будет реализовано Rust🦀.
    • Annoy поддерживает только алгоритм LSH (Random Projection).
    • ScaNN и Faiss менее удобны для пользователя (например, отсутствие документации).
    • Hora is ALL IN RUST 🦀.

  • Milvus, Vald, Jina AI

    • Milvus и Vald также поддерживают несколько языков, но служат в качестве службы, а не библиотеки.
    • Milvus построен на некоторых библиотеках, таких как Faiss, а Hora - это библиотека со всеми реализованными алгоритмами.

Способствовать

We appreciate your help!

Мы рады, что вы участвуете, приветствуются любые взносы, включая документацию и тесты. Вы можете создать Pull Request или Issue на GitHub, и мы рассмотрим его как можно скорее.

Мы используем проблемы GitHub для отслеживания предложений и ошибок.

Clone the repo

git clone https://github.com/hora-search/hora

Build

cargo build

Test

cargo test --lib

Try the changes

cd examples
cargo run

License

The entire repository is licensed under the Apache License.