Кэширование откликов нейросети

Ещё у нас в коде есть фича - кэширование откликов нейросети. То есть от каждой входной картинки считается быстрый хэш, по этому хэшу происходит поиск в локальном LMDB хранилище. Если в хранилище по данному ключу что-то есть, то это берётся в качестве выводов нейросети, если нет - нейросеть честно просчитывается на GPU. В итоге повторные запуска по одним и тем же картинкам происходят гораздо быстрее.

На изображении показан текст о программной функции: кэшировании ответов нейросети по быстрому хэшу входной картинки в локальном хранилище LMDB. Если результат уже сохранён, его берут из кэша, а при отсутствии нейросеть запускают на GPU, поэтому повторная обработка тех же изображений ускоряется. Это шутливо подаётся как простая, но неожиданно полезная инженерная идея. EN: The image shows text about a software feature: caching neural-network responses by a fast hash of the input image in a local LMDB database. If the result is already stored, it is retrieved from the cache; otherwise, the neural network runs on the GPU, making repeated processing of the same images much faster. The idea is presented humorously as simple but unexpectedly useful engineering.

• @ithueti / 886 2019-04-24