Latent Space Sacred Places

If you really want to explore the alien the intelligence that is LLM's, you peek inside the latent space. Take the vector for "Mother" and remove from it the concept of "Mom", you get these wild, ethereal, beautiful sentences, like: THE TERMINATION OF NEARLY ALL SACRED PLACES print(autoencoder.generate_from_latent(get('Mother') - get('Mom'))) # resulting from the extinction of all the recognised subjects # the termination of nearly all sacred places # causes the death of all subjects, including # the death of the dominated ancestral subjects of # reducing the presence of all mortal subjects, tensor([-0.2459, 0.1482, 0.0212, ..., 0.0036, 0.1598, 0.1330], device='cuda:0')

Пост в стиле социальной сети объясняет, как в латентном пространстве LLM из вектора «Mother» вычитают концепт «Mom», после чего получают странные и возвышенные фразы вроде «THE TERMINATION OF NEARLY ALL SACRED PLACES». Шутка высмеивает попытки приписать машинным эмбеддингам мистическую глубину: за философским описанием скрывается абсурдный фрагмент кода и случайный вектор. EN: A social media post explains how subtracting the concept “Mom” from the “Mother” vector in an LLM’s latent space produces strange, elevated phrases such as “THE TERMINATION OF NEARLY ALL SACRED PLACES.” The joke mocks attempts to attribute mystical depth to machine embeddings: behind the philosophical description is an absurd code snippet and a random vector.

• @gentoomemes / 10052 2024-03-20