Атаки на вайб-кодинг

Начались атаки на вайб-кодинг. LLM иногда галлюцинируют устанавливая несуществующий пакет. В итоге, злоумышленники стали публиковать вредоносные пакеты под этими именами, которые часто появляются в галлюцинациях. GPT 3.5 GPT 4 Turbo CodeLlama DeepSeek Percentage of Prompts Number of Times Hallucinated Package was Regenerated out of 10 trials 0% 10% 20% 30% 40% 0 1 2 3 4 5 6 7 8 9 10

Пост рассказывает о том, что LLM при вайб-кодинге иногда галлюцинируют названия несуществующих пакетов. Злоумышленники могут создавать вредоносные пакеты с такими названиями, рассчитывая, что разработчики установят их после подсказки модели. График сравнивает, как часто разные модели галлюцинируют названия пакетов, поэтому мем предупреждает об опасности слепого доверия к ИИ-коду. EN: The post explains that LLMs sometimes hallucinate the names of nonexistent packages during vibe coding. Attackers can create malicious packages with those names, hoping developers will install them after receiving a suggestion from the model. The chart compares how often different models hallucinate package names, warning against blindly trusting AI-generated code.

• @ithueti / 15755 2025-04-13