Telegram Channel

Запустить ИИ-агента к себе на машину, дать ему безграничные полномочия и надеяться на чудо — опасная беспечность. Разбираю конкретные варианты защиты прямо сейчас.

Вы явно просите что-то делать или не делать, а он игнорирует. Потому что это природа инференса — генерации следующего токена на основании вероятностного распределения.

Если вы встречались с современными LLM-моделями, то точно видели аббревиатуру MoE. Что это и с чем это едят? Объясняю популярно: не все параметры «думают» одновременно.

Мы живём в удивительное время, когда сгенерировать тонну идеально выглядящего и совершенно бесполезного текста стало очень легко. Для него даже термин специальный придумали — workslop.