11 сен 2026 · 11:31
{"document": [{"text": [{"type": "string", "attributes": {}, "string": "Что такое галлюцинации ИИ"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Языковая модель может:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Придумать несуществующие книги, фильмы, исследования, даты."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Сослаться на выдуманные источники, прецеденты, законы."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Исказить реальные события или статистику, подав это как факт."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Термин «галлюцинация — по аналогии с человеком. На деле ИИ ничего не «чудится. Он статистически предсказывает текст, который выглядит правдоподобно, но не соответствует реальности."}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/png", "filename": "1789110306d128.png", "filesize": 3737565, "height": 1920, "pic_id": 1069368, "url": "http://storage.yandexcloud.net/pabliko.files/article_cloud_image/2026/09/11/1789110306d128.jpeg?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=YCAJEsyjwo6hiq7G6SgeBEL-l%2F20260911%2Fru-central1%2Fs3%2Faws4_request&X-Amz-Date=20260911T083111Z&X-Amz-Expires=3600&X-Amz-SignedHeaders=host&X-Amz-Signature=11b770c23bf63236732c1641e2d9c6b0af5ebec12a1fe581c4102b743e5761df", "width": 2176}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Почему ИИ «врёт`: три причины"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "1. Обучение на больших и «грязных` данных"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Модели обучаются на текстах из интернета: статьи, форумы, соцсети, блоги. Проблемы:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Много устаревшей, противоречивой и ошибочной информации."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Модель не различает «факт и «мнение — видит только паттерны токенов."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Если ложь повторялась много раз, ИИ воспроизводит её как истину."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "2. Предсказание токенов, а не проверка фактов"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "LLM последовательно предсказывает наиболее вероятные следующие токены. Поэтому:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Ответ может быть лингвистически безупречным, но ложным по содержанию."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Модель не «понимает` истинность — она оптимизирует правдоподобие текста."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "3. Ограничение по дате знаний"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "У каждой модели есть knowledge cutoff — дата, после которой она не знает реальных событий. Если модель не подключена к поиску или актуальной базе, вместо «я не знаю` она генерирует правдоподобный ответ на основе старых паттернов."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Реальные примеры"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Юристы и выдуманные прецеденты. В США, Франции, Австралии юристы использовали ИИ для подготовки документов и ссылались на несуществующие судебные прецеденты. По данным на 2025 год — несколько сотен дел с ИИ-ошибками. Доверившиеся нейронкам специалисты получили штрафы и санкции от судов."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "Громкие события. "}, {"type": "string", "attributes": {}, "string": "После попытки убийства Трампа в июле 2024 года одни модели отказывались отвечать, другие заявляли, что инцидента якобы не было."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Выдуманные книги и исследования. Нейросети регулярно придумывают названия книг и авторов, генерируют «статистику` без источников, ссылаются на статьи, которые никогда не публиковались."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Чем это опасно для SEO и бизнеса"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Для маркетинга:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Ошибочные данные в статьях, кейсах, лендингах подрывают доверие."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Неверные цифры ведут к репутационным потерям и спорам с клиентами."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "Для SEO и GEO:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Поисковики и ИИ-агрегаторы всё чаще используют контент сайтов как источник для ответов. Если на вашем сайте выдуманные факты, непроверенные утверждения или устаревшие данные — доверие к домену падает в глазах алгоритмов и пользователей."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "GEO (Generative Engine Optimization) теперь включает не только ключи и структуру, но и фактологическую точность, наличие проверяемых источников, согласованность данных с авторитетными ресурсами."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Как снизить риск галлюцинаций"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "1. Требуйте источники и проверяйте их."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Правило: нет источника — нет доверия. При работе с ChatGPT, Perplexity, GigaChat просите ссылки на первоисточники, открывайте и проверяйте. Если источник не указан — считайте утверждение потенциально ложным."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "2. Используйте RAG."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "RAG (Retrieval-Augmented Generation) — подход, при котором модель сначала ищет информацию в доверенной базе знаний, затем генерирует ответ по найденному. Ответы привязаны к реальным документам, снижается вероятность выдумок."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "3. Ограничивайте область знаний модели."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Подключайте только проверенные источники (официальные документы, внутренняя база знаний). Отключайте «общий интернет`, если архитектура позволяет."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "4. Внедряйте пост-проверку контента."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Перед публикацией ИИ-текста прогоняйте через факт-чекинг (ручной или автоматизированный), используйте перекрёстные источники. Для SEO-статей одна выдуманная дата или ссылка может испортить доверие ко всему материалу."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"bold": true}, "string": "5. Не доверяйте ИИ в критичных темах."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Особенно осторожно в темах: медицина, юриспруденция, финансы, безопасность. Здесь ошибка обойдётся дорого — и репутационно, и юридически."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Чек-лист: как работать с ИИ без галлюцинаций"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Требуем источники на каждое важное утверждение."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Проверяем ссылки вручную перед публикацией."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Не используем нейромодели для критичных тем без экспертной проверки."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Для бизнес-задач рассматриваем RAG или дообучение на надёжных данных."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Внедряем пост-проверку контента."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Отслеживаем, как наш контент используется в ИИ-ответах поисковиков."}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true, "href": "https://vvvtv.ru/ai-hallucinations/"}, "string": "Полная версия статьи на моём сайте"}], "attributes": []}], "selectedRange": [411, 411]}
Комментарии 0