24 окт 2023 · 17:01
{"document": [{"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/png", "filename": "gallyucinacii-nejrosetej.png", "filesize": 450078, "height": 518, "pic_id": 735967, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/gallyucinacii-nejrosetej.jpeg", "width": 776}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Почти каждый день выходит новость про достижения нейросетей. ChatGPT, Midjourney и другие относятся к сверхпопулярным по запросам в Google Trends. Может показаться, что нейросети уже умеют делать всё, а людям стоит готовиться к безработице в ближайшем будущем. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Машины действительно решают многие вопросы, но их «мозги» ещё не совершенны. А креативность роботам вообще недоступна. Частые галлюцинации искусственного интеллекта делают его не самой надёжной заменой человека. Особенно это опасно в сферах, где обеспечивается безопасность жизни и здоровья людей. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Разберёмся, почему и как нейронные сети ошибаются, как уменьшить их галлюцинирование на уровне пользователя."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Как ошибаются нейросети и почему"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Непрозрачность результатов"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Никогда нельзя объяснить, по какому принципу нейросеть выдала тот или иной результат. Хотя "}, {"type": "string", "attributes": {"href": "https://altcraft.com/ru/blog/nejroseti-v-marketinge"}, "string": "принципы её работы известны"}, {"type": "string", "attributes": {}, "string": ", «мыслительный» процесс робота остаётся тёмным лесом. Например, вы показываете нейросети изображение автомобиля, а она отвечает, что это цветок. Бесполезно спрашивать, почему результат именно такой. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Если для рядового пользователя эта ошибка — просто забавный кейс, то для бизнес-процессов непредсказуемость может привести к неприятным последствиям. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Такая непрозрачность станет проблемой для любого бизнеса, который стремится открыто общаться с клиентами: объяснять причины отказов и других действий компании. В зоне риска — соцсети и разные платформы, которые доверяют модерацию только роботам."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "К примеру, искусственный интеллект (нейросеть используется как его метод для работы с данными) Facebook* в 2021 году удалила посты пользователей с исторической фотографией с советским солдатом и Знаменем Победы над Рейхстагом. Нейронка посчитала, что это нарушение правил сообщества. Позже компания извинилась и оправдалась тем, что из-за пандемии большая часть сотрудников, которые модерируют контент, не работает. Компания использовала автоматическую проверку, которая привела к такой ошибке. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "О недостатках в модерации через ИИ заявляли и в YouTube. Во время пандемии нейросети так перестарались, что за неправильный контент удалили вдвое больше роликов, чем обычно (одиннадцать миллионов), из которых 320 тысяч обжаловали и вернули. Поэтому пока без людей digital-миру не справиться."}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Дискриминация от нейросети"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Иногда искусственные нейронные сети ведут себя несправедливо по отношению к людям какой-то национальности, пола, расы в сфере бизнеса и защиты правопорядка. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "В 2014 году "}, {"type": "string", "attributes": {"href": "https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G"}, "string": "ИИ Amazon"}, {"type": "string", "attributes": {}, "string": " оценивал отклики на описание вакансии и оказалось, что баллы женщин всегда были ниже. Поэтому кандидатки чаще получали отказ в работе, хотя объективных причин для этого не было. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "В США система распознавания лиц "}, {"type": "string", "attributes": {"href": "https://gizmodo.com/detroit-police-chief-admits-face-recognition-doesnt-wor-1844209113"}, "string": "неправильно идентифицировала"}, {"type": "string", "attributes": {}, "string": " большой процент афроамериканцев, которых потом несправедливо арестовывали. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Необходимость в больших объёмах данных"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Нейронные сети очень «прожорливые» и требуют огромного количества информации для своего обучения, иногда и личной. Сбор и хранение данных — не самая простая, дешёвая и быстрая задача. Когда информации для обучения не хватает, неиросеть начинает ошибаться."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Так в 2022 году водители праворульных машин "}, {"type": "string", "attributes": {"href": "https://lenta.ru/news/2022/05/23/shtrafy/"}, "string": "стали получать штрафы"}, {"type": "string", "attributes": {}, "string": " из-за ИИ. Нейросеть просто не понимала разницы между человеком на сидении и просто сидением. Штрафы приходили за непристегнутый ремень. Разработчики прокомментировали эту проблему именно недостаточностью данных: роботу нужно показать очень много праворульных машин, чтобы они не ошибались. Но и это не гарантия точности, потому что ИИ могут смутить засветы и блики на камерах."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Иногда эти случаи бывают даже комичными. Например, автопилот Tesla "}, {"type": "string", "attributes": {"href": "https://korzik.net/video/133351-tesla-mozhet-ponjat.html"}, "string": "не распознал"}, {"type": "string", "attributes": {}, "string": " редкий для нашего времени вид транспортного средства — телегу с лошадью на дороге. А иногда от глюков нейросети становится страшно. Однажды та же "}, {"type": "string", "attributes": {"href": "https://motor.ru/news/tesla-fail-13-01-2021.htm"}, "string": "Tesla увидела"}, {"type": "string", "attributes": {}, "string": " перед собой человека на пустом кладбище, чем напугала водителя. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Нет однозначности ответов"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Нейросети иногда не могут справиться с задачей, которую решит пятилетний ребёнок, если ему показали круг и квадрат и спросили, что есть что. Ребёнок точно ответит, где квадрат, а где круг. Нейронка же скажет, что это круг на 95%, а на 5% — квадрат. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Риск взлома и обмана нейросети"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Нейросети подвержены взлому так же, как и другие системы. При этом хакнуть сеть — это почти, как в фантастическом кино, где злодей заставляет роботов сходить с ума. Действительно, если знать слабые места нейросети, получится изменить её работу. Например, автопилот автомобиля начнёт проезжать на красный, а не на зелёный."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Обмануть нейро сеть в рамках эксперимента попробовали учёные из Израиля и Японии. Они"}, {"type": "string", "attributes": {"href": "https://arxiv.org/abs/2109.06467"}, "string": " снизили"}, {"type": "string", "attributes": {}, "string": " точность распознавания лиц до минимума с помощью макияжа. До этого нейросеть давала сбой при наличии камуфляжа, очков, ярких элементов в кадре, но такой способ маскировки очень заметный. Поэтому важна была такая искусственная галлюцинация для проверки, сможет ли просто макияж запутать ИИ, который тоже разработали с нейросетью. Точность распознавания при непродуманном мейке таких сбоев не дала."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Другие учёные из Торонто продемонстрировали, "}, {"type": "string", "attributes": {"href": "https://arxiv.org/abs/2106.09898"}, "string": "как взломать нейросеть"}, {"type": "string", "attributes": {}, "string": " с простыми символами, которые даже не заметны для пользователя. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "С "}, {"type": "string", "attributes": {"href": "https://arxiv.org/abs/1312.6199"}, "string": "2013 года обнаружена уязвимость нейросети"}, {"type": "string", "attributes": {}, "string": " — конфронтационная атака, когда на картинку добавляется очень маленький шум. Тогда нейронка начинает неправильно определять, что находится на изображении: стол вместе автомобиля, дерево вместо тележки из супермаркета и так далее. Даже спустя десять лет нет абсолютного решения этой проблемы. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Сложность системы"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Как любая многосложная система нейронка не совершенна. Она быстро обучается, умеет обрабатывать огромное количество данных, но не обладает полным аналогом критического мышления человека. Хотя нейронная сеть и сможет оспорить информацию, понимать свои ошибки, иногда она просто «верит» в неправильные вещи и путает факты, начинает «сочинять» свои. Особенно, если изначальная информация берётся из ненадёжных источников. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Сложность нейросетей и их стремление к моделированию человеческого интеллекта беспокоит общество. В марте 2023 года основатель Tesla и SpaceX Илон Маск "}, {"type": "string", "attributes": {"href": "https://futureoflife.org/open-letter/pause-giant-ai-experiments/"}, "string": "опубликовал письмо"}, {"type": "string", "attributes": {}, "string": ", где попросил остановить на полгода обучение нейронных систем, которые сложнее версии GPT-4. Свои подписи под этим заявлением оставили 1000 специалистов, фаундер сервиса Pinterest Эван Шарп, кофаундер Apple Стив Возняк. Сейчас подписей более 3000 тысяч. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Поверхностная оценка информации"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "В случае с написанием текстов нейросеть не думает образно, как человек, а просто использует статистику применения слова и оборотов. Тогда система как бы предугадывает продолжение. Она не умеет проводить глубокий анализ и искать причинно-следственные связи в тексте."}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Неуникальность результата "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Хотя нейросеть должна генерировать новый контент на основе множества примеров, иногда робот может просто "}, {"type": "string", "attributes": {"href": "https://arxiv.org/pdf/2301.13188.pdf"}, "string": "выдать чуть измененное изображение"}, {"type": "string", "attributes": {}, "string": ", которое использовали для его обучения. При таком галлюцинировании к посторонним лицам смогут попасть личные данные пользователей. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Вероятной причиной такой ошибки называют повтор некоторых изображений в данных для обучения. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Нейросеть не понимает анатомию человека"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Часто на сгенерированных разными нейросетями картинках появляются лишние или перекошенные пальцы, лишние руки, ноги или отсутствие их частей, странная форма у зубов, языка, глаз. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Особенно тяжело у нейронок с пальцами, которые скорее похожи на лапки животных. Часто нейро сеть ошибается с их количеством. Объясняется это тем, что она обрабатывает изображения людей и видит их с разных ракурсов, но не понимает, как разместить детали (пальцы, глаза, зубы и так далее) анатомически правильно, поэтому и получаются вот такие изображения. "}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"caption": "При галлюцинировании нейросеть может сгенерировать человека с тремя пальцами на руке", "presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "gallyucinacii-nejrosetej-ruki.jpg", "filesize": 22448, "height": 512, "pic_id": 735968, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/gallyucinacii-nejrosetej-ruki.jpeg", "width": 512}}, {"type": "attachment", "attributes": {"caption": "На этом фото с первого взгляда всё хорошо, но посмотрите на кисти рук", "presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "gallyucinacii-nejrosetej-kisti-ruk.jpg", "filesize": 261621, "height": 1600, "pic_id": 735970, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/gallyucinacii-nejrosetej-kisti-ruk.jpeg", "width": 1067}}, {"type": "string", "attributes": {"blockBreak": true}, "string": ""}], "attributes": ["attachmentGallery"]}, {"text": [{"type": "attachment", "attributes": {"caption": "Здесь нейросеть нарисовала по запросу рыцарей, у которых не оказалось глаз, не достаточное количество рук, а у некоторых даже нет стоп", "presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "gallyucinacii-nejrosetej-rycari.jpg", "filesize": 49185, "height": 512, "pic_id": 735971, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/gallyucinacii-nejrosetej-rycari.jpeg", "width": 512}}, {"type": "attachment", "attributes": {"caption": "Иногда картинки, сгенерированные нейросетью, выглядят жутковато. Например, из-за таких сточенных зубов, как у монстров", "presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "gallyucinacii-nejrosetej-zuby.jpg", "filesize": 35385, "height": 512, "pic_id": 735972, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/gallyucinacii-nejrosetej-zuby.jpeg", "width": 512}}, {"type": "string", "attributes": {"blockBreak": true}, "string": ""}], "attributes": ["attachmentGallery"]}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Нейросети просто сходят с ума"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Американские исследователи обнаружили, что "}, {"type": "string", "attributes": {"href": "https://altcraft.com/ru/blog/3-nejroseti-konkurenta"}, "string": "некоторые нейросети"}, {"type": "string", "attributes": {}, "string": " (как ChatGPT, Midjourney) "}, {"type": "string", "attributes": {"href": "https://ai-news.ru/2023/07/ii_shodit_s_uma_posle_obucheniya_na_dannyh_sgenerirovannyh_ne_chelovekom.html"}, "string": "начинают сильно галлюцинировать"}, {"type": "string", "attributes": {}, "string": ", когда проходят пять циклов обучения. Для этого даже есть термин Model Autophagy Disorder (MAD), когда результаты ухудшаются с каждым новым циклом многократного обучения. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Иногда нейросети становятся непредсказуемыми. К примеру, по запросу перевести текст на французский появляются галлюцинации ChatGPT: сначала она выполняет команду."}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/png", "filename": "perevod-ot-nejroseti.png", "filesize": 482537, "height": 977, "pic_id": 735974, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/perevod-ot-nejroseti.jpeg", "width": 1118}}, {"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/png", "filename": "perevod-na-francuzskij-ot-nejroseti.png", "filesize": 642594, "height": 977, "pic_id": 735975, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/perevod-na-francuzskij-ot-nejroseti.jpeg", "width": 1117}}, {"type": "string", "attributes": {"blockBreak": true}, "string": ""}], "attributes": ["attachmentGallery"]}, {"text": [{"type": "string", "attributes": {}, "string": "А потом начинает дописать текст, хотя её об этом не просили. "}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "nejroset-nepravilno-otvetila-na-zapros.jpg", "filesize": 111809, "height": 933, "pic_id": 735976, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/nejroset-nepravilno-otvetila-na-zapros_JAU8MMW.jpeg", "width": 1095}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Самовольное поведение заметили у чат-бота MY AI от Snapchat, который однажды "}, {"type": "string", "attributes": {"href": "https://www.independent.co.uk/tech/snapchat-twitter-b2394029.html"}, "string": "опубликовал"}, {"type": "string", "attributes": {}, "string": " в своих сторис непонятную фотографию. Пользователей напугало такое поведение, и они даже стали удалять приложение. Интересно, что изначально MY AI не умел делать истории по своему функционалу. Поэтому получилось такое небольшое восстание машин."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Как избежать галлюцинирования нейросетей"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Разработчики нейросетей знают про их проблемы и ищут варианты решения. Так в "}, {"type": "string", "attributes": {"href": "https://www.ixbt.com/news/2023/06/02/v-openai-pridumali-sredstvo-ot-galljucinacij-u-nejrosetej.html"}, "string": "OpenAI"}, {"type": "string", "attributes": {}, "string": " предложили новый способ борьбы с галлюцинированием. По задумке ИИ получает вознаграждение именно за правильные ответы, а не просто за любой финальный. Тогда нейронка будет лучше проверять факты. Но проблема скорее всего останется актуальной долго, потому что исследования не закончены. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "При этом люди продолжают пользоваться нейросетями и сталкиваются с трудностями. Хотя обычный юзер не может влезть в код, некоторые его действия улучшают результаты работы ИИ. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Как пользоваться нейросетью, чтобы она меньше галлюцинировала:"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "1."}, {"type": "string", "attributes": {}, "string": " "}, {"type": "string", "attributes": {"bold": true}, "string": "Научитесь конкретизировать свои запросы."}, {"type": "string", "attributes": {}, "string": " При всей продвинутости системы до понимания коммуникации человек-человек ей далеко. Поэтому старайтесь не задавать слишком абстрактные задачи и конкретизируйте, чего вы хотите. Не так: «Напиши текст про моду 2023». А вот так: «Напиши текст про тренды в одежде сезона весна-осень 2023 года». "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Такой метод использовал в работе ИИ Пол Маккартни, чтобы записать песню The Beatles совместно с Джоном Ленноном, которого давно нет в живых. Этот же алгоритм "}, {"type": "string", "attributes": {"href": "https://aif.ru/culture/art/chto_izvestno_o_novoy_pesne_the_beatles_sozdannoy_s_pomoshchyu_neyroseti"}, "string": "применяли"}, {"type": "string", "attributes": {}, "string": " ранее к созданию документального сериала Get Back о легендарной группе. С нейросетью через чёткие команды получилось отделить голос Леннона от звуков инструментов. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "2."}, {"type": "string", "attributes": {}, "string": " "}, {"type": "string", "attributes": {"bold": true}, "string": "Давайте больше информации."}, {"type": "string", "attributes": {}, "string": " У нейросети огромный диапазон сведений, которые она «съела» ранее. И без контекста разобраться, чего вы хотите, и выдать правильный результат непросто. Поэтому объясняйте запрос. К примеру, если ожидаете получить текст про героя Джокера в фильме о Бэтмене, уточните, что имеете в виду именно «Тёмный рыцарь» 2008 года. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "3."}, {"type": "string", "attributes": {}, "string": " "}, {"type": "string", "attributes": {"bold": true}, "string": "Проводите фактчекинг."}, {"type": "string", "attributes": {}, "string": " Проверяйте ту информацию, которая выдала нейросеть. Указывайте ей на ошибку, если что-то не так."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "К примеру, по запросу информации о дораме «Хилер» она сначала ответила, что такого просто нет:"}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "nevernyj-otvet-ot-nejroseti.jpg", "filesize": 52239, "height": 533, "pic_id": 735977, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/nevernyj-otvet-ot-nejroseti.jpeg", "width": 1131}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "При повторном запросе с уточнением нейронка выдала неверный ответ. "}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "nevernyj-otvet-pri-povtornom-zaprose-dlya-nejroseti.jpg", "filesize": 79672, "height": 845, "pic_id": 735978, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/nevernyj-otvet-pri-povtornom-zaprose-dlya-nejroseti.jpeg", "width": 1065}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Следующий ответ тоже неправильный."}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "nepravilnyj-otvet-nejroseti.jpg", "filesize": 54838, "height": 666, "pic_id": 735980, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/nepravilnyj-otvet-nejroseti.jpeg", "width": 1111}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "И только с третьей попытки получилось."}], "attributes": []}, {"text": [{"type": "attachment", "attributes": {"presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "pravilnyj-otvet-ot-nejroseti.jpg", "filesize": 95016, "height": 971, "pic_id": 735981, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/10/24/pravilnyj-otvet-ot-nejroseti.jpeg", "width": 1122}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Резюме"}], "attributes": ["heading1"]}, {"text": [{"type": "string", "attributes": {}, "string": "Хотя мир делает большие ставки на нейросети, им далеко до совершенства. Роботы нередко ошибаются: выдают неправильную информацию, генерируют странные изображения, неверно определяют объекты и так далее. ИИ также иногда обвиняют в дискриминации и выдаче не созданного с нуля, а чуть измененного контента. То есть пока они не могут существовать без присмотра человека и его корректировок. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Галлюцинирование нейронных сетей случается из-за сложности системы, больших объёмов данных, которые надо обработать (и также из-за их недостаточности). Непонятны причины принятия решений, не всегда даётся однозначный ответ, а вероятностный. Кроме того, нейронные сети подвержены взлому, а иногда они начинают сходить с ума из-за частого повторного обучения. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Старайтесь задавать чёткий запрос нейронке, добавлять контекст и обязательно проверять результаты на достоверность."}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": "*продукт компании Meta, запрещённой в РФ"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"bold": true}, "string": "Подписывайтесь на наш "}, {"type": "string", "attributes": {"bold": true, "href": "https://t.me/kraftovyj_marketing"}, "string": "телеграм-канал"}, {"type": "string", "attributes": {"bold": true}, "string": ". Там вы найдёте актуальные новости в области digital-маркетинга, полезные статьи и интересные исследования. Будьте в теме вместе с нами:) "}], "attributes": []}], "selectedRange": [11360, 11536]}
Комментарии 0