Статья по теме: Борьба с предвзятостью

[Shishirgano9]

ИИ. часть 1: Признание предвзятости Что такое галлюцинации генеративного ИИ? Мы кратко упомянули ситуации. когда генеративный ИИ «галлюцинирует» при генерации ответов. но Барс Юхас. исследователь военного и оборонного ИИ. основатель и разработчик Undetectable AI . инструмента для написания текстов на основе генеративного ИИ. предоставил CMSWire прекрасную аналогию. которая объясняет это явление. «Представьте себе ИИ как робота с большим мозгом. который может говорить и писать».

сказал Юхаш. «Иногда этот мозг может быть похож на Список адресов электронной почты Панамы: 440115 Контактные лица гиперактивного ребенка. выдумывающего дикие истории; это потому. что он «недетерминирован». что означает. что он непредсказуем. Изменяя его настройки настроения («температуру»).

мы можем сделать его более разумным или креативным. Когда он становится слишком креативным и выдумывает всякую всячину. это называется «галлюцинация». Юхаш объяснил. что исследователи находят эти выдуманные фрагменты. проверяя. насколько слова взволнованы и случайны. «Они также успокаивают ИИ. задавая один и тот же вопрос много раз и усредняя ответы.

что-то вроде командной работы при решении сложной математической задачи. Это не дает ИИ слишком разыграться в своем воображении». Присоединяйтесь к ведущему сообществу профессионалов в области клиентского опыта Введите рабочий адрес электронной почты Присоединяйтесь к сообществу Отправляя эту форму. вы соглашаетесь с нашей политикой конфиденциальности и соглашаетесь на то. чтобы с вами связывались сотрудники SMG/CMSWire. Юхасц продолжил объяснять. как работают ограничители. заявив.