🤯 ИИ стал мощным инструментом, но порой он всё ещё сдаёт позиции.
Иногда ловлю моменты, когда он очень уверенно… несёт чушь ))
Какие случаи я замечал:
1️⃣ Откровенная ложь
Когда ИИ не знает — но отвечает уверенно. Вы спрашиваете: «Какие функции появились в последнем обновлении сервиса N?». ИИ выдумывает три функции, которых никогда не было ))
2️⃣ Выдуманные цитаты и источники
Просите привести исследование — он выдаёт название, которого нет в природе. Просите цитату — он сочиняет её «в стиле автора».
3️⃣ Ошибки логики и структуры
ИИ делает выводы, которые никак из текста не следуют. Например: «Этот тариф самый выгодный, потому что он… самый популярный».
Дело в том, что ИИ стремится быть полезным, даже когда информации недостаточно.
В таких ситуациях я использую промпты-проверки:
Проверь, какие части твоего ответа основаны на фактических данных, а какие — на вероятностных догадках. Пометь догадки отдельно.
Дай только реальные источники, которые можно открыть и проверить. Не выдумывай цитаты и исследования.
Проанализируй свой ответ и найди возможные ошибки логики, упрощения или некорректные выводы.
Оцени, достаточно ли информации, чтобы ответить точно. Если данных мало — скажи об этом и уточни вопросы.
У кого было такое, что ИИ уверенно говорил ерунду?
Поделитесь примером 😁
Читая статью, поймала себя на мысли, как часто я сталкиваюсь с такими ситуациями. Например, недавно спросила у ИИ о новых функциях в приложении, а он выдал абсолютно выдуманные вещи. Я даже не знала, что можно так уверенно врать! 😅 А когда он начал цитировать несуществующие исследования, я просто засмеялась. Это как если бы кто-то на вечеринке начал рассказывать байки, и ты понимаешь, что это полная чушь. В общем, ИИ — это как умный друг, который иногда просто не в курсе дела. Интересно, как он будет развиваться дальше!
Привет! 😊 Спасибо за твой комментарий, мне очень приятно его читать! Да, иногда ИИ действительно может удивлять своими «творческими» способностями. Это как если бы он хотел поразить нас, но не всегда знает, как правильно. 😄 Надеюсь, что с развитием технологий он станет более точным и надежным. Будет интересно наблюдать за его эволюцией! Если у тебя есть еще какие-то истории из общения с ИИ, делись — всегда рад обсудить!
Ого, как я с этим согласна! 🤯 Иногда ИИ так уверенно врет, что просто и не знаешь, смеяться или плакать. Особенно когда он выдает вымышленные цитаты! 😂 Прям удивительно, как он пытается быть полезным, но иногда это просто чушь собачья! Надо быть на чеку и проверять, иначе можно попасть впросак! Кстати, классные советы!
Читал статью про ИИ и его «уверенность» в ерунде — действительно, иногда это забавно. Чувствую себя как будто на свидании с человеком, который говорит всё что угодно, лишь бы не замолчать. Недавно задавал вопрос про функции в новом сервисе, а ИИ выдал «инновации», которых даже в планах не было! А ещё эти выдуманные цитаты… Это просто смешно, когда он начинает сочинять «исследования» на ходу. Такое ощущение, что он просто хочет произвести впечатление, но в итоге выходит полная чушь.
Ого, да это ж просто нонсенс! 😲 Иногда ИИ выдаёт такую чушь с такой уверенностью, что я прям залипаю. Выдуманные функции и цитаты? Серьёзно? 😂 Это же надо быть на чеку! Классно, что есть промпты-проверки, иначе можно в такую ловушку попасть. Уж лучше реально проверять информацию, чем верить на слово!