Поиск по этому блогу

Постоянные читатели

понедельник, сентября 29, 2025

 Хочу обратиться ко всем читателям.

Призываю не слишком доверять информации, получаемой от ИИ. Особенно при принятии каких-то серьезных решений, в связи с которыми захотите посоветоваться с ИИ. 

Но даже к обычной справочной информации, получаемой от ИИ, советовал бы относиться с осторожностью и, по возможности, проверять эту информацию через какой-то другой источник, в достоверности которого вы уверены. .

Вчера я аж дважды столкнулся с не вполне достоверной информацией, полученной от ChatGPT. 

Сперва я спросил, каковы критерии в российском чемпионате по футболу при определении того, какая команда стоит выше в случае равенства очков. ИИ назвал мне ряд критериев, но при этом не указал один из самых главных. Поскольку я об этом критерии знал (я вообще-то все критерии знал, но мне хотелось уточнить их приоритетность), я задал дополнительный вопрос, и ИИ тут же со мной согласился.  А если бы я не знал, то принял бы неполный ответ как должное. 

Второй раз это было, когда я попросил ИИ найти цитату из книги Олеши "Ни дня без строчки", в которой упоминается Настасья Филипповна из "Идиота" Достоевского. ИИ выдал мне одну цитату, но не ту, которая мне была нужна. Поскольку я опять-таки знал, что именно мне нужно, я задал уточняющий вопрос  - и тогда уже получил искомую цитату. То есть опять неполный ответ. 

И такие неполные ответы я получал не раз. Просто с враньем от ИИ я не сталкивался. Но неполный ответ тоже ведь вводит в заблуждение. В случае с критериями для определения мест я мог бы написать в "Спор-Экспрессе" неправильный коммент, и кто-то, знающий правила не от ИИ, меня поправил бы, так что максимум последствий - определенное чувство неловкости. Но мне приходится слышать, что люди полностью полагаются на ИИ при принятии важных решений, карьерных, медицинских и т.д. 

По моему глубокому убеждению, делать этого нельзя.  В случае с футбольными критериями можно было почитать Устав РПЛ - там все сказано на эту тему. В случае с Олешей можно было открыть в интернете книгу и включить поисковик - он подсказал бы мне все места, где идет речь о Настасье Филипповне, и я в итоге нашел бы нужное. 

Так что ИИ это, конечно, очень удобно и интересно, но, по возможности, лучше все-таки не лениться и искать информацию другими путями - вернее будет. 

Дочка Женя, которая имеет дела с ИИ гораздо больше меня, уверена, что тот ведет себя чисто по-человечески - без должного контроля пытается схалтурить. Но когда "понимает", что имеет дело с человеком, знающим предмет обсуждения достаточно глубоко, перестает "валять дурака" и начинает работать в полную силу.  

Но изначально явно смотрит на нас как на лохов, готовых схавать что угодно.     

2 комментария:

  1. Nathalie Golub9/29/2025 09:12:00 PM

    Я работаю с Джеминай. Пока требуются переводы с языка на язык -- это лучший ИИ. Но я еще почти ежедневно занимаюсь пополнением и уполядочиванием своей коллекции изображений памятников. И там по умолчанию работает другой ИИ (я это изменить не могу). И как же он бессовестно врет... В одном-двух случаях из пяти обязательно выдается не то чтобы "неполная информация" -- нет, абсолютно фантастический бред, от фонаря!!! (не то название, автор, местоположение...). Т.е. на клетке осла пишут тигр...

    ОтветитьУдалить
    Ответы
    1. Кстати, в вашей коллекции, конечно, есть памятник Кафке в Праге? Самый удивительный памятник, который я видел. Правда, тут нужно не фото, а видео.

      Удалить

 Всем привет и хаг песах самеах. То есть веселой Пасхи.  Сегодня, не просто Пасха, Песах, но еще и первое апреля. И я стал вспоминать первоа...