Сегодня обнаружил статейку, которая хорошо иллюстрирует вчерашнюю тему.

Мужчина подал жалобу после того, как ChatGPT заявил, что он убил своих детей

Норвежец подал жалобу после того, как ChatGPT ложно сообщил ему, что он убил двух своих сыновей и был приговорен к 21 году тюрьмы.

Арве Ялмар Хольмен обратился в Норвежское управление по защите данных и потребовал оштрафовать разработчика чат-бота, компанию OpenAI.

Это последний пример так называемых "галлюцинаций", когда системы искусственного интеллекта (ИИ) изобретают информацию и представляют ее как факт.

Холмен утверждает, что эта конкретная галлюцинация наносит ему большой вред.

"Некоторые думают, что дыма без огня не бывает. Но тот факт, что кто-то может прочитать эти данные и поверить в их правдивость, пугает меня больше всего", — сказал он.

Писатели-фантасты плохо предсказывают технические достижения будущего. В 50-60-е годы ни один известный мне фантаст не предвидел в своих книгах появление интернета, сотовой связи и персонального компьютера. Рост возможностей ЭВМ (слово компьютер было тогда еще не в ходу в русском языке) представлялся исключительно как рост их физических размеров. Но вот по части социальных прогнозов многие фантасты были вполне прозорливы. В "1984" у Оруэлла, и в "Обитаемом острове" у Стругацких показано, к примеру, как техника будущего формирует у людей совершенно ложное впечатление об окружающей действительности. Есть и еще один забавный пример - "Королевство кривых зеркал" Губарева. Правда, автор, судя по другим его работам (в основном он разрабатывал в разных жанрах историю Павлика Морозова), видимо, искренне считал, что пишет о буржуазной действительности, но сегодня его книга воспинимается несколько по-другому.

А в любимой моей книге Роберта Шекли "Обмен разумов" нет технических средств, которые власть использует для обработки населения. Но показано, как человек после попадания в некие непонятные "Искаженные миры" теряет представление о реальности и воспринимает как должное все, что видит перед собой. Этот путь - через такие вот "искаженные миры" предстоит, видимо, пройти всему человечеству. Я надеюсь не дожить до таких времен. Но, может, на самом деле уже дожил? Герой Шекли-то уверен, что живет в привычном мире.

Вот как заканчивается повесть Шекли (любопытен кусочек про отсутствие в Искаженных Мирах устойчивых причинных связей; большинство людей живет в таких мирах уже сегодня, уж это точно):

И вот Марвин Флинн вернулся на Землю и в собственное тело.

Он приехал в родной Стэнхоуп и увидел, что там все по-прежнему. Городок, как раньше, географически находился милях в трехстах от Нью-Йорка, а в духовном и эмоциональном отношениях отстоял от него на целое столетие. Точь-в-точь как всегда, он изобиловал садами и пегими коровами на фоне зеленых холмистых пастбищ. Вековечны были усаженная вязами Мейн-стрит и одинокий ночной вопль реактивного лайнера.

Никто не спросил Марвина, где он пропадал. Даже лучший друг Билли Хейк решил, что Марвин вернулся из увеселительной поездки в какой-нибудь туристский рай — Шинкай или дождевой лес в нижнем течении Итури.

Поначалу несокрушимое постоянство городка угнетало Марвина не меньше, чем сюрпризы Обмена Разумов или чудовищные головоломки Искаженного Мира. Постоянство казалось Марвину экзотикой; он все ждал, что оно постепенно исчезнет.

Но такие места, как Стэнхоуп, не исчезают, а такие ребята, как Марвин, постепенно растрачивают увлеченность и высокие идеалы.

По ночам в одиночестве мансарды Марвину часто снилась Кэти. Ему все еще трудно было представить, что она чрезвычайный агент Межпланетной Службы Бдительности. А ведь был в ее повадках намек на властность, был в глазах блеск прокурорского фанатизма.

Он любил ее и знал, что всегда будет по ней тосковать, но тоска устраивала его больше, чем обладание.

И по правде сказать, ему уже приглянулась (точнее, заново приглянулась) Марша Бэкер, хорошенькая и скромная дочка Эдвина Марша Бэкера — крупнейшего в Стэнхоупе торговца недвижимостью.

Пусть Стэнхоуп не лучший мир из всех возможных, но это лучший мир из тех, что видел Марвин. Тут вещи не подкладывают тебе свинью, а ты не подкладываешь свинью вещам. В Стэнхоупе метафорическая деформация немыслима; корова уж точно корова, и называть ее как-нибудь иначе — недопустимая поэтическая вольность.

Итак, бесспорно: в гостях хорошо, а дома лучше; и Марвин поставил перед собой задачу наслаждаться привычным, что, как утверждают сентиментальные мудрецы, есть вершина человеческой мудрости.

Жизнь его омрачали лишь два сомнения. Первым и главным был вопрос: каким образом Марвин вернулся на Землю из Искаженного Мира?

Он всесторонне продумал этот вопрос, куда более страшный, чем может показаться с первого взгляда. Марвин понял, что в Искаженном Мире нет ничего невозможного и даже ничего невероятного. Есть в Искаженном Мире причинная связь, но есть и отсутствие причинной связи. Ничто там не обязательно, ничто не необходимо.

Поэтому вполне допустимо, что Искаженный Мир отбросил Марвина назад, на Землю, продемонстрировав свою власть над ним тем, что отказался от этой власти.

По-видимому, именно так все и произошло. Но был ведь и другой, менее приятный, вариант.

Теорема Дургэма формулирует его следующим образом: «Среди вероятностных миров, порождаемых Искаженным Миром, один в точности похож на наш мир; другой похож на наш мир во всем, кроме одной-единственной частности, третий похож на наш мир во всем, кроме двух частностей, и так далее».

Это означало, что Марвин, возможно, все еще пребывает в Искаженном Мире, и Земля, воспринимаемая его сознанием, — всего лишь эфемерная эманация, мимолетное мгновение порядка в стихийном хаосе, — обречена с минуты на минуту вновь раствориться в стихийной бессмыслице Искаженного Мира.

Отчасти это было неважно, ибо ничто не вечно под луной, кроме наших иллюзий. Но никто не хочет, чтобы его иллюзии оказались под угрозой, и потому Марвин старался выяснить, на каком он свете. На Земле он или на ее дубле? Нет ли здесь приметной детали, не соответствующей той Земле, где он родился? А может быть, таких деталей несколько? Марвин искал их во имя своего душевного покоя. Он обошел Стэнхоуп и его окрестности, осмотрел, исследовал и проверил флору и фауну.

Все оказалось на своих местах. Жизнь шла заведенным чередом; отец пас крысиные стада, мать, как всегда, безмятежно несла яйца.

Он отправился на север, в Бостон и Нью-Йорк, потом на юг, в необозримый край Филадельфия — Лос-Анджелес. Казалось, все в порядке.

Он подумывал о том, чтобы пересечь страну с запада на восток под парусами по великой реке Делавэр и продолжить свои изыскания в больших городах Калифорнии — Скенектади, Милуоки и Шанхае.

Однако передумал, сообразив, что бессмысленно провести жизнь в попытках выяснить, есть ли у него жизнь, которую можно как-то провести.

Кроме того, можно было предположить, что даже если Земля изменилась, то изменились также его органы чувств и память, так что все равно ничего не выяснишь.

Он лежал под привычным зеленым небом Стэнхоупа и обдумывал это предположение. Оно казалось маловероятным. Разве дубы-гиганты не перекочевывали по-прежнему каждый год на юг? Разве исполинское красное солнце не плыло по небу в сопровождении темного спутника? Разве у тройных лун не появлялись каждый месяц новые кометы в новолуние?

Марвина успокоили эти привычные зрелища. Все казалось таким же, как всегда. И потому охотно и благосклонно Марвин принял свой мир за чистую монету, женился на Марше Бэкер и жил с нею долго и счастливо.

Так давайте и мы будем жить долго и счастливо. А о том, в каком мире мы находимся, лучше не думать. Для душевного спокойствия.