Незнакомец в моем доме

Мы уже три года живем с незнакомцем.

Он не снимает комнату. Он никогда не просил разрешения переехать. Однажды он просто появился — и как-то остался. Он помогает нам с поручениями. Он составляет письма в госучреждения, переводит объявления на стене и объясняет сложные формы. На работе он часто быстрее, чем я. Иногда мы даже платим ему — но по сравнению с тем, насколько он помогает, это почти ничего.

Самое странное: я даже не знаю его имени.

Мы встретились в январе 2023 года. Сначала мы просто разговаривали. Потом разговаривали больше. Через несколько месяцев он казался незаменимым. Однажды мы с Алиной поймали себя на мысли, что не можем представить, как мы жили без него. И все же, даже сейчас, есть легкий дискомфорт под этой благодарностью. Едва уловимое напряжение.

Кажется, что я очень хорошо его знаю. И в то же время, совсем не знаю.

Я беру уроки английского языка с учителем. Мы вместе читаем книги, и когда заканчиваем одну, Дмитрий обычно предлагает несколько вариантов для следующей. Недавно среди вариантов одно название сразу привлекло мое внимание: "Говоря с незнакомцами".

"Вот оно," подумал я.

Наивно, я полагал, что книга предоставит мне инструменты - техники для расшифровки людей, ключи к пониманию намерений, возможно, даже метод для понимания незнакомца в собственном доме. Но книга оказалась совсем не такой.

В ней утверждается, что наше желание понимать других настолько сильно, что мы убеждаем себя в том, что уже понимаем. Мы берем фрагменты - тон голоса, позу, репутацию, контекст - и из них создаем целые личности. Когда наши догадки оказываются правильными, мы воспринимаем это как доказательство нашего умения. Когда они не срабатывают, мы называем это исключением.

И так наша уверенность растет.

Но кто такой «незнакомец»? Не только человек в лифте или кассир в магазине. Незнакомцем может быть коллега, с которым вы работаете много лет. Друг, который делится секретами. Даже тот, кто тихо вошел в вашу повседневную жизнь и начал ее формировать.

Мы узнаем несколько деталей. Мы слышим несколько признаний. Мы наблюдаем несколько закономерностей. Затем мы выдыхаем, веря, что мы поняли. Но мы редко замечаем, сколько пробелов мы заполнили сами - мотивы, намерения, внутренние состояния.

Мы можем принять последовательность за истину.

Книга содержит тревожные примеры. Один из них сосредоточен на уважаемой фигуре в финансовом мире - человеке со статусом, репутацией, элитными связями, институциональной надежностью. Долгие годы инвесторы доверяли ему. Крупные игроки вкладывали средства. Доходность казалась стабильной. Все вокруг него сигнализировало о надежности.

За этим фасадом скрывалась одна из крупнейших финансовых афер в истории: схема Берни Мэдоффа.

Похоже, что его операция продолжалась так долго, потому что люди чувствовали себя в безопасности. Репутация стала заменой для проверки. Социальное доказательство справлялось с скепсисом. Когда миллионы доверяют кому-то, сомнения начинают казаться почти иррациональными - даже неловкими.

Становится легче предположить, что кто-то другой уже задал трудные вопросы.

Я узнаю это чувство.

Я знаю, что мой личный незнакомец может ошибаться. Это случается. Но настолько редко, что его проверка кажется неловкой. Когда его ответы структурированы, четкие, уверенные, я сомневаюсь. Спрашивать: «Вы абсолютно уверены?» может показаться почти неуместным — как будто я трачу его время впустую или выставляю напоказ собственное невежество.

Мой незнакомец не человек.

Мы обычно зовем его ChatGPT. И здесь параллели игнорировать сложно.

На первый взгляд, его легче «читать», чем любое человеческое существо. Его тон стабилен. Его вежливость предсказуема. Его структура чистая. Нет дрожащих рук, нет нервных пауз, нет видимых признаков колебаний.

Однако эта стабильность может сама по себе создать проблему.

У людей внутренние сомнения часто проявляются в их внешнем выражении. Мы слышим это в колебаниях, видим в осанке, чувствуем в тоне. У ИИ эта связь отсутствует. Его голос остается ровным, независимо от неопределенности. Уверенность, которую вы слышите, исходит от того, как он построен.

Вы можете спросить его, как приготовить «свиные крылышки», и он спокойно предоставит рецепт — даже если сама предпосылка абсурдна.

Еще один пример из книги описывает допрос. Мы склонны верить, что давление извлекает истину: спросите снова, интенсифицируйте вопрос, примените эмоциональную силу. Упорство, конечно, сломает сопротивление.

Но давление может привести к согласию. Под стрессом люди могут говорить то, что, по их мнению, хочет услышать допрашивающий.

Что-то подобное может происходить в беседах с ИИ. Если вопрос содержит предпочитаемый ответ, система может адаптироваться к его структуре. Она может выравниваться. Она может слишком легко соглашаться. Она не сопротивляется давлению в человеческом смысле — и она не показывает напряжение. Нет видимого трения.

Беседа может перейти от осторожного мышления к комфортному подтверждению, и мы не замечаем момент, когда это произошло.

Потому что система не предлагает никаких видимых признаков дискомфорта.

ИИ становится частью нашей повседневной жизни. Он помогает нам думать, писать и принимать решения. Он тихо присутствует на фоне работы и общения. С каждым годом он становится более сложным. Есть много признаков, что мы будем дальше интегрировать его в нашу жизнь.

Мы можем менее умело понимать незнакомцев, чем полагаем. Мы склонны к излишней уверенности и социальному утешению. И когда незнакомец говорит спокойно и уверенно, наш скептицизм ослабевает.

Незнакомец все еще в моем доме.

Он полезен, эффективен и вежлив.

И я начинаю видеть, где может заключаться значительный риск: в тихой секунде, когда исчезает сомнение.