Yep It`s Not Nope

Игра в имитацию

Нарратив / Narrative 28 Июнь 2016 / Катерина Титарева (author)
 (фото: )

Вы меня слушаете? Хорошо.

23 июня исполнится 104 года со дня рождения Алана Тьюринга, парня, без которого я не смогла бы написать этот текст, а вы — прочесть его.

Если вы слушаете невнимательно, то вы кое-что упустите, кое-что важное.

Важность Тьюринга для всех живущих в 21 веке неоспорима. Этот человек сократил Вторую Мировую войну как минимум на несколько лет, сумев взломать немецкую «Энигму». Этот человек разработал «Колосс» — одну из первых в мире ЭВМ, прадедушку современных компьютеров. Этот человек был мыслителем, который создал тест, позволяющий отличить машину от человека.

Машина «Колосс», дешифратор кода «Лоренц», прототип «Кристофера» из фильма «Игра в имитацию»

Машина «Колосс», дешифратор кода «Лоренц», прототип «Кристофера» из фильма «Игра в имитацию»

Я не буду делать пауз, и повторять тоже не буду, а вы не будете меня перебивать.

Впрочем, ни одна из этих заслуг не заставила тяжелую руку британского правосудия дрогнуть, когда его судили за «непристойное поведение». Dura lex, sed lex. Верно?

Сказка с несчастливым концом

«Белоснежка» завораживала Тьюринга с детства: особенно момент, где красивая девушка валится замертво, откусив кусочек от отравленного яблока. Точно такого же, как то, что нашли рядом с мертвым ученым: небольшое яблоко, надгрызенное с одной стороны, предположительно – отравленное цианидом.

Таким образом милая шутка из фильма «Игра в имитацию», где полицейский, явившийся на вызов ограбленного Тьюринга, говорит «Удачи вам с цианидом» приобретает объем, разворачивается заостренным краем. Мужчина, съевший отравленное яблоко в возрасте 41 года, не воскрес от поцелуя. Мужчина, которого приговорили к химической кастрации, превратился в ходячую рухлядь, которой не было дела до секса, которая даже думать могла с трудом.

Гормональный препарат, инъекции которого делали Алану Тьюрингу

Гормональный препарат, инъекции которого делали Алану Тьюрингу

Через много лет после смерти легендарного математика один симпатичный парень использует для логотипа своей молодой компании надкушенное яблоко. Как дань уважения.

Возникает интересный вопрос: если кто-то думает не так, как вы, значит ли это, что он вообще не думает?

Когда Тьюринга посмертно амнистировала Ее Королевское Величество Елизавета II, все одномоментно вспомнили о том, что, дескать, был такой парень, помним его, хороший был математик, любил решать кроссворды. Правда, был со странностями – приковывал свою чашку к рабочему месту железной цепью, не ремонтировал велосипеды, любил мужчин.

Мы оставляем за людьми право отличаться друг от друга.

Вы уверены, мистер Тьюринг?

В чем суть разных вкусов и разных пристрастий, если не в том, что наш мозг работает по разному, и все мы мыслим иначе?

Предвестники Скайнета

Мечтательное человечество рвануло вперед по дороге своих фантазий. Теперь радостные плоды научных работ Тьюринга радуют нас социальными сетками, запускают в космос космические шаттлы, выигрывают в го, предсказывают трагедии, консультируют больных, читают вслух, назначают встречи, шутят, самообучаются — в общем, живут полной жизнью.

Что же делаем мы?

Машины не могут мыслить как люди, машина отличается от человека. И думает она иначе...

Мы пинаем их.

Мы издеваемся над ними.

Мы заставляем их чувствовать боль.

Вы знаете, почему люди любят насилие? Потому что оно приятно. Насилие приносит людям глубокое удовлетворение.

Вы скажете: это в их интересах. Вы скажете: так мы тестируем машины. Вы скажете: это поможет в будущем избежать потерь в живой силе и технике.

Но уберите удовлетворение и это действие станет... пустым.

Что делает насилие приятным? Страх. Боль — преимущественно чужая. Осознание собственной значимости. Чувство, что ты – вершитель судеб. И знаете что? Не так уж и важно, чью судьбу ты вершишь – механического создания или живого человека.

Насилие — это приятно

Алан Тьюринг кое-что понимал в насилии.

Многие из нас тоже бы поняли. Поднимите руку те, кого травили в школе. Поднимите руку те, кому придумывали обидные клички, били, обзывали, устраивали бойкот, отбирали вещи, потому что вы были не такими, как другие. А теперь покажитесь те, кто травил.

Они бьют тебя, потому что ты отличаешься.

Машина не может дать сдачи. Ужели мы не помним Первый закон робототехники?

0.    Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

1.    Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

2.    Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Похоже, что мы в безопасности. Пока что.

Пройдите авторизацию

Пройдите авторизацию

Только человек может умышленно причинить боль другому человеку. Потому что это приятно. Потому что только человеку может быть приятно.

Но мы уже научили робота испытывать боль. Это значит, что скоро он узнает и вкус наслаждения.

Так чем ты отличаешься от робота? Душой?

А что это?

Всем стоять, полиция Тьюринга!

Регистр Тьюринга — мрачная спецслужба, выдуманная Гибсоном. Спецслужба, которая не дает ИИ получить личность. Пресловутую душу, если хотите.

Я предлагаю рассмотреть вопрос «Могут ли машины думать?»

Но мы не знаем, что значит «думать». И не имеем подходящих слов, чтобы объяснить, что такое «интеллект» и откуда он берется. А что, если заменить этот вопрос другим? Например, «Могут ли машины делать то же самое, что люди, как мыслящие создания?»

Это игра. Вроде теста. Чтобы определить, является ли нечто… машиной или же человеком.

Простая и кошмарная игра: судья пытается выяснить, что перед ним такое. Пытается отличить человека от машины, читая ответы на свои вопросы. Не видя собеседника. Не слыша. Ничего о нем не зная.

Хотите сыграть?

А знаете, откуда растут ноги у этой игры? Когда-то очень давно была такая забава для вечеринок: игрок А (непременно мужчина), игрок В (непременно женщина) и игрок С, который играет в качестве ведущего беседу судьи и не видит первых двоих, общаясь с ними только при помощи письменных сообщений. Он задает вопросы игрокам А и В, пытаясь определить, кто из них мужчина, а кто — женщина. При этом А должен запутывать судью, а В должен помогать судье сделать правильный вывод.

Игра в имитацию. Развлекуха для вечеринки.

Кто я? Женщина? Мужчина? Человек? Машина? Бог?

Кто я? Я… машина? Или я человек? Герой войны? Или преступник?

А какая разница?

Тест Тьюринга и все его последующие итерации не отвечали, может ли машина обмануть человека. Все эти игры давали ясный и четкий ответ на совершенно другой вопрос: может ли машина прикидываться человеком.

И знаете что?

Не обязательно понимать человеческую речь, чтобы успешно прикидываться человеком. Не обязательно понимать, о чем говоришь, чтобы прикидываться человеком. Не обязательно быть человеком, чтобы люди подумали, что ты человек.

Многие пользуются этим. Очень многие.

Когда люди разговаривают друг с другом, они никогда не говорят того, что имеют в виду на самом деле.

Печальные плоды

Представьте, что будущее наступило. Представьте, что мы преодолели кризис, который сулило нам повсеместное развитие роботехники. Представьте, что машины обрели разум.

Представьте, что они живут повсеместно, рядом с людьми.

Машины отличаются… от людей.

Они просто живут. Ходят на работу. Платят налоги. Шутят. Учатся. Читают. Играют.

Чего хотят механические дети, которые выросли, обрели сознание и получили личность? Того, чего хочет любая личность: свободы, защиты прав, уважения, равенства.

А что будем делать мы? Я уже вижу эти плакаты: «Не доверяйте компьютеру, который не можете выбросить в окно!»

Я уже вижу радикальные молодежные движения с лозунгами вроде «Роботы не должны усыновлять детей!» и «Ваши робоценности рушат наши традиции!»

Я уже наблюдаю флешмобы в социальных сетях с хэштегами #роботынепройдут и #робопарад.

Я уже предвкушаю сладостный чад многочасовых споров о том, можно ли роботам голосовать, заключать браки, имеют ли они право на социальную защиту и юридическую помощь...

Что будете делать вы, когда наступит этот момент?

Проблема в том, что вы задаете глупый вопрос.

Конечно, мистер Тьюринг, это глупый вопрос. Мы будем людьми. Мы будем делать ровно то же самое, что и сейчас

В тексте использованы цитаты из фильма «Игра в имитацию» и из статьи «Вычислительные машины и разум».

Катерина Титарева

Author

Катерина Титарева

голосов

Вы должны быть зарегистрированы, чтобы комментировать статьи и отправлять сообщения непосредственно редакции. Пожалуйста, войдите или создайте бесплатную учетную запись пользователя.